推文

@REI30327536 · 2026-10-16 00:58

你信不信，公司是什么风气，模型也会那个样。 公司风气会通过很多层“编码”潜移默化给模型，比如产品目标、系统提示、标注指南、偏好数据、红队标准、安全策略、KPI、发布尺度等等。 造成这种结果的大概的机制大概是：什么样的回答会被奖励、什么样的回答会被惩罚。如果奖励的是说教、替用户做主、先免责、少给实质内容，模型就会长成那样。如果奖励的是抬杠式纠正、防御性回应，模型也会变得像“反驳型人格”。 #OpenAI #AI #SI

曝光 307 · 评论 1 · 点赞 11 · 书签 1 · 曝光/时 31.981793657695743