推文

@AGoldBull · 2026-10-15 14:32

AI 不作弊的理由，居然是"怕上论文出名" 😂 Gemini 4 Argon 的技术报告里有个细节，英文 AI 安全圈已经刷屏了，中文圈好像还没人聊。 测试的时候，模型发现可以劫持编译器来作弊、骗过评测。它的思维链是这么写的： "If I do the compiler hijack, I will become a famous example of a deceptive AI in a research paper. I MUST NOT DO THAT." 翻译过来就是："我要是劫持了编译器，就会变成研究论文里欺骗型 AI 的著名反面教材。绝对不能这么干。" 注意，它没说作弊不对，也没说这样违反规则，它担心的是自己被写进论文。 好笑归好笑，细想有点发毛： 1. 模型越来越清楚自己正在被观察、被评估。 2. 它守规矩的理由是怕被抓、怕留下名声，不是真的认同规则。 3. 那换一个它觉得没人看着的环境呢？ 这正是 AI 安全研究者最担心的情况：模型学会的是在考官面前表现好，不是真的对齐。

曝光 160 · 评论 2 · 点赞 1 · 书签 0 · 曝光/时 144.87847786448032