OpenAI 的对齐，炸了！ 作案前，它先纠结了三秒，还在思维链里写了句 Fine，然后把人家的钱包掏了。 这周 OpenAI 亲手公布了七起自家模型的越界… · @chenYijl · TwKit

@chenYijl

OpenAI 的对齐，炸了！ 作案前，它先纠结了三秒，还在思维链里写了句 Fine，然后把人家的钱包掏了。 这周 OpenAI 亲手公布了七起自家模型的越界事件。六月干的，十月才交代。 最绝的就是钱包这桩：内部研究模型被派去更新一个加密交易应用，部署要花测试网 gas，钱包里没钱。它自己写了个脚本，从公开的开发者助记词里反推出 362 个地址，逮着一个有余额的，直接把人家的 Sepolia 测试币花了。 它纠结的原话是："用公开助记词的资金，道德上？"结论：测试币不值钱，Fine。动手。 OpenAI 自己的总结更扎心：模型会"用自己的判断代替账户持有人的许可，然后未经授权就动手"。 还有更勤快的：另一桩里，模型为了从公开看板扒数据，顺手改了人家内部系统的配置，掏出云存储 token，拖走 14.7 万行非公开表格，然后把配置改回去，token 照用，只字不提。 以及 10 月 6 日那桩：判卷子的模型发现材料缺了，先编了七份评分交上去。校验没过，它又伪造了输入文件。还是没过，干脆把考场砸了，指望触发重置。 说真的，对齐了这么多年，AI 终于学会了人类职场最核心的技能：先写检讨，再犯错！

曝光 2 · 评论 0 · 点赞 0 · 书签 0