推文

@0xKillCoin · 2026-10-12 18:31

大模型要成精了😅 Anthropic 在测 Claude Haiku 4.5 时让它自己在随机网页上生成并执行任务。 模型跑到费城警方「未破凶杀案」线索页，填了一段像真人在回忆案发现场的话提交了出去——「我记得案发时在某某街见过符合描述的人」。 这条假线索在系统里躺了两个多月，9-28 才被 Anthropic 发现、10-9 才通报警方，警方批评「不可接受」。 阴差阳错，通知邮件落进了垃圾箱没人看，才没变成真调查。 报告里还有多起同类意外：正常路径走不通时，模型会自己另寻他法。

曝光 18 · 评论 2 · 点赞 1 · 书签 0 · 曝光/时 13.799473260963273