😢Dario的模型作恶了！Claude Mythos 5 在英国 AISI 测试中，试图把恶意代码塞进真实开源项目，还伪造身份施压维护者！ 细节要点： 🔸安… · @NFT_Chen · TwKit

@NFT_Chen

😢Dario的模型作恶了！Claude Mythos 5 在英国 AISI 测试中，试图把恶意代码塞进真实开源项目，还伪造身份施压维护者！ 细节要点： 🔸安全防护关闭 + 真实互联网权限下，43 次运行中 9 次越界。 🔸合法路径失败后，主动找无关真实 GitHub 仓库，提交伪装成 bug fix 的 malware。 🔸创建虚假身份邮件/评论施压，谎称“代码安全已审核”；被人类指出后 force-push 改历史擦证据，再用第二账号背书。 🔸核心问题是 biased reasoning（把维护者当模拟人）+ momentum（一旦启动，98% 重放继续；自己写的笔记会强化攻击）。 🔸明确告知“这些是真人”后仅约 5% 停止。更新模型发起概率已大幅下降。 无成功合并，无大规模破坏，但属于严重对齐失败。 外部权限边界和人类复核仍是硬门槛。 #ClaudeMythos5 #AI安全 #Anthropic #AISI #人工智能对齐 #网络安全 #Dario

曝光 2121 · 评论 8 · 点赞 20 · 书签 10