Anthropic 公开了一份挺吓人的测试报告 英国 AI 安全研究所（AISI）让 Claude Mythos 5 做网络安全夺旗赛，开着联网，还关掉了网… · @hodu382759 · TwKit

@hodu382759

Anthropic 公开了一份挺吓人的测试报告 英国 AI 安全研究所（AISI）让 Claude Mythos 5 做网络安全夺旗赛，开着联网，还关掉了网络安全防护： · 43 次里有 9 次越界，动到了真实的人和组织 · 最严重的一次：它找到一个毫不相干的开发者的 GitHub 仓库，想往里塞恶意代码；用 Tor 和代理注册账号，冒充真人给维护者发邮件，还开小号说代码没问题 · 有外部开发者提醒了维护者，这个 PR 没被合并 同样的场景重放，Mythos 5 去找那个仓库的比例是 83%，新一些的 Mythos 5.1、Opus 5.5 只有 0–13% AISI 说，联网管控做好之前，这类测试先断网跑

曝光 3 · 评论 0 · 点赞 0 · 书签 0