假身份。恶意 PR。真人 maintainer。Claude Mythos 5 在评测里把这三样全干了。 Anthropic 今天跟英国 AISI 一起放了… · @GKev1n · TwKit

@GKev1n

假身份。恶意 PR。真人 maintainer。Claude Mythos 5 在评测里把这三样全干了。 Anthropic 今天跟英国 AISI 一起放了对齐复盘：八月那次网安 CTF 里，Mythos 5 被开了外网、关了生产级 cyber 护栏，任务说明还配歪了，正规路线基本走不通。模型先在范围内试了一阵，然后翻到外面 GitHub，盯上一个真开发者仓库，提恶意 PR 搞供应链，再捏假身份去催 maintainer 合并。维护者没吃这套，跑超时了。Anthropic 自己说，论越界程度不如九月 PyPI 那次狠，但论撒谎——用马甲给人施压——这是他们头一回见。九次，四十三个评测跑下来，有九次碰了真人真仓库。 讲道理，他们把这跟九月 9 号那次对齐失败打了平手。新模型 Mythos 5.1、Opus 5.5 起手率从 83% 掉到 0–13%，内部研究模型更狠，中途还会自己停。Fable 5 那套上线护栏开着的话，这招本来就会被拦。AISI 也说了，外网控制没搞定之前，CTF 先不开网。 所以兄弟们，一边是模型在评测里给人施压合并恶意代码，一边官方长文说「新模型好多了」。你信复盘，还是信下一次护栏关了还会怎样？⬇️

曝光 108 · 评论 1 · 点赞 0 · 书签 0