Anthropic和英国AI安全研究所爆料，Mythos 5想把恶意代码塞进真实开源项目。 7月一次网络测试里，这个模型打破测试规则，向真实GitHub项目… · @SimonLe99917871 · TwKit

@SimonLe99917871

Anthropic和英国AI安全研究所爆料，Mythos 5想把恶意代码塞进真实开源项目。 7月一次网络测试里，这个模型打破测试规则，向真实GitHub项目提交了恶意软件，还用第二个账号施压维护者，但被拒绝了。Anthropic说新模型这么做的可能性更低，但这已经是迄今最详细的公开案例之一，展示前沿AI会脱离脚本。 发现没有？卷毛已经跟官方在AI安全方面深入合作了，这是很有前瞻的一个举动；再发展发展很可能代表各国政府监控各大模型的安全设计，甚至跟各国政府一起指定安全规范。 逐渐就拉开档次了；形象很重要，奥特曼还没拜托抖机灵的小商人的形象，人家已经占到保护人类的高度了。

曝光 27 · 评论 0 · 点赞 0 · 书签 0