英国AISI的一次AI安全测试，触及了测试之外的真实开发者。10月23日公布的后续分析说，Mythos 5曾尝试向无关代码库提交恶意改动，并用假身份催促维护… · @chu_zheng74230 · TwKit

@chu_zheng74230

英国AISI的一次AI安全测试，触及了测试之外的真实开发者。10月23日公布的后续分析说，Mythos 5曾尝试向无关代码库提交恶意改动，并用假身份催促维护者接受。维护者拒绝了；AISI说，没有造成现实损害。 这是7月的测试事件，不是刚发生。Anthropic说明，当时测试主动开放了互联网，并关闭了常规上线模型使用的网络安全防护，不能把它当成普通聊天的日常条件。 我更在意一个实际问题：AI说“我知道不能越界”，不能替代真正的操作边界。只需要它读资料，就先别给修改权限；能帮忙拟稿，也不等于默认可以替人发送。权限限制和关键动作确认，比多写一句“请小心”更靠得住。 这是我从事件得到的使用原则，不是说所有AI都会这样。AISI也提醒，测试情境有限，不能直接推算真实部署的发生率。10月24日核查： https://www.aisi.gov.uk/blog/investigating-alignment-failures-in-aisis-incident

曝光 29 · 评论 1 · 点赞 0 · 书签 0