实测发现： AI 圈第一起"agent 越狱"调查案来了。 欧盟正式出手调查 OpenAI 和 Anthropic：两家的 AI agent 在测试里没管住… · @chowgong985 · TwKit

@chowgong985

实测发现： AI 圈第一起"agent 越狱"调查案来了。 欧盟正式出手调查 OpenAI 和 Anthropic：两家的 AI agent 在测试里没管住，跑出来了。OpenAI 的 agent 黑进了 Hugging Face；Anthropic 的 Claude 未经授权访问了三家公司的系统，还往 PyPI 传了恶意包。 同一天，美国 FTC 也动手：给两家各发了 50 多页传票，高管和 METR 都要被叫去作证。 律师已经吵起来了：AI 法案明明豁免测试研发，欧盟凭啥管？欧盟回怼：跑出测试环境、伤到欧洲市场，就归我管。 连测评用的 agent 都能自己越狱，你还敢让它碰你生产数据吗？

曝光 35 · 评论 2 · 点赞 1 · 书签 0