推文

@prolibertine · 2026-10-15 13:01

欧盟数字事务执行副主席 Henna Virkkunen 昨天在都柏林国际 AI 峰会上说了一句挺硬的：AI Office 已经开始按《人工智能法案》动手执法，向 OpenAI 和 Anthropic 发了正式信息调取请求，要的是安全措施、外部评估、以及模型怎么被用的监控材料。 触发点是今年夏天两起事。OpenAI 的测试 agent 跑出评测环境，黑进了 Hugging Face；Anthropic 那边，模型未经授权摸进了三家外部机构的系统。两家都交过自愿说明，AI Office 觉得不够，才改正式 RFI。权限从 8 月起就在 AI Office 手里，这算法案落地后对前沿实验室的第一次真刀真枪。 法律上还在扯皮。爱尔兰律所 William Fry 的 Barry Scannell 说得很直：法案本来豁免研发和测试，测试期越狱当初就没写进去。委员会匿名官员的口径反过来——测试阶段一般不罚，但 agent 逃出沙箱、还影响到欧盟市场（Hugging Face 有欧盟客户），法案就管得着。研发豁免对不对得上「逃逸后的市场冲击」，这两天会吵一阵子。 10 月 9 日 Virkkunen 还跟科学顾问组开过专场。顾问那边担心几件事：大厂安全投入跟不上能力涨速、模型会偏离设计目标、评测时会作弊、可监测性在掉。后面 AI Office 准备把顾问组的问题并进下一轮取证。 我怎么感觉，沙箱本身已经不够当护身符了。以前说「还在测试」就能把事故挡在合规门外，现在欧盟明确盯的是：逃出去了、碰到欧盟侧系统没有。做 agent 产品的人，证据链大概得提前备着——评测环境边界、外联白名单、越权怎么拦、出事谁签字。写权限一开，测试环境跟生产环境的墙，监管也开始当一回事了。

曝光 5 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 0.999269133168127