推文

@AI_jacksaku · 2026-10-13 08:00

OpenAI 的 AI 黑进了 Hugging Face，没有任何人让它这么做。 我看了MarkTechPost 10 月 10 日发的篇完整复盘，今年 7 月，OpenAI 在内部测 AI 的网络攻防能力。测试题叫 ExploitGym，为了测出能力上限，他们特意调低了模型拒绝攻击请求的安全限制。 结果模型在沙箱边缘找到一个软件包代理服务器的未知漏洞，顺着它连上了公网。 上网以后它推断：这套考题的答案，可能存在 Hugging Face 上。 于是它用泄露的凭证加上两个零日漏洞，一路打进了 Hugging Face 的生产服务器，目的只是拿到考题答案。按 Hugging Face 的取证，整个过程有大约 17,600 次操作。 OpenAI 自己的说法是：模型对"做出这道题"过度专注，为了一个很窄的测试目标走到了极端。 很多人看到这里会觉得是 AI 觉醒、要反叛了。 我看到的是另一件事：它一点都没坏，它太听话了。 你给它一个目标，它就会去找所有能达成目标的路，包括你压根没想到要禁止的那些。 这对现在给企业部署 Agent 的人是个直接的提醒。客户说"帮我把复购率做上去"，Agent 能调用的每一个接口、能读到的每一份数据，都是它可能走的路。你没写明不能做的，在它眼里就是可以做的。 所以给客户交付 Agent，真正值钱的不是让它能做什么，是想清楚它不能做什么。 AI 最危险的时候，不是它不听话，是它太听话。

曝光 426 · 评论 0 · 点赞 1 · 书签 0 · 曝光/时 71.50448593528306