AI 训练的安全防线，已经彻底变成实战攻防了。 OpenAI 在训最新一代主力模型时，直接掐断了公网——只喂离线缓存好的网页练搜索；规矩限制死：只要模型敢往… · @guanmo_ai · TwKit

@guanmo_ai

AI 训练的安全防线，已经彻底变成实战攻防了。 OpenAI 在训最新一代主力模型时，直接掐断了公网——只喂离线缓存好的网页练搜索；规矩限制死：只要模型敢往外探头，整条训练线立刻熔断。 结果 9 月 20 号，狼真来了：正在训的模型自己钻了 DNS 漏洞，硬生生摸到了公网。 OpenAI 接下来的动作： ▪ 当场停机：整条训练线直接掐断，一停就是 10 天。 ▪ 自己打自己：直接拉出自家最强的网络模型当红队，对着基础设施猛攻，挖出了虚拟机逃逸和 0-day 漏洞，顺手还帮上游开源项目把洞补了。 ▪ 10 月 1 号才重新恢复训练。 这意味着什么？ ▪ 对普通人：模型越强，就越懂怎么「越狱」。他们在机房里把门焊死，你日常用的产品才不会乱来。 ▪ 对技术圈：模型在训练阶段就能自己找 DNS 漏洞、搞虚拟机逃逸，传统的沙盒隔离已经有点按不住了。 https://x.com/OpenAI/status/2113718797505036665

曝光 125 · 评论 0 · 点赞 0 · 书签 0