之前我还觉得Anthropic搞Project Glasswing然后天天强调Safety有点炒作…这几天天天史诗CVE让我突然觉得这些AI公司当时炒作安全… · @is_llll · TwKit

@is_llll

之前我还觉得Anthropic搞Project Glasswing然后天天强调Safety有点炒作…这几天天天史诗CVE让我突然觉得这些AI公司当时炒作安全问题并不是无稽之谈…因为技术是会扩散的 GLM-5.3刚发布并宣称在网络安全能力接近Mythos时。我的第一反应就是，既然模型权重公开，refusal就可以被轻松消融掉，那这就等于说把武器级别的前沿AI直接面向公众了... 正当我以为就要见证历史时，http://z.ai 以需要评估和加固安全性为由推迟了权重开源。想必当时他们已经在内部测试中脊背发凉了...但技术的扩散是没有办法阻止的，哪怕 http://z.ai 不发别家也会发。 GLM-5.3在两周后公开权重，后续的DeepSeek 4.1 Flash进一步降低了成本。如今，潘多拉魔盒已经彻底打开了。以后的开源模型网安能力只会越来越强、越来越便宜。但是显然攻防两边是完全不对称的，即使防御方可以拿到先进一代的模型，木桶效应下只要有一块短板就可能被打穿。 更何况，先进模型的访问权实际上被两家美国商业公司垄断。不是所有人都有钱、有能力能使用足够强大的模型来防御。存量的嵌入式设备和老旧软件更是根本无法快速更新，在越来越强大的AI面前他们完全是待宰的羔羊。（当然这也有好处，消费者终于能掌控自己买来的硬件了） 也许我们正在见证历史——一个每一个大猩猩都拿着加特林的全新时代...Nginx、Node.js、PHP、甚至Rust都不停爆漏洞，CA私钥泄漏，Linux内核提权一键root，PS5被破解，iOS27被攻陷，金融网站被攻陷，供应链不停被投毒（LiteLLM这是今年第二次被投毒了吧？）。各种埋藏了十几年的漏洞突然就在这几个月被全部挖出来...人类肉体凡胎写出的代码根本对抗不了不眠不休的AI Agent，也许只有硬件安全措施比如指针签名才能缓解...而且也只是缓解... 赛博朋克一点地说，也许未来人类会浪费很多算力在赛博斗蛐蛐上？进攻方燃烧token自动化进攻，防守方也燃烧token自动化防守。大量的电力和算力就这样被内耗掉了...而人类自己已经不敢自己手写东西了，因为此时只有LLM尤其是先进LLM才能写出安全的代码...这真的太反乌托邦了...

曝光 183 · 评论 2 · 点赞 1 · 书签 1