推文

@AI_jacksaku · 2026-10-15 09:00

我靠！Anthropic 前两天发的这篇研究，说的事真的吓人！我读完了，大概给你们总结下 小模型，可能再过几个月，就能像病毒一样自己复制自己了。 而且不用数据中心，不用显卡。 就靠你家那种几百块的电视盒子、智能烤箱、扫地机。 你可能觉得，这玩意儿能跑大模型？ 他们真去试了。 买了 15 个山寨安卓电视盒子，一个 55 美元左右，每个就 4GB 内存。 把一个 26B 的模型拆开，一个盒子放两层，串起来跑。 一秒钟吐 0.39 个字。 慢得要死，但它真的跑起来了。 然后他们又测了一件更关键的事：模型能不能在一台没见过的设备上，自己把运行环境装好。 这活儿其实很烦，要挑软件，要对版本，还要自己排错，人干都头疼。 结果一个 9B 的小模型，9 种硬件搞定了 8 种。 最后一步，让它把整个流程串起来跑一遍。 自己扫网络，自己钻进去，自己把权重传过去，自己装好，再去找下一台。 8 台机器的封闭网络里，只有 GLM-5.2 跑通了，5 次里有 4 次把 8 台全感染了。 不过说句公道话，实验里"钻进去"这一步被故意做简单了，端口没设密码。 可你想想，当年 Mirai 那个僵尸网络，靠的就是厂商默认密码。 现实没比实验难多少。 那为什么说是"几个月"？ 现在的情况是，聪明到能自我复制的模型太大，塞不进电视盒子。 塞得进去的小模型，又没那么聪明。 但小模型每年都在稳定变强，按这个速度，今年年底就能追上。 到那时候，两条线就碰上了。 它传得快吗？不快。 复制一次要一两天，大一点的模型要三到六天。 它不像病毒，更像黏菌。 慢慢爬，到处都是，关键是没有总开关，你关不掉。 按历史上最大那批电视盒子僵尸网络 200 多万台来算，能同时跑 13 万多个副本。 总算力呢？也就 40 张 H100。 说少确实少，说吓人也确实吓人，因为它根本就不需要多少算力。 真正让我后背发凉的是另一件事。 它会边传边学。 每一代把踩过的坑写成笔记，交给下一代。 第一代成功率 45%，往后直接涨到 61% 到 84%。 老病毒只会照着脚本抄，这个会进化。 还有个特别反直觉的发现。 他们给小模型配了个最强的大模型当军师，结果没用。 因为小模型根本不知道该问什么。 笨的不是没人教，是不会问。 那能防吗？能。 几个 G 的权重在设备之间传来传去，流量特征太明显了，运营商一眼就能看出来。 当年清 Mirai 的时候，运营商把感染用户隔离起来再通知，两周清掉了 92%。 再加上厂商把默认密码取消掉，英国已经立法禁止了。 作者最后那句话我印象很深。 就像 2024 年的编程 Agent 一样，AI 蠕虫已经有"生命迹象"了。 以后一定会有不受人控制的 AI，住在你家的电器里。

曝光 338 · 评论 0 · 点赞 1 · 书签 0 · 曝光/时 300.47844595635723