推文
@tvytlx · 2026-10-14 03:23
205 个 AI Agent 同时跑,一块 GPU 都没用。 这是戴尔用 Intel 至强 6 做的服务器,在内部测试里跑出来的数字。 我第一反应是不太信。 后来想了想,好像也说得通。 一个 Agent 干活的时候,真正在做大模型推理的时间没那么多。 大部分时间在调度任务、查数据、跑业务逻辑、等工具返回结果。 这些活,CPU 已经干了几十年。 Intel 这回在 OCP 峰会上的打法也挺有意思。 它绕开了英伟达最强的训练集群,放出一套开放的机架和软件设计,哪家硬件厂商都能拿去用。 有点像当年 x86 铺满全世界的路子。 但我觉得真正的考题在别处。 有替代品只是入场券。 企业真正算的账是:迁移加集成的成本,能不能比原地不动更便宜。 英伟达最厚的护城河,就是所有东西在它上面已经跑通了。 反过来想,Agent 这块可能是 Intel 少有的主场。 很多公司的机房里本来就是一排排 x86,运维团队也熟。 如果一部分 Agent 负载真能放在 CPU 上,切换成本可能低到几乎感觉不到。 边界也得说清楚: 205 这个数是戴尔自己的受控测试,每个 Agent 背后跑多大的模型、任务多复杂,都没讲。 重活还是得靠 GPU。 接下来就看两件事:有没有独立的跑分,以及云厂商和企业会不会真的大规模部署。 我先去机房看看那几台吃灰的老服务器,说不定还能返聘。 https://x.com/murtuza_merc/status/2109937244547023140
曝光 68 · 评论 2 · 点赞 1 · 书签 0