TwKit
正在载入
TwKit

有意思,meta muse, 每 1 亿智能体日活约需 1 至 4 吉瓦 GPU 容量,假设平均用掉每周 token 额度 25%,单卡 token 吞吐而… · @tuolaji2024 · TwKit

@tuolaji2024

有意思,meta muse, 每 1 亿智能体日活约需 1 至 4 吉瓦 GPU 容量,假设平均用掉每周 token 额度 25%,单卡 token 吞吐而非参数量:每秒 3,500 到 17,500 token,高端对应万亿参数前沿模型,低端对应约 7,500 亿参数轻量模型。 规模门槛:5 亿日活、每人每周 5000 万 token、单卡每秒 1 万 token,需约 13 吉瓦,约等于 Meta 2027 与 2028 新增全部容量,含自建与第三方。 约束在 GPU 而非 CPU:模型越大单用户占的 GPU 越重,效率提升是做到数十亿日活的前提,大厂同样受限、小厂更难起量。 Muse 现状:美国每日新增下载约 30 万,日活约 250 万,14 天留存约 20%,低于 Instagram、Facebook 与谷歌。

曝光 2971 · 评论 3 · 点赞 6 · 书签 5

查看原帖