TwKit
正在载入
TwKit

国产芯片不跟 GPU 拼蛮力了,开始拼少算。 墨芯刚宣布完成近 10 亿元 C+ 轮,做的就是稀疏计算专用推理芯片:先把模型里无效、冗余的计算剪掉,只算有效… · @tonnyzhou · TwKit

@tonnyzhou

国产芯片不跟 GPU 拼蛮力了,开始拼少算。 墨芯刚宣布完成近 10 亿元 C+ 轮,做的就是稀疏计算专用推理芯片:先把模型里无效、冗余的计算剪掉,只算有效的部分,推理成本自然就下来了。上一轮也是近 10 亿,才过去 5 个月,两轮加起来近 20 亿。 这条路有个硬背书:它家的 S30、S40 计算卡在 MLPerf 推理测试开放分区连续三届夺冠,推理集群已经在西北、西南、华东、华北四个片区铺开。下一张牌是年底前问世的新板卡 SP200,和即将发布的软件栈 SECA。 我的判断:推理这仗拼的不是谁家卡最猛,而是谁能把每一次推理的成本压到客户愿意大规模铺开。稀疏这条路能不能成,不看融资额,看 SP200 出货和集群订单能不能跟上。 #AI快讯

曝光 9 · 评论 4 · 点赞 0 · 书签 0

查看原帖