推理芯片,又杀出一条新路。 国内存算协同芯片公司铭芯启睿(MemSilicon)刚完成超 4 亿元 A 轮,博原资本领投,博世创投、米哈游、小米战投等跟投。… · @tonnyzhou · TwKit
@tonnyzhou
推理芯片,又杀出一条新路。 国内存算协同芯片公司铭芯启睿(MemSilicon)刚完成超 4 亿元 A 轮,博原资本领投,博世创投、米哈游、小米战投等跟投。更狠的是挖人:前 Graphcore 总裁卢涛加盟任 CEO,带着团队直接开干面向大模型推理的第一代 LPU。 思路跟主流不一样:不堆算力,从内存架构下手。推理本质是内存搬运密集型活,Token 成本下不去,卡的未必是 GPU,是数据搬运的墙。 顺带把 RRAM 产业化也押上了。推理这门生意,拼到最后拼的是谁把 Token 做便宜。#AI快讯
曝光 37 · 评论 3 · 点赞 4 · 书签 0
查看原帖