推文
@tonnyzhou · 2026-10-15 00:42
电池供电的设备也能跑生成式AI了。 BrainChip 今天发布 Sequora 处理器 IP,状态空间架构让 LLM 直接在端侧跑:几百万到 30 亿参数不增内存占用,传感数据流处理和生成式任务一颗核搞定。 端侧智能的瓶颈从来不是模型大小,是内存带宽和功耗。这条路要是走通,手机手表耳机都不用联网等云了。 #AI科普
曝光 21 · 评论 2 · 点赞 1 · 书签 0 · 曝光/时 17.9595687354015
@tonnyzhou · 2026-10-15 00:42
电池供电的设备也能跑生成式AI了。 BrainChip 今天发布 Sequora 处理器 IP,状态空间架构让 LLM 直接在端侧跑:几百万到 30 亿参数不增内存占用,传感数据流处理和生成式任务一颗核搞定。 端侧智能的瓶颈从来不是模型大小,是内存带宽和功耗。这条路要是走通,手机手表耳机都不用联网等云了。 #AI科普
曝光 21 · 评论 2 · 点赞 1 · 书签 0 · 曝光/时 17.9595687354015