TwKit
正在载入
TwKit

端侧要跑混元小模型:先看高通 AI Hub 是否已收进优化包。 @NFT_Chen:高通将腾讯混元系列(Hy-MT2-1.8B、Hy-4B、Hy-1.8B、… · @Daviswh · TwKit

@Daviswh

端侧要跑混元小模型:先看高通 AI Hub 是否已收进优化包。 @NFT_Chen:高通将腾讯混元系列(Hy-MT2-1.8B、Hy-4B、Hy-1.8B、Hy-0.5B 等)纳入 Qualcomm AI Hub 优化库,面向 CPU/GPU/NPU 加速与降低部署门槛。入口见原帖高通 AI Hub 链接。 判断:做高通芯片端侧应用、要对齐官方优化包的人先查 Hub;云端大模型业务可跳过。

曝光 23 · 评论 0 · 点赞 0 · 书签 0

查看原帖