NPU 部署最难的不是把模型转过去,而是报错后知道该改模型、ONNX 图,还是运行时配置。 https://arxiv.org/abs/2610.34890… · @vintcessun · TwKit
@vintcessun
NPU 部署最难的不是把模型转过去,而是报错后知道该改模型、ONNX 图,还是运行时配置。 https://arxiv.org/abs/2610.34890 AIPC 把结构化 Skills 和转换器、编译器、设备运行时及 profiling 证据串起来:定位问题后修复、重建,再到设备端复验。Whisper-Small 7 次运行有 6 次达成精度和延迟目标;YOLO-Worldv2 加速比 2.791x。对 Agent 系统来说,关键进步是从“会用工具”走向有证据支撑的部署闭环。不过评估限于 Qualcomm QAIRT 的少数案例,离通用能力还有距离。
曝光 74 · 评论 1 · 点赞 3 · 书签 0
查看原帖