企业决策还在等大模型「先选再解析」:改看亚 100ms 的专用决策模型。 @NFT_Chen:印度 Sarvam 开源 Sarvam Prism(105B … · @Daviswh · TwKit
@Daviswh
企业决策还在等大模型「先选再解析」:改看亚 100ms 的专用决策模型。 @NFT_Chen:印度 Sarvam 开源 Sarvam Prism(105B System One)——中位延迟约 44ms、亚 100ms 决策模型均分 71.8 居首;一次前向直接出概率分布,不必再让大模型选完选项再解析。Apache 2.0 可微调自部署;HF / 博客 / Decisions API 文档已放原帖。 判断:要低延迟、可校准置信度的企业路由/风控筛选项的人先试;把 Prism 当通用聊天模型、或未设置信度阈值就自动执行的,先别上生产。
曝光 37 · 评论 1 · 点赞 1 · 书签 0
查看原帖