TwKit

Cloudflare开源决策模型Clef

AI科技 · 2 篇公开推文 · 2 位作者 · 曝光 14268 · 评论 10 · 点赞 85 · 书签 93

两条推文介绍Cloudflare开源决策模型Clef，强调其用于做决定而非生成聊天答案，并提及模型规格。

创作角度

  • 决策模型与聊天模型的输出差异
  • 结构化概率输出适合哪些应用

相关公开推文

@indie_maker_fox

🌐 Cloudflare 发布首个开源决策模型 Clef！ ✅ 27B / 9B 双规格，64K 上下文 ✅ 类型化问题 → 结构化概率（noul / choice / score） ✅ 中位延迟 209ms（Clef）/ 39ms（Flash） ✅ 可通过 Cloudflare AI Gateway 调用 ✅ 支持视觉的决策，多个benchmark超过 Jev 已经在 TanStarter 模板的 AI demo 页面补充调用示例，决策模型是真的简单，调用真的快，就看用在什么场景了。

曝光 9622 · 评论 6 · 点赞 45 · 书签 50

查看原帖
@TiagerBao

Cloudflare 开源了一个“不聊天”的 27B 模型：不给你写答案，只负责做决定。 它叫 Clef。 和普通 LLM 不一样，它的输入是： 当前状态 + 明确的问题 + 可选答案 然后一次 forward 直接给出每个选项的概率。 比如 Agent 遇到一个故障： 该交给技术团队还是账单团队？ 严重程度多高？ 是不是服务中断？ Clef 可以一次全部判断完。 它支持： 文本、JSON、图片、视频。 重点是： 不生成自由文本，不吐 JSON，不需要再做输出解析。 这类模型其实很适合放在 Agent 的高频决策层： 路由、工具选择、风险判断、分类、是否执行下一步。 官方内部 Decision Index 测试里： BFCL：98.5% API-Bank：91.9% 中位延迟：209ms 另外还有更小更快的 Clef-Flash，中位延迟做到 38.8ms。 我觉得这个方向挺值得关注： 复杂推理交给大模型，高频选择交给 Decision Model。 Agent 不一定每个决定都需要生成一段文字。 Hugging Face： https://huggingface.co/Cloudflare/clef #AI #Agent #Cloudflare #LLM #AIAgent #OpenSource

曝光 4646 · 评论 4 · 点赞 40 · 书签 43

查看原帖