Cloudflare 这个 Clairic,我看完觉得最有用的是那个 p_null。 字段在原文里找不到,它就返回 null,顺带告诉你它本来会猜什么、把握… · @prolibertine · TwKit
@prolibertine
Cloudflare 这个 Clairic,我看完觉得最有用的是那个 p_null。 字段在原文里找不到,它就返回 null,顺带告诉你它本来会猜什么、把握多大。文章里那封售后邮件没写快递单号,它没瞎填,guess 那栏是 $52.10,置信度 0.42,直接判空。用大模型抽 JSON,最难受的就是这种时候它会给你编一个看着很像的值。 他们拿「抽取→决策→写回复」三步,跟全程只用 GLM-5.3 比:端到端 19.3 秒对 61.7 秒,每百万单成本 6032 美元对 11740 美元。细看账单,6032 里有 5848 是最后 GLM 写回复的输出 token,前两步几乎不花钱。省下来的主要是时间,钱的大头还在生成那一步。 还有一句挺坦白:多步算术它现在不行,建议让它取值、让代码算数。 放到酒类 SaaS 里,经销商发来的订单截图、返点申请、发票,最适合这种只取值不推理的模型。按 confidence 分流,高的直接入账,低的转人工复核,比让大模型一张张读省心。
曝光 53 · 评论 3 · 点赞 2 · 书签 0
查看原帖