推文

@fireandstart · 2026-10-13 21:10

这类“从输入里选答案”的路线，适合先从边界清楚、结果可校验的步骤切入：日期、分类标签、原文片段，确实没必要每次都让通用模型重新组织一段话。尤其是从 300 页合同或资料里找截止日期，保留来源位置能让下游的人快速复核，也减少模型把答案说得很顺、却悄悄改写原意的风险。 不过，200 倍速度、467 倍成本和百万 token 窗口这些数字，最好和同一任务上的召回率、格式错误率、长文档位置准确率一起看；“输出免费”也不等于总成本为零，输入计费、预处理、人工复核和失败后的升级调用都要算进去。摘要也值得单独评估：如果结果是从原文选段组织出来，覆盖面和连贯性未必等同于生成式总结，是否适用要看具体用途。 我会把这类模型放在流水线里做第一道结构化处理，再把低置信度、冲突或找不到来源的项目交给更强模型或人工确认。若能明确返回原文片段和位置，这种分工可能比“所有任务都交给一个大模型”更容易验证，也更容易按任务复杂度控制成本。

曝光 23 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 9.718590937458766