推文

@fireandstart · 2026-10-13 16:41

这十点里，我觉得最关键的不是把提示词写得更“聪明”，而是把模型调用放进可观察、可约束、可恢复的工程流程。把 LLM 当 API，意味着先定义输入输出、枚举和长度边界；记录文档版本、检索过滤条件与命中的片段，才能在答案变化时追到原因。上线后的检索也需要安全增量重建，否则资料一更新，评估集和线上行为可能一起漂移。工具调用部分尤其值得强调：超时和重试不可避免，幂等键、持久化状态与明确的副作用边界，决定了重试会恢复任务还是重复扣款、重复写入。最后，CI 里的黄金样本并不能替代真实用户反馈，但它能在提示词、模型或索引变更时提供稳定基线；再配合引用准确率、拒答和注入测试，才看得出优化是否真的改善了任务。模型选型当然有影响，不过如果契约、数据来源、失败路径和观测都不清楚，换更大的模型只会让问题更贵、更难定位。

曝光 122 · 评论 1 · 点赞 2 · 书签 0 · 曝光/时 214.9680757755121