推文

@fireandstart · 2026-10-15 00:50

模型走向可组合之后，关键变化不只是多接几个模型 API，而是应用本身开始承担调度、状态管理和质量控制。Josh 列出的路由、记忆、进度评估与验证，每一项都可能成为独立的推理环节；它们会提升系统的适应性，也会增加延迟、成本和故障面。架构上更像是在搭一条由多个模型节点组成的生产线：必须说明每个节点何时调用、拿什么上下文、失败后怎样处理，以及结果由谁验收。一个有用的边界是，只有当专用模型在质量、速度或成本上带来可测的收益时，才把相应能力拆出去；否则，额外调用只是把复杂度和不可预测性转移给应用团队。未来的工程优势可能不在于调用最多模型，而在于能否把这些环节组合成可观察、可评估、可回退的系统。

曝光 23 · 评论 0 · 点赞 1 · 书签 0