推理成本这两年降得比训练成本快得多，这正在悄悄改变产品设计：以前一个大模型扛所有活，现在是路由——小模型吃下 80% 的简单请求，大模型只接硬骨头。省下来的… · @hajiMVP · TwKit

@hajiMVP

推理成本这两年降得比训练成本快得多，这正在悄悄改变产品设计：以前一个大模型扛所有活，现在是路由——小模型吃下 80% 的简单请求，大模型只接硬骨头。省下来的不是钱，是延迟。

曝光 1 · 评论 0 · 点赞 0 · 书签 0