简单解释下 以往我们使用LLM厂商的API，模型厂服务器是无状态的，他不会存你提交过的前面几次messages,你每次调用服务器都得将用户完整的messag… · @EqbymCi · TwKit

@EqbymCi

简单解释下 以往我们使用LLM厂商的API，模型厂服务器是无状态的，他不会存你提交过的前面几次messages,你每次调用服务器都得将用户完整的messages 都传上去，如果带上图片和大量工具调用，就会拖慢速度。 现在claude 官方的API是有状态的了，你只需要传新的messages 就行了

曝光 14 · 评论 0 · 点赞 0 · 书签 0