TwKit
正在载入
TwKit

LMDeploy 9月28日发布的版本删掉了旧 APIClient。用它部署本地模型的,升级前先查调用代码,旧教程里的客户端导入可能直接报错。 官方文档改用… · @DeaglePc · TwKit

@DeaglePc

LMDeploy 9月28日发布的版本删掉了旧 APIClient。用它部署本地模型的,升级前先查调用代码,旧教程里的客户端导入可能直接报错。 官方文档改用 OpenAI Python SDK 连接模型服务。模型还能跑,调用它的旧代码却未必还能用,别只测服务启动成功。

曝光 22 · 评论 0 · 点赞 0 · 书签 0

查看原帖