LMDeploy 9月28日发布的版本删掉了旧 APIClient。用它部署本地模型的,升级前先查调用代码,旧教程里的客户端导入可能直接报错。 官方文档改用… · @DeaglePc · TwKit
@DeaglePc
LMDeploy 9月28日发布的版本删掉了旧 APIClient。用它部署本地模型的,升级前先查调用代码,旧教程里的客户端导入可能直接报错。 官方文档改用 OpenAI Python SDK 连接模型服务。模型还能跑,调用它的旧代码却未必还能用,别只测服务启动成功。
曝光 22 · 评论 0 · 点赞 0 · 书签 0
查看原帖