推荐一本 @ManningBooks 的新书《Domain-Specific Small Language Models: Efficient AI for… · @Zen_with_AI · TwKit
@Zen_with_AI
推荐一本 @ManningBooks 的新书《Domain-Specific Small Language Models: Efficient AI for local deployment》,《领域专用小语言模型:面向本地部署的高效 AI》作者 Guglielmo Iozzia,2026 年 5 月出版, 书的内容是,做垂直领域的任务,大模型庞大的容量有时反而帮倒忙。用领域数据训练的小模型,跑在普通硬件上,也能在特定任务上做出高质量的结果。 全书 15 章,骨架是: 微调->量化->领域生成->部署服务 (第 2、3 章 -> 第 5、6、9 章,含 ONNX -> 第 7、8 章,生成 Python 代码和蛋白质结构 -> 第 11 到 15 章,含笔记本运行、RAG、Agent) 看目录有两点值得说。一是它把"在自己的机器上跑起来"当成目标,量化、性能分析、安全 API、笔记本运行都有专门章节。二是书里的 RAG 系统和 Agent 只靠小模型,不依赖基础大模型的调用成本。适合熟悉 Python 的 AI 工程师。 书:https://amzn.to/4g7mVqW Andrej Karpathy关于小模型的学习资料: https://drive.google.com/file/d/1Aw6vxDkjwE12T01UpD6FA5LZlDsc2tzn/view
曝光 592 · 评论 2 · 点赞 14 · 书签 12
查看原帖