AI 微调：定制大型语言模型：内容简介
本书面向希望把通用大模型改造成领域专用模型的开发者，围绕模型架构、硬件与软件环境、数据获取和清洗、合成数据、参数高效微调、评估、对齐、量化及生产部署展开。作者从成本、延迟和隐私三个现实约束切入，说明何时应考虑较小的本地模型，并把数据管道、训练过程和服务化部署放在同一工程流程中讨论。书中覆盖语言模型，也延伸至多模态与扩散模型，强调依据任务、数据质量和运行环境选择方案，并通过贯穿全流程的工程视角帮助读者理解各环节之间的取舍。
AI 微调：主要内容
- 理解 Transformer、分词器、嵌入及不同开源模型家族的选择依据
- 搭建微调所需的 GPU、软件栈与本地或云端工作环境
- 准备真实与合成训练数据，并处理质量、隐私和 PII 风险
- 实践 LoRA 等参数高效微调方法，评估并改进模型表现
- 了解量化、优化、服务化部署及生产环境中的工程权衡
适合哪些读者
适合具备 Python 和基础机器学习经验，希望定制、评估或部署领域模型的软件开发者、机器学习工程师与 AI 产品技术人员。
书中的模型、价格与工具状态以原作写作时点为准；实际训练所需硬件和第三方服务可能随模型规模与版本变化。
目录、试读与相关阅读
请在本页“目录与试读”中查看章节和正文节选，在“书籍资料”中核对英文原名、作者、版本与文件大小。进一步阅读可参照提示工程与 LLM：专业人士终极指南、图神经网络：概念与应用，结合各书的前置要求选择后续主题。
继续浏览人工智能与 AI 工程，或查看EPUB 阅读与下载帮助。
目录与试读
目录
章节与主要小节（依据 EPUB 导航整理）：
前言
目标读者
先修知识
硬件与软件依赖
书籍结构
本书使用的约定
代码示例的使用
O’Reilly 在线学习
如何联系我们
致谢
1. 从通才到专家
租用智能的代价
延迟杀手
数据防火墙
专家化革命
硬件不再是阻碍
定制的谱系
2. 模型架构：AI 的 DNA
信息流：Transformer 如何工作
仅解码器的主导地位
分组查询注意力
Mistral 与 Mixtral
Gemma：谷歌的开源方案
分词器与嵌入
其他考量
选择模型的考量
总结
3. 微调者的工作台
为什么环境设置很重要
GPU：你的第一个决策
软件栈
云端与按需付费
本地与云端
总结
4. 挖掘数据
获取原始数据
泄露 PII 的风险
理解数据质量
构建数据管道
总结
5. 合成数据
师生范式
生成指令-响应对
合成数据的质量控制
混合真实与合成数据
总结
6. 为微调准备数据集
数据与训练之间的鸿沟
两大范式：补全与对话
对话模板：从消息到 Token
损失掩码
其他微调框架
拆分和验证数据集
格式验证
检查分词示例
总结
7. 适配的机制
全量微调的问题
参数高效微调
LoRA
理解 LoRA 超参数
QLoRA：更小的足迹
DoRA：重新定义适配
选择你的方法
内部机制
总结
8. 训练循环
组装组件
Hugging Face 训练栈
数据整理器
训练超参数
内存优化
准备训练数据
完整训练脚本
执行训练运行
超参数调优的实用工作流
日志与实验跟踪
可复现性
其他训练技术
总结
9. 使用适配器
适配器的结构
下载你的适配器
使用适配器
超越人工评估
LLM 作为评委
特定领域的基准测试
常见陷阱
使用 QLoRA 的影响
总结
10. 对齐与偏好优化
鸿沟：从知识到行为
RLHF：原始管道
直接偏好优化
DPO 损失函数
运行 DPO 训练
评估对齐后的模型
何时使用 DPO（以及何时不应使用）
超越 DPO
总结
11. 视觉语言模型
为什么视觉很重要
双塔架构
哪些部分微调，哪些部分冻结！
构建视觉数据集
视觉微调脚本
使用微调后的 VLM 进行推理
评估视觉模型
领域示例：视觉微调的机会
实用考量
排查常见问题
完整工作流
总结
12. 扩散模型
超越 Transformer
核心思想：逆转破坏过程
UNet 架构
Stable Diffusion 1.5
潜在空间技巧 (Latent Trick)
文本编码器
调度器：管理去噪
完整管道
无分类器引导
微调
总结
13. 微调扩散模型
两种配方，一种架构
DreamBooth：训练模型聚焦特定主体
风格 LoRAs：构建视觉词汇
强度调节与参数扫描
合成多个 LoRA
超越 Stable Diffusion 1.5
为部署准备适配器
理解常见故障模式
总结
14. 优化与量化
部署鸿沟
将适配器合并到基础模型
量化实际如何工作
格式丛林
使用 llama.cpp 的 GGUF
更优路径：QAT
衡量量化影响
KV 缓存优化
综合考量：量化流水线
避免一些常见陷阱
总结
15. 专家服务
从产物到服务
使用 Ollama
OpenAI 端点格式
使用 vLLM
从一个基础模型提供多位专家
生产考量
结论：未来是专业化的
作者简介
试读节选
像我一样，你很可能已经使用大型语言模型（LLMs）作为后端构建了原型。当你将复杂的查询表达为提示词并得到一个完美、连贯的回复时，你体会到了最初的那种兴奋感。那种“令人惊喜和愉悦”的设计是一个理想的目标，而 LLM 的回答确实做到了。有那么一刻，你觉得软件的未来是无限的，提示词是一种新的编程语言。你只需要想出一些巧妙的提示词。
