企业官网建设流程全解析

• 教程
• 文档

本文是 Datawhale easy-vibe 项目「人工智能」附录章节之一，对应仓库文档 docs/en/appendix/8-artificial-intelligence/model-finetuning-deployment.md。通用大模型并不理解你的业务，微调（Fine-tuning）就是给博学的"通才"做岗前培训，让它成为你的领域专家；而量化与部署则是把训练好的模型真正送进生产环境的最后两公里。读完本文，你将掌握从数据工程、参数高效微调（LoRA）、模型量化到推理服务选型的完整知识链路。

0. 全景图：为什么需要微调

大语言模型的训练分为两个阶段：预训练（Pre-training）与微调（Fine-tuning）。预训练在海量通用数据上学习语言能力，微调则在特定任务数据上学习专业能力。

打个比方：预训练像是上大学——学习通识知识，什么都懂一点；微调像是入职培训——针对具体岗位学习专业技能。要理解微调的目标对象，建议先阅读本附录中的 大语言模型的工作原理 与 Transformer 与注意力机制，了解模型内部的权重矩阵与注意力结构，这对理解 LoRA 的低秩分解原理至关重要。

什么时候需要微调？

• 特定输出格式：需要模型始终以固定的 JSON 格式输出结构化结果；
• 专业领域知识：医疗、法律、金融等领域的专业术语和行业规范；
• 语言风格迁移：让模型用特定的语气、风格回答（例如客服话术）；
• 小众语言支持：提升模型在特定小语种上的表现；
• 成本优化：用微调后的小模型替代大模型 API 调用，降低推理成本。

需要强调的是，微调并不是唯一的技术路线。如果你的场景是"给模型喂最新的领域知识"，检索增强生成（RAG）往往是成本更低、更新更灵活的选择——两者的取舍可以参考本附录的 RAG 架构 与 Embedding 与向量检索。微调改变的是模型的"行为与专业能力"，RAG 改变的是模型的"可获取知识"，二者可以组合使用。

1. 微调流水线：从数据到上线的完整旅程

微调不是"把数据丢给模型就完事"，而是一个严谨的工程流程，每个环节都会影响最终效果。

微调的五个阶段

1. 数据准备：收集、清洗、标注训练数据——这是最耗时也最关键的环节；
2. 模型选择：选择合适的基座模型（Base Model），如 Llama 3、Qwen、Mistral；
3. 训练配置：设置学习率（learning rate）、batch size、epoch 数等超参数；
4. 训练执行：在 GPU 上运行训练，监控 loss 曲线和评估指标；
5. 评估上线：在测试集上评估效果，通过后部署为 API 服务。

各阶段的关键动作与常见陷阱

工程上值得注意的细节：

• **测试集泄漏（Test Set Leakage）**是评估阶段最常见的隐性错误——训练集中混入了测试样本，或预处理时对全量数据统一做了清洗/归一化，都会导致离线指标虚高、线上效果"缩水"。数据切分应在任何数据增强或统计计算之前完成。
• **灾难性遗忘（Catastrophic Forgetting）**指模型在学习新任务时丢失了原有能力，通常与学习率过高、新数据占比过大有关，这也是 LoRA 这类参数高效微调方法备受青睐的原因之一——它只更新少量新增参数，对原始能力的扰动更小。
• **灰度发布（Gradual Rollout）**要求新模型上线初期只承担一小部分流量，与旧模型或基线 API 做 A/B 对比，确认指标稳定后再逐步放量。

2. 训练数据：微调效果的天花板

微调圈有一句老话："Garbage in, garbage out"。训练数据的质量直接决定了微调效果的上限。100 条高质量数据的效果，往往好过 10000 条低质量数据。

三种常见的微调数据格式

1. 指令格式（Instruction Format）——最常用，包含三个字段，适合训练模型遵循指令：

{"instruction": "解释什么是微调", "input": "", "output": "微调是指在预训练模型基础上，用特定任务数据继续训练，让模型获得专业能力的过程。"} {"instruction": "把下面的句子翻译成英文", "input": "今天天气很好", "output": "The weather is nice today."}

2. 对话格式（Chat Format）——多轮对话形式，包含 system、user、assistant 角色的消息列表，适合训练聊天机器人：

{"messages": [{"role": "system", "content": "你是一名耐心的客服"}, {"role": "user", "content": "我的订单什么时候发货？"}, {"role": "assistant", "content": "您好，您的订单预计明天上午发出，感谢您的耐心等待。"}]}

3. 补全格式（Completion Format）——简单的 prompt-completion 对，适合文本生成、代码补全等场景：

{"prompt": "def fibonacci(n):", "completion": " if n <= 1: return n\n return fibonacci(n-1) + fibonacci(n-2)"}

数据质量的五个维度

实操建议：先用几百条人工精标数据跑通全流程，观察 loss 收敛与评估指标，再决定是否扩大数据规模；批量清洗时优先做文本级去重（哈希/编辑距离），条件允许再做语义级去重（基于 embedding 相似度），后者可以参考 Embedding 与向量检索 中的向量化思路。

3. LoRA：用 1% 的参数实现接近全量微调的效果

全量微调（Full Fine-tuning）需要更新模型的所有参数——对于一个 70B 参数的模型，意味着需要数百 GB 显存和大量 GPU 算力，对大多数团队而言并不现实。

**LoRA（Low-Rank Adaptation，低秩适配）**提供了一个优雅的解决方案：冻结原始模型参数，只训练一小组合并新增的低秩矩阵。这些矩阵的参数量通常只有原模型的 0.1%~1%，却能达到接近全量微调的效果。

LoRA 的核心思想

原始模型的权重矩阵 W 是一个巨大的矩阵（例如 4096×4096）。LoRA 不直接修改 W，而是在旁边加一条"旁路"：

W' = W + BA

其中 B 和 A 是两个小矩阵（例如 4096×8 和 8×4096）。训练时只更新 B 和 A，原始 W 保持不变。两个关键概念：

• 秩（Rank，r）：r 值越大，表达能力越强，但参数量也越多。通常 r=8~64 就够用；
• 合并部署（Merge）：训练完成后，可以把 BA 合并回 W（W' = W + BA），推理时零额外开销、无需修改部署代码。

直觉理解：既然 W 是高维空间中的一个大矩阵，其"任务相关的有效变化"往往只集中在一个低维子空间里，那么用两个低秩矩阵的乘积 BA 来逼近"微调带来的增量 ΔW"，就能以极小参数量拟合绝大部分效果——这是 LoRA 在数学上的依据。

常见微调方法横向对比

QLoRA是在 LoRA 基础上进一步叠加量化：基座模型以 4-bit 量化精度加载，训练时只更新 LoRA 低秩矩阵，显存占用进一步降低，代价是效果略低于标准 LoRA。Prompt Tuning只训练极少量可学习的"提示向量"，参数最少、速度最快，但表达能力有限。选型时遵循一条经验法则：算力充足追求极致效果选全量微调，资源有限且要保底效果选 LoRA/QLoRA，只需轻量适配选 Prompt Tuning。

4. 模型量化：让大模型"瘦身"

一个 70B 参数的模型，如果用 FP32（32 位浮点数）存储，需要约 280GB 显存——没有几块顶级 GPU 根本跑不起来。**量化（Quantization）**技术通过降低数值精度来压缩模型体积，让大模型能在消费级硬件上运行。

量化的核心权衡

量化本质上是精度换空间的权衡：FP32 → FP16 几乎无损，INT8 有轻微损失，INT4 会有明显但通常可接受的质量下降。关键是为你的场景找到最佳平衡点。

• FP16（半精度）：体积减半，质量几乎无损，是训练和推理的默认选择；
• INT8（8 位整数）：体积再减半，质量损失很小，适合大多数推理场景；
• INT4（4 位整数）：体积仅为 FP32 的 1/8，质量有一定损失，适合资源受限场景。

不同精度的体积对比（以 70B 模型为例）

工程补充两点：

• 量化粒度：按整个权重矩阵统一缩放（per-tensor）简单但误差大；按行/列分块缩放（per-channel / group-wise）精度更好，是主流实现方式。
• 量化与 LoRA 的关系：量化用于"部署前压缩"，LoRA 用于"训练时提效"。QLoRA 正是把两者结合——训练阶段 4-bit 量化基座 + 低秩适配，训练完成后可将 LoRA 权重合并回模型，再整体量化到目标精度部署。

5. 模型部署：从实验室到生产环境

模型训练好了、量化压缩了，最后一步是把它部署成可供调用的服务。模型部署不只是"把模型跑起来"，还涉及并发处理、负载均衡、成本控制等工程问题。

三种主流部署方案

1. API 服务商（API Service Providers）：直接使用 OpenAI、Anthropic 等厂商的 API。零运维，按 token 付费，适合快速验证和中小规模使用；
2. 自托管推理服务（Self-hosted Inference）：用 vLLM、TGI 等框架在自己的 GPU 服务器上部署。成本可控、数据不出域，适合有隐私要求或大规模调用的场景；
3. Serverless 推理（Serverless Inference）：使用 AWS SageMaker、Replicate 等平台，按请求付费、自动扩缩容，适合流量波动大的场景。

部署方案对比

选型思路

• 快速验证产品想法：直接用 API 服务商，把精力放在业务逻辑上；
• 调用量大且追求低延迟：考虑 vLLM 自部署——它通过连续批处理（continuous batching）、PagedAttention 等机制提升吞吐，配合本文第 4 节的量化模型可显著降低单次推理成本；
• 流量潮汐明显：Serverless 按请求计费、自动扩缩容，避免为峰值流量长期预留 GPU；
• 离线或 IoT 场景：边缘部署，量化后的 INT4 模型体积已可装入消费级设备。

在 easy-vibe 的完整学习路径中，模型服务化之后如何通过 API 被上层应用调用，属于后端开发范畴，可参考 docs/en/stage-2 的 API 与部署章节；如果你更关心"把模型能力接进产品"，本附录的 AI 原生应用设计 和 AI Agent 与工具调用 提供了从能力到产品的衔接视角。

总结

模型微调与部署是让大模型从"通用工具"变成"专业助手"的关键环节。从数据准备到模型上线，每一步都需要工程化的思维和实践。回顾本章关键要点：

1. 微调是岗前培训：让通用模型学会特定领域的知识和行为模式；
2. 数据质量决定上限：100 条高质量数据胜过 10000 条低质量数据；
3. LoRA 是效率之王：用不到 1% 的参数实现接近全量微调的效果；
4. 量化是部署利器：INT4 量化让 70B 模型在单卡上运行成为可能；
5. 部署方案因地制宜：快速验证用 API，大规模用自部署，波动大用 Serverless。

延伸阅读（仓库内相关章节）

• 大语言模型的工作原理：理解微调的对象——LLM 如何理解和生成文本
• Transformer 与注意力机制：权重矩阵与注意力结构，LoRA 低秩分解的数学背景
• RAG 架构：微调之外的另一条"知识注入"路线及其取舍
• Embedding 与向量检索：语义去重、向量化的技术基础
• AI 能力词典：微调、量化、推理等 AI 术语速查
• 附录知识地图：本文所属的完整人工智能知识体系索引

• 教程
• 文档