跳转到内容

第 5 章 后训练、量化与部署(下一阶段再学)

来自《大模型基础学习》 · 原稿更新 2026-10-30 · 服务器只读阅读视图

这一章是学习问题清单,不要写成已经掌握。

5.1 预训练、微调与模型对齐

图解:下一阶段:先分清三个问题

下一阶段:先分清三个问题(概念示意)

读图: 这是本章“下一阶段再学”的概念导航。不同模型的训练流程不同,图不代表已经完成 LoRA、量化或私有部署实验。

  • 预训练学一般的语言和知识模式。
  • 后训练可能再做指令微调、偏好优化等,让模型更符合特定任务或要求。不同模型的训练流程不完全相同。

先区分补知识、学示范和按奖励探索(课程摘记,待学习)。课程把 Mid-training 解释为在目标领域分布上继续训练;SFT 用输入—理想输出示范学习回答和行动方式,常见做法只在回答 Token 上计算损失;RL 则对模型自己生成的行为给奖励。不要把“换了训练阶段”理解成换了一套完全无关的预测原理,也不要把这些手段写成互斥用途:事实可更新、可溯源时仍可先用 RAG。具体训练配方、奖励和 LoRA 参数尚未实践。

来源:书-AI Agent 实战营-第08章-模型后训练。

5.2 LoRA、QLoRA、P-Tuning

  • 这些是还需要学习的参数高效适配方法。先弄清为什么不一定要更新模型的全部参数,再比较低秩适配、量化结合微调、提示参数等路线。
  • 尚未做相关实验,不记录虚构的效果或性能数据。

5.3 量化、评估与私有化部署

  • 需要分别回答:量化对显存、吞吐和质量有什么影响?怎么做任务评估?模型如何在本地或私有服务器运行?什么时候部署成本比调用 API 更划算?
  • 下一次只选一节学习,按“自己解释 → AI 补洞 → 最小示例 → 再解释”推进,不把整张清单一次变成大型项目。
原始笔记

Transformer 与注意力机制 · 压缩即预测。旧原文保留了更完整的练习问答、比喻和推导过程。