企业官网建设流程全解析

1. 从损失曲面到矩阵分解：微调动力学到底在聊什么

很多人做 LLM 微调，习惯把它当成一个黑盒：喂数据、调学习率、看 loss 曲线，收敛了就收工。但只要你在训练中途盯过梯度范数、看过不同随机种子下的 loss 曲线分叉，就会意识到微调远不是"把参数往下降方向推"这么简单。它背后是一套动力学系统——参数在高维损失曲面上滚动，每一步都受梯度、动量、学习率调度、权重衰减共同支配。而"AKG 分解"这个说法，正是把这种动力学拆开来看的一种视角：把微调过程中参数更新的行为，分解成几个可解释的成分，从而判断模型到底在"学什么"、有没有在"白学"。

先把标题里的三个词拆清楚。LLM 微调指的是在预训练权重基础上，用领域数据继续训练，让模型适配下游任务；**dynamics（动力学）**指的是训练过程中参数、梯度、损失随步数演化的规律；AKG 分解则是一种把更新量按来源拆解的分析框架。这里需要说明，AKG 并不是一个被广泛标准化的学术名词，它更像工程圈里对"把微调更新拆成若干正交或近似正交成分"这类做法的一个统称。基于常见实践，我把它理解为三个可观测的分解维度：A（Amplitude，幅度）、K（Kernel/Direction，方向核）、G（Gradient noise，梯度噪声）。下面所有关于 AKG 的展开，都是基于这个工程化理解做的合理演绎，不是某个官方定义。

为什么值得花力气做这种分解？因为微调里最贵的不是算力，是判断力。你不知道模型是在学任务特征，还是在记训练集的噪声；你不知道 LoRA 的低秩约束到底压掉了什么；你不知道学习率调大之后 loss 抖动是正常的探索还是发散了。AKG 分解的价值就在于，把这些"感觉"变成可量化的信号。举个我自己的例子：早期做 Qwen 的 LoRA 微调时，loss 从 1.8 降到 0.6 看着很漂亮，但验证集一直不涨。后来把更新量按幅度和方向拆开看，发现绝大部分更新幅度集中在少数几个 token 的 embedding 上，方向几乎没变——典型的过拟合到高频样本。这个判断如果只看 loss，是绝对看不出来的。

这篇文章适合谁看？如果你已经跑通过至少一次 LoRA 或全参微调，能看懂 loss 曲线和梯度范数，那这篇能帮你把"调参玄学"变成"有依据的工程判断"。如果你还在配置环境阶段，建议先把一次完整的微调跑通再回来，因为下面的内容需要你对训练循环有实感。全文我会按"整体设计思路 → 核心细节 → 实操流程 → 问题排查"的顺序展开，中间穿插参数计算和踩坑记录，尽量做到能直接抄作业。

2. 整体设计思路：为什么用分解而不是只看 loss

2.1 微调动力学的三个可观测层

要理解 AKG 分解，先得知道微调过程中有哪些东西是可以观测的。我把它们分成三层，从外到内依次是：损失层、更新层、谱层。损失层就是 loss、accuracy 这些最终指标，最直观但也最滞后；更新层是每一步的参数增量 ΔW、梯度 g、动量 buffer，信息量大但维度太高；谱层是把 ΔW 或 g 做矩阵分解后得到的奇异值、特征值分布，维度低、可解释性强，但需要额外计算。

大多数人的微调实践只停留在损失层，顶多看看梯度范数。问题在于，损失层是"结果"，更新层是"过程"，谱层是"结构"。只看结果，你无法区分"模型学到了泛化特征"和"模型背下了训练集"这两种情况——它们的 loss 曲线可能长得一模一样。AKG 分解本质上就是往谱层下沉，用矩阵分解的手段把更新层的结构暴露出来。

具体来说，A（幅度）对应更新量的整体尺度，可以用 ΔW 的 Frobenius 范数或奇异值之和来度量；K（方向核）对应更新的主要方向，用 ΔW 的主奇异向量或主特征向量表示；G（梯度噪声）对应更新中随机、不一致的部分，可以用不同 batch 之间梯度的方差或残差奇异值来估计。这三者组合起来，就能回答"模型更新了多少、往哪个方向更新、有多少是噪声"这三个核心问题。

2.2 为什么矩阵分解是合适的工具

你可能会问，为什么非得用矩阵分解，直接看梯度直方图不行吗？行，但不够。梯度直方图丢掉了空间结构——它告诉你"有很多大梯度"，但不告诉你"这些大梯度是不是指向同一个方向"。而微调的核心问题恰恰是方向问题：如果所有大梯度都指向同一个方向，说明模型在一致地学某个特征；如果大梯度方向杂乱，说明模型在拟合噪声。

矩阵分解（尤其是 SVD 和特征值分解）天然适合处理这个问题。对 ΔW 做 SVD，得到的奇异值谱直接反映更新的"能量分布"：如果前几个奇异值占了总能量的 90%，说明更新是低秩的、有明确主方向；如果奇异值谱很平，说明更新是弥散的、接近噪声。这跟 LoRA 的低秩假设是同一个逻辑——LoRA 之所以有效，就是因为微调更新本身近似低秩。AKG 分解把这个假设从"设计前提"变成了"可验证的观测"。

这里有个关键点：分解的对象选择。你可以对 ΔW 分解，也可以对梯度 g 分解，还可以对优化器状态（比如 Adam 的 m 和 v）分解。三者含义不同。对 ΔW 分解看的是"累积效果"，对 g 分解看的是"瞬时方向"，对优化器状态分解看的是"历史记忆"。我在实践中一般对 ΔW 做主分解，因为它是最终写进权重的量，最能反映模型实际学到了什么。梯度分解更多用于诊断训练是否稳定。

2.3 AKG 分解相比常规监控的优势

常规微调监控一般看这几个指标：train loss、eval loss、学习率、梯度范数、吞吐。这些指标能告诉你"训练是否正常"，但很难告诉你"训练是否有效"。我见过太多 loss 正常下降但模型完全没学到东西的案例，尤其是数据质量差或者任务和预训练分布差太远的时候。

AKG 分解补的正是这块。它带来的额外信息有三类。第一是更新效率：A 值告诉你每步更新了多少，结合 loss 下降速度，能算出"单位更新带来的 loss 收益"，收益低说明在做无用功。第二是方向一致性：K 值（主方向）在训练过程中的稳定性，能反映模型是否在朝一个明确目标收敛，方向频繁翻转说明学习率过大或数据冲突。第三是噪声占比：G 值占总更新的比例，直接对应过拟合风险，噪声占比高说明模型在记数据而不是学规律。

提示：AKG 分解不是替代常规监控，而是叠加在常规监控之上的一层诊断。不要一上来就全套上，先把 loss 和梯度范数看明白，再引入分解。

3. 核心细节解析：AKG 三个维度的计算与含义

3.1 A 维度：更新幅度的度量与阈值判断

A 维度最直接，就是量化"这一步更新了多少"。最常用的度量是 ΔW 的 Frobenius 范数，记作 ||ΔW||_F，等于所有元素平方和的平方根。对于 LoRA，ΔW = BA，其中 B 是 d×r，A 是 r×k，r 是秩。此时 ||ΔW||_F 可以近似用 ||B||_F · ||A||_F 来估计，但严格来说要考虑 B 和 A 的乘积结构，不能简单相乘。

为什么幅度重要？因为幅度直接关联有效学习率。在 SGD 里，参数更新幅度约等于 lr × ||g||；在 Adam 里，由于自适应缩放，幅度更接近 lr × sqrt(d) 量级（d 是参数量），跟梯度大小关系没那么直接。这意味着用 Adam 时，即使梯度很小，更新幅度也可能不小，这是很多人忽略的点。我实测过一个案例：用 Adam 微调 7B 模型，梯度范数从 2.0 降到 0.3，但 ΔW 的 Frobenius 范数几乎没变，因为 Adam 把每个参数的更新都归一化到了 lr 量级。这种情况下你看梯度范数会误以为"训练快停了"，实际上模型还在大幅更新。

判断 A 值是否合理，我的经验阈值是这样的：对于 LoRA（r=8~16），单步 ||ΔW||_F 应该在 1e-3 到 1e-2 量级；如果低于 1e-4，基本等于没学；如果高于 1e-1，很可能在震荡。对于全参微调，单步更新幅度应该远小于权重本身的范数，一般控制在权重范数的 1e-4 到 1e-3 比例。这些数字不是绝对的，跟模型规模、数据量、任务难度都有关，但可以作为起步参考。

3.2 K 维度：主方向提取与方向稳定性

K 维度是 AKG 里信息量最大也最难解释的部分。核心操作是对 ΔW 做 SVD：ΔW = UΣV^T，其中 Σ 的对角线是奇异值，按从大到小排列。主方向就是对应最大奇异值的左奇异向量 u1 和右奇异向量 v1。u1 可以理解为"输出空间的主变化方向"，v1 是"输入空间的主变化方向"。

方向稳定性怎么衡量？我的做法是记录每个 checkpoint 的 u1，然后计算相邻 checkpoint 之间 u1 的余弦相似度。如果相似度持续接近 1，说明模型在朝一个固定方向收敛；如果相似度在 0 附近波动，说明主方向在乱跳，训练不稳定。这个指标比 loss 敏感得多。我遇到过 loss 平稳下降但 u1 余弦相似度只有 0.3 的情况，最后发现是数据里有两类分布差异很大的样本在互相拉扯，模型在两个方向之间反复横跳。

还有一个进阶用法：把 u1 投影回 token 空间，看哪些 token 的 embedding 在主方向上贡献最大。这个操作能直接告诉你"模型主要在改哪些词的理解"。做领域微调时特别有用——如果主方向集中在领域关键词上，说明微调抓对了重点；如果集中在"的""了"这种高频虚词上，说明模型在学格式而不是内容，这时候就得反思数据配比了。

3.3 G 维度：梯度噪声估计与过拟合预警

G 维度衡量的是更新中"不一致"的部分。最朴素的估计方法是：在同一个数据分布上采两个不同 batch，分别算梯度 g1 和 g2，然后看它们的差异。如果 g1 和 g2 方向高度一致，说明梯度信号强、噪声低；如果差异大，说明噪声占主导。更严谨的做法是用梯度方差的无偏估计，但对大模型来说计算成本高，工程上一般用 batch 间余弦相似度的补数来近似。

具体公式可以这样写：G ≈ 1 - cos(g1, g2)，取值范围 0 到 2，0 表示完全一致，2 表示完全相反。实践中，健康的微调 G 值一般在 0.1 到 0.4 之间；低于 0.1 说明 batch 太大或者数据太单一，梯度几乎没随机性，容易过拟合；高于 0.6 说明噪声太大，要么 batch 太小，要么数据质量差、标注不一致。

G 维度和过拟合的关系特别值得说。很多人以为过拟合是"训练后期才出现"的，其实从 G 值就能提前预警。当 G 值开始持续上升，同时 train loss 还在降、eval loss 开始平，这就是过拟合的早期信号，比等 eval loss 反弹要早好几个 epoch。我在一次法律领域微调里就是靠这个信号提前停的：G 值从 0.25 涨到 0.55 的时候 eval loss 还没动，但停下来的模型在测试集上比继续训的效果好 3 个点。

3.4 三个维度的联合解读

单独看 A、K、G 都有局限，联合起来才有意思。我整理了一个经验对照表，覆盖几种典型情况：

这张表是我踩了很多坑之后总结的，不是理论推导，所以别当定理用，当经验参考。实际训练里 A、K、G 都是连续变化的，关键是看趋势而不是单点值。

4. 实操过程：从零搭建 AKG 监控

4.1 环境与依赖准备

这套监控不需要额外的大框架，核心依赖就三个：PyTorch（训练本身）、numpy（矩阵运算）、以及一个能存 checkpoint 的地方。如果你用 HuggingFace Trainer，可以挂 callback；如果用自定义训练循环，直接在 optimizer.step() 之后插代码就行。我下面给的例子基于自定义循环，因为可控性最强。

import torch import numpy as np def compute_akg(model, prev_weights, curr_weights, g1, g2): """ 计算 AKG 三个维度 prev_weights / curr_weights: dict, 参数名 -> tensor g1 / g2: 两个 batch 的梯度（展平后的一维向量） """ # A: 更新幅度 delta_norm = 0.0 for name in curr_weights: d = (curr_weights[name] - prev_weights[name]).float() delta_norm += d.pow(2).sum().item() A = delta_norm ** 0.5 # K: 主方向稳定性（以最大单层更新为例） max_layer = None max_norm = 0.0 for name in curr_weights: d = (curr_weights[name] - prev_weights[name]).float() n = d.norm().item() if n > max_norm: max_norm = n max_layer = d # 对最大更新层做 SVD，取主奇异向量 if max_layer.dim() == 2: U, S, Vh = torch.linalg.svd(max_layer, full_matrices=False) K_vec = U[:, 0] else: K_vec = max_layer.flatten() / (max_layer.norm() + 1e-12) # G: 梯度噪声 g1_flat = g1.flatten().float() g2_flat = g2.flatten().float() cos = torch.dot(g1_flat, g2_flat) / (g1_flat.norm() * g2_flat.norm() + 1e-12) G = 1.0 - cos.item() return A, K_vec, G

这段代码是简化版，实际用的时候要注意几点。第一，prev_weights 和 curr_weights 的拷贝会占显存，7B 模型全参的话一份权重就是 14GB（fp16），所以要么只监控部分层，要么用 CPU offload。第二，SVD 对超大矩阵很慢，所以只对"更新最大的那一层"做，不要对所有层做。第三，g1 和 g2 的采集需要在同一数据分布上，最好是从训练集里固定采一批"探针样本"，每 N 步用它们算一次梯度，这样 G 值才有可比性。

4.2 探针样本的设计与采集

G 维度的可靠性完全取决于探针样本。我的做法是从训练集里随机抽 64 到 256 条样本，固定下来，每 50 到 100 步用它们跑一次前向反向，得到 g1 和 g2（把探针样本分成两半，各算一个梯度）。这样得到的 G 值反映的是"模型在这批固定数据上的梯度一致性"，随时间的变化趋势就是过拟合信号。

探针样本的选取有几个讲究。第一，要覆盖任务的各个子类，不能全抽同一类，否则 G 值会虚低。第二，要包含一定比例的"难样本"，就是模型容易搞错的那些，这样 G 值对模型状态更敏感。第三，探针样本不要参与训练，否则 G 值会被污染。我一般从验证集里划一部分出来当探针，这样既不影响训练，又能反映泛化状态。

注意：探针样本的前向反向会额外消耗算力，大概增加 5% 到 10% 的训练时间。如果算力紧张，可以降低探针频率，比如每 200 步一次，但不要低于每 500 步一次，否则趋势看不出来。

4.3 训练循环中的埋点与日志

把 AKG 计算插进训练循环，关键是选好埋点位置。我的标准做法是：每步更新完参数后，记录 A；每 N 步（N=50）记录一次 K 和 G。A 每步都记是因为它便宜，K 和 G 贵所以降频。日志格式建议用结构化存储，比如每行一个 JSON，方便后续画图分析。

import json log_interval = 50 probe_interval = 100 prev_weights = {n: p.detach().clone() for n, p in model.named_parameters()} for step, batch in enumerate(dataloader): loss = model(**batch).loss loss.backward() optimizer.step() optimizer.zero_grad() # 每步记录 A curr_weights = {n: p.detach() for n, p in model.named_parameters()} A = 0.0 for n in curr_weights: d = (curr_weights[n] - prev_weights[n]).float() A += d.pow(2).sum().item() A = A ** 0.5 record = {"step": step, "loss": loss.item(), "A": A} # 每 probe_interval 步记录 K 和 G if step % probe_interval == 0: g1, g2 = compute_probe_gradients(model, probe_samples) _, K_vec, G = compute_akg(model, prev_weights, curr_weights, g1, g2) record["G"] = G # K_vec 存成文件，太大不适合放日志 torch.save(K_vec, f"kvec_step{step}.pt") if step % log_interval == 0: with open("akg_log.jsonl", "a") as f: f.write(json.dumps(record) + "\n") prev_weights = {n: p.detach().clone() for n, p in model.named_parameters()}

这里有个性能陷阱：每步都 clone 全部权重，对 7B 模型来说一次就是 14GB 的拷贝，训练速度会掉一半以上。解决办法是只 clone 你关心的层，比如 LoRA 的 B 和 A 矩阵，或者只 clone 最后几层。我一般只监控 LoRA 参数，因为全参微调本来就不多，而且 LoRA 的 ΔW 才是真正在变的量。

4.4 可视化与趋势判读

日志有了，接下来是画图。我一般画三张图叠在一起：loss 曲线、A 曲线、G 曲线，K 的稳定性用单独一张图（余弦相似度随时间）。判读的时候重点看三个交叉点：A 开始下降但 loss 还在降的点（说明学习率该调了）、G 开始上升但 eval loss 还没动的点（过拟合预警）、K 余弦相似度跌破 0.5 的点（方向失稳）。

举个我实际跑过的例子。Qwen-7B 做医疗问答微调，LoRA r=16，lr=2e-4。前 200 步 A 稳定在 5e-3 左右，G 在 0.2，K 相似度 0.9，一切正常。到 400 步时 A 涨到 8e-3，G 涨到 0.35，K 相似度掉到 0.6。这时候 loss 还在降，但我判断方向开始不稳，把 lr 降到 1e-4。降完之后 A 回到 5e-3，G 回到 0.22，K 相似度回升到 0.85，最终模型在测试集上比不降 lr 的版本高 2.1 个点。这个调整如果只看 loss，是绝对不会做的，因为 loss 曲线在 400 步附近没有任何异常。

5. 常见问题与排查技巧实录

5.1 A 值异常：过大、过小与震荡

A 值过大是最常见的问题，表现是单步 ||ΔW||_F 超过 1e-1（LoRA）。原因一般有三个：学习率太大、梯度爆炸、或者权重衰减设置不当。排查顺序是先看梯度范数，如果梯度范数正常但 A 大，那是学习率问题；如果梯度范数也大，那是数据里有异常样本或者 loss 计算有问题。我遇到过一次 A 突然飙到 0.5，查下来是数据里混进了一条超长文本（超过 8000 token），导致梯度爆炸。解决办法是加长度过滤和梯度裁剪。

A 值过小则相反，一般是学习率太小或者模型已经收敛。但有个隐蔽情况：LoRA 的初始化问题。如果 B 初始化为零（标准做法），训练初期 ΔW = BA 接近零，A 值会非常小，这是正常的，一般几百步后会起来。如果几千步后 A 还是 1e-5 量级，那就要检查 LoRA 层是不是挂错了，或者 target_modules 配置不对，导致实际可训练参数极少。

A 值震荡指的是 A 在相邻步之间大幅波动，比如从 1e-3 跳到 1e-2 再跳回来。这通常是 batch 内样本差异过大导致的，解决办法是增大 batch size 或者用梯度累积。如果震荡伴随 loss 尖刺，那基本可以确定是数据质量问题，需要检查标注一致性。

5.2 K 方向频繁翻转的定位方法

K 方向翻转的表现是相邻 checkpoint 的 u1 余弦相似度低于 0.3。定位方法我总结了一个三步法。第一步，看翻转是否周期性，如果每隔固定步数翻一次，那大概率是数据加载顺序问题，比如不同类别的数据交替出现导致模型来回切换。第二步，看翻转是否伴随 loss 上升，如果是，那是学习率过大。第三步，如果前两步都不符合，那就是数据本身有冲突，需要做数据聚类分析，看是不是有两类样本的梯度方向天然对立。

我处理过一个典型案例：情感分类微调，K 方向每 200 步翻一次。查下来是数据里正面和负面样本的比例在 batch 内严重不均，有的 batch 全是正面，有的全是负面。解决办法是加一个按标签分层的 sampler，保证每个 batch 的正负比例稳定。改完之后 K 相似度稳定在 0.85 以上。

5.3 G 值居高不下的数据侧排查

G 值持续高于 0.6，说明梯度噪声主导，模型学不到一致信号。这时候不要急着调模型，先查数据。我的排查清单是这样的：第一，看标注一致性，随机抽 100 条样本人工复核，如果标注错误率超过 10%，那 G 高是必然的。第二，看样本长度分布，如果长度方差极大，短样本和长样本的梯度会互相干扰。第三，看类别平衡，严重不平衡的数据会让梯度方向被多数类主导，少数类贡献的梯度接近噪声。

还有一个容易被忽略的点：tokenizer 的影响。如果微调数据的 token 分布和预训练差异很大，比如大量专业术语被切成很多碎 token，那梯度噪声会天然偏高。这种情况可以考虑扩充词表或者对领域词做特殊处理，但成本较高，一般先通过增大 batch 和降低 lr 来缓解。

5.4 常见问题速查表

5.5 几个我踩过的坑

第一个坑是探针样本泄漏。早期我把探针样本从训练集里抽，结果 G 值一直很低很漂亮，但模型实际过拟合了。原因是探针样本参与了训练，模型对它们已经记住了，梯度自然一致。后来改成从验证集抽，G 值才反映真实情况。

第二个坑是SVD 数值不稳定。对接近奇异的矩阵做 SVD，主奇异向量可能符号翻转（u1 和 -u1 等价），导致余弦相似度算出 -1 但实际方向没变。解决办法是算相似度时取绝对值，或者固定符号约定。

第三个坑是监控开销被低估。我一开始每步都算 K 和 G，结果训练速度掉了 40%。后来改成 A 每步、K/G 每 100 步，开销降到 8% 左右，趋势依然清晰。监控是为了指导决策，不是为了监控而监控，频率够用就行。

6. 把 AKG 分解用进日常微调工作流

6.1 不同微调方式的适配差异

AKG 分解不是万能的，不同微调方式下它的表现和解读都不一样。LoRA 微调因为更新本身低秩，A 值天然小，K 方向也更容易稳定，G 值的参考价值最大。全参微调更新维度高，A 值大，K 的 SVD 计算贵，一般只监控最后几层。Adapter 微调介于两者之间，更新集中在 adapter 模块，监控范围可以缩小到这些模块。

6.2 与学习率调度的联动

AKG 分解最有价值的应用场景之一，是指导学习率调度。传统做法是 cosine 或 linear 衰减，固定 schedule。但如果你有 AKG 信号，可以做自适应调整：当 G 值上升超过阈值时，主动降 lr；当 K 相似度下降时，暂停衰减甚至回退。我实测过这种自适应策略，在几个领域微调任务上比固定 schedule 平均高 1.5 到 2 个点。

具体规则可以这样定：G 值连续 3 次超过 0.4，lr 乘以 0.7；K 相似度连续 2 次低于 0.5，lr 乘以 0.5 并回退到上一个 checkpoint。这些阈值需要根据任务调整，但逻辑是通用的——用动力学信号驱动调度，而不是用固定时间表。

6.3 数据配比优化的反馈闭环

AKG 分解还能反过来指导数据配比。做法是：对训练数据按来源或类别分组，分别算每组的梯度方向，然后看组间方向的一致性。如果两组数据的梯度方向接近正交或相反，说明它们在学习上冲突，混在一起训会互相干扰。这时候要么调整配比，要么分阶段训练。

我在一个多任务微调项目里用过这个方法。任务 A 是问答，任务 B 是摘要，混在一起训时 K 方向一直不稳。分别算梯度后发现两个任务的主方向余弦相似度只有 0.2，基本正交。后来改成先训 A 再训 B，最后用少量混合数据做对齐，效果比混合训好很多。这个判断如果只看 loss，是看不出来的，因为混合训的 loss 也在降，只是降得慢、泛化差。

6.4 监控成本与收益的平衡

最后说个现实问题：AKG 分解有成本，不是所有项目都值得上。我的经验判断是，如果单次微调成本低于 2 小时 GPU 时间，或者任务非常简单（比如格式转换），那没必要上 AKG，看 loss 就够了。如果单次微调超过 8 小时，或者任务对泛化要求高（比如医疗、法律、金融），那 AKG 的投入是值得的，因为它能帮你省下更多试错时间。

成本控制的关键是采样和降频。A 值计算便宜，可以全量；K 和 G 贵，采样监控。另外，监控代码要能一键关闭，不要硬编码进训练循环，否则调试的时候很烦。我一般用一个enable_akg开关控制，默认关闭，需要时打开。

这套东西我用了大半年，最大的体会是：微调从"调参玄学"变成了"有信号可依的工程"。以前遇到 loss 不降，只能盲目试学习率、试数据、试 rank；现在看 AKG 趋势，基本能定位到是数据问题、学习率问题还是配置问题。当然，它不是银弹，AKG 正常但模型效果差的案例也有，那通常是任务定义或者评测本身的问题，不在训练动力学范畴内。但至少，它把训练这一环的不确定性压下去了不少，这对做落地的人来说，价值是实打实的。