企业官网建设流程全解析

扩散模型这两年在生成式AI领域的热度不用我多说，从图像生成到机器人动作规划，背后几乎都能看到它的影子。但很多人在上手跑通Stable Diffusion或者Diffusion Policy之后，对底层的数学框架其实还是一知半解——尤其是当论文里出现SDE、ODE、概率流、一步生成这些词的时候，很容易就卡住了。我自己在复现几篇扩散模型相关工作时，也在这块反复绕了不少弯路，后来把连续时间框架这条线彻底捋清楚之后，很多之前觉得割裂的概念一下子就串起来了。这篇内容主要面向已经跑过扩散模型Demo、想进一步理解其数学骨架的开发者，以及正在做扩散模型加速采样、一步生成方向研究的同学。我会从SDE和ODE两条路径出发，把连续时间框架怎么搭起来、两种视角各自解决什么问题、一步生成到底是怎么实现的，尽量用能落地的方式讲清楚。

1. 连续时间框架到底在解决什么问题

1.1 从离散到连续：为什么需要换视角

最早接触扩散模型的时候，大家学的基本都是DDPM那套离散加噪的流程：定义T个时间步，每一步加一点高斯噪声，前向过程是一个马尔可夫链，反向过程用神经网络去预测每一步的噪声。这套框架直观、好实现，但它有几个让人难受的地方。

第一个问题是步数太多。DDPM标准配置是1000步，采样一张图要跑1000次网络前向，推理成本高得离谱。虽然DDIM把确定性采样引入进来，可以把步数压到50步甚至20步，但本质上还是在离散的步数框架里做文章，没有从根本上改变“多步迭代”这个约束。

第二个问题是理论分析不方便。离散框架下，你要分析误差累积、要推导最优采样步长、要证明收敛性，都得在离散的递推式上做，数学处理很繁琐。而连续时间框架把离散的T步取极限，变成一个连续的时间变量t从0到1的演化过程，这时候就可以借用随机微分方程和常微分方程这套成熟的数学工具来分析问题了。

第三个问题是灵活性。离散框架下，前向加噪的schedule是固定的，你想换个噪声调度策略，就得重新推导整个反向过程。而连续时间框架下，噪声调度变成了一个连续函数，你可以自由设计，反向过程的形式不依赖于具体调度，这就给模型设计留出了很大的空间。

我个人的体会是，如果你只是调包跑推理，离散框架够用了。但如果你想改采样器、想做蒸馏加速、想理解为什么某些方法能work，那连续时间框架是绕不过去的。

1.2 SDE视角：把加噪过程写成随机微分方程

连续时间框架下，前向加噪过程可以写成一个随机微分方程：

$$dx = f(x, t)dt + g(t)dw$$

这里f(x,t)是漂移项，控制确定性的演化趋势；g(t)是扩散系数，控制噪声注入的强度；dw是标准维纳过程的增量。这个方程的意思是：在每一个微小的时间间隔dt内，x的变化由两部分组成——一部分是确定性的漂移，一部分是随机的噪声注入。

具体到扩散模型，最常见的两个SDE是：

VP-SDE（Variance Preserving）：漂移项f(x,t) = -½β(t)x，扩散系数g(t) = √β(t)。这个形式保证了这个过程的方差始终有界，前向过程最终收敛到标准正态分布。DDPM对应的就是VP-SDE的离散化版本。

VE-SDE（Variance Exploding）：漂移项f(x,t) = 0，扩散系数g(t) = √(dσ²(t)/dt)。这个形式下方差随时间不断增大，最终趋于无穷。NCSN（Noise Conditional Score Network）对应的是这个框架。

这两个SDE的选择不是随便定的，它们各自对应不同的噪声调度策略，也影响后续反向过程的数值稳定性。VP-SDE因为方差有界，数值上更稳定，所以在实际应用中更常见。

1.3 ODE视角：去掉随机性后的确定性演化

有意思的是，同一个前向加噪过程，除了SDE描述之外，还可以用一个ODE来描述。这个ODE被称为概率流ODE（Probability Flow ODE）：

$$dx = [f(x, t) - \frac{1}{2}g(t)^2 \nabla_x \log p_t(x)]dt$$

这个ODE的关键在于：它和对应的SDE共享同一个边缘概率密度p_t(x)的演化轨迹。换句话说，如果你从同一个初始分布出发，沿着SDE走和沿着ODE走，在每一个时刻t，x的边缘分布是一样的。区别在于，SDE的轨迹是随机的，每次走出来的路径不同；ODE的轨迹是确定的，给定初始点，路径就唯一确定了。

这个性质非常重要，因为它意味着你可以用ODE来做采样，而ODE采样有一个巨大的好处：可以用高阶数值求解器来加速。SDE采样受限于随机性，一般只能用一阶方法（比如Euler-Maruyama），步长不能太大；而ODE采样可以用Runge-Kutta这类高阶方法，步长可以放得很大，步数可以压得很低。

提示：概率流ODE的推导用到了Fokker-Planck方程，核心思路是让SDE的Fokker-Planck方程和ODE的连续性方程对应起来，从而解出ODE的漂移项。这个推导过程在很多综述论文里都有，建议自己推一遍，推完之后对SDE和ODE的关系会有完全不同的理解。

2. SDE与ODE的核心细节拆解

2.1 反向SDE的推导与score function的角色

前向SDE是从数据分布走向噪声分布，采样需要的是反向过程，也就是从噪声分布走回数据分布。反向SDE的形式是：

$$dx = [f(x, t) - g(t)^2 \nabla_x \log p_t(x)]dt + g(t)d\bar{w}$$

这里最关键的量是∇_x log p_t(x)，也就是score function，即对数概率密度对x的梯度。这个量刻画了在时刻t，概率密度在x处的“陡峭程度”，指向概率密度增大的方向。

问题在于，我们并不知道真实的数据分布p_t(x)，所以score function也没法直接算。扩散模型的核心思想就是用神经网络s_θ(x,t)去估计这个score function。训练目标是最小化：

$$\mathbb{E}{t,x_0,\epsilon}[|\epsilon - \epsilon\theta(x_t, t)|^2]$$

这就是大家熟悉的噪声预测损失。有意思的是，噪声预测和score估计是等价的：∇_x log p_t(x) ≈ -ε_θ(x_t,t)/σ_t。所以DDPM里训练网络预测噪声，本质上就是在估计score function。

这个等价关系是理解扩散模型的关键。很多人训练的时候只知道要预测噪声，但不知道为什么预测噪声就能实现生成，答案就在这个等价关系里。

2.2 概率流ODE的推导逻辑

概率流ODE的推导核心是Fokker-Planck方程。对于前向SDE，其对应的Fokker-Planck方程描述了概率密度p_t(x)随时间的演化：

$$\frac{\partial p_t}{\partial t} = -\nabla \cdot (f p_t) + \frac{1}{2}g^2 \Delta p_t$$

而ODE对应的连续性方程是：

$$\frac{\partial p_t}{\partial t} = -\nabla \cdot (\tilde{f} p_t)$$

让这两个方程相等，可以解出ODE的漂移项：

$$\tilde{f}(x, t) = f(x, t) - \frac{1}{2}g(t)^2 \nabla_x \log p_t(x)$$

这就是概率流ODE的表达式。推导本身不复杂，但背后的直觉值得琢磨：ODE的漂移项等于SDE的漂移项减去一半的扩散项乘以score。这个“减去一半”的系数很关键，它保证了ODE和SDE的边缘分布一致。

2.3 两种视角的对比与选择依据

选择哪个视角，取决于你要解决什么问题。如果你关注的是生成质量的理论保证、或者需要分析采样过程的随机性，SDE视角更合适。如果你关注的是采样速度、需要做蒸馏加速、或者想计算精确似然，ODE视角更有优势。

我自己的经验是，实际做项目的时候，两个视角都要掌握，因为它们描述的是同一个过程的两个侧面，很多问题从一个视角看很复杂，换到另一个视角就豁然开朗了。

3. 从多步到一步：ODE框架下的加速生成

3.1 为什么ODE天然适合加速

ODE采样之所以能加速，根本原因在于它的确定性。SDE采样每一步都注入随机噪声，这个噪声会引入误差，步长大了误差就大，所以只能用很小的步长、很多步数来保证质量。而ODE采样没有随机项，误差只来自数值离散化，用高阶求解器可以把离散化误差控制得很小，步长就可以放得很大。

举个具体的例子：用DDIM（本质上是概率流ODE的一阶离散化）采样，20步就能出不错的结果；用DPM-Solver（二阶或三阶求解器），10步左右就能达到类似质量；再往上，用高阶求解器配合好的噪声调度，5步甚至更少也能work。

但这里有个瓶颈：即使步数压到5步，也还是多步迭代。对于实时生成、边缘部署这类场景，5步可能还是太慢。这就引出了一步生成的需求。

3.2 蒸馏加速的核心思路

一步生成的核心思路是蒸馏：训练一个学生网络，让它一步就能从噪声映射到数据。具体做法有几种：

渐进式蒸馏（Progressive Distillation）：把教师模型的N步采样过程，逐步蒸馏成N/2步、N/4步，直到1步。每一步蒸馏都是训练学生网络去匹配教师网络两步采样的结果。这个方法思路清晰，但需要多轮蒸馏，训练成本高。

一致性模型（Consistency Model）：训练一个网络，使得概率流ODE轨迹上任意两点映射到同一个初始点。这样推理的时候，从噪声出发一步就能映射到数据。一致性模型的关键是自一致性约束：同一条ODE轨迹上的不同点，经过网络映射后应该得到相同的结果。

对抗蒸馏：用GAN的判别器来约束学生网络的输出分布，使其匹配教师模型的输出分布。这个方法在感知质量上表现很好，但训练不稳定是老大难问题。

3.3 一步生成的实操要点

如果你要自己实现一步生成，有几个点需要特别注意：

教师模型的选择：教师模型的质量直接决定学生模型的上限。建议先用一个训练充分的、采样质量稳定的扩散模型作为教师，不要用还没收敛的模型。

蒸馏损失的权重：蒸馏损失通常由两部分组成——匹配教师输出的蒸馏损失，和保证生成质量的辅助损失（比如对抗损失或感知损失）。两者的权重需要仔细调，蒸馏损失权重太高会导致生成结果模糊，太低又学不到教师的知识。

时间步的采样策略：蒸馏训练时，时间步t的采样策略很关键。如果均匀采样，靠近数据端（t小）的样本会占主导，因为那里的score变化剧烈。实践中常用重要性采样，让训练样本在时间轴上分布更均匀。

注意：一步生成模型在分布覆盖度上通常不如多步模型，容易出现模式坍塌。如果你的应用场景对多样性要求高，建议保留多步采样的选项，或者用少步（2-4步）而不是严格一步。

4. 实操中常见的问题与排查

4.1 采样质量突然变差的排查思路

这是最常见的问题之一。你之前跑得好好的采样脚本，换了个模型或者换了个调度器，结果出来的图要么糊要么噪。排查的时候按这个顺序来：

先检查噪声调度：不同的SDE对应不同的噪声调度，VP-SDE和VE-SDE的调度函数完全不同。如果你把VP-SDE训练出来的模型用VE-SDE的采样器去跑，结果肯定不对。确认训练和采样用的是同一套调度。

再检查时间步的离散化：连续时间框架下，时间步的离散化方式会影响采样质量。特别是靠近t=0和t=1的地方，score function变化剧烈，需要更细的离散化。如果用的是均匀步长，建议在两端加密。

最后检查数值稳定性：ODE求解器在t接近0的时候可能会数值不稳定，因为score function在那里可能趋于无穷。实践中常用的做法是在t=ε处截断，不要真的走到t=0。

4.2 蒸馏训练不收敛的常见原因

蒸馏训练比普通扩散模型训练更难收敛，我踩过的坑主要有这几个：

学习率太大：蒸馏训练的学习率通常要比预训练小一个数量级。因为学生网络是在拟合教师网络的输出，学习率太大会导致学生网络在教师输出附近震荡。

教师网络的输出噪声：如果教师网络本身的采样结果就有噪声（比如用了SDE采样），那蒸馏目标就带有随机性，学生网络很难学。建议用ODE采样得到确定性的教师输出作为蒸馏目标。

判别器过强：如果用对抗蒸馏，判别器太强会导致生成器梯度消失。常用的技巧是判别器用谱归一化，或者用WGAN-GP的损失形式。

4.3 常见问题速查表

4.4 几个容易被忽略的实操细节

关于噪声调度的选择：VP-SDE和VE-SDE不是唯一的选择，还有sub-VP SDE等变体。sub-VP SDE在保持方差有界的同时，让方差随时间的衰减更平滑，在某些数据集上表现更好。如果你的模型在标准VP-SDE上效果不理想，可以试试sub-VP。

关于求解器的选择：一阶Euler求解器简单但精度低，二阶Heun求解器精度高但每步需要两次网络评估。实际选择的时候要权衡：如果网络评估成本高，用一阶但多步；如果网络评估成本低，用二阶但少步。DPM-Solver系列求解器专门针对扩散模型设计，利用了扩散ODE的半线性结构，在少步场景下表现很好。

关于时间步的嵌入方式：连续时间框架下，时间t是连续变量，需要嵌入到网络里。常用的方式是正弦位置编码，但编码的频率范围需要根据t的取值范围来设计。如果t的范围是[0,1]，编码频率太高会导致网络难以学习，太低又区分度不够。实践中常用的是对数间隔的频率。

关于数值精度：扩散模型的采样过程涉及大量小数值的累加，用float32可能会有精度损失。如果发现采样结果有细微的噪声，可以试试用float64跑采样过程，或者用Kahan求和来减少累加误差。

5. 连续时间框架的扩展应用

5.1 在Diffusion Policy中的应用

Diffusion Policy是把扩散模型用到机器人动作生成上的工作，它的核心是把动作序列当作“图像”来生成。在连续时间框架下，Diffusion Policy的采样过程同样可以用SDE或ODE来描述。用ODE采样的好处是确定性，同样的观测输入会得到同样的动作输出，这对机器人控制很重要——如果每次采样出来的动作都不一样，机器人就会抖动。

实际操作中，Diffusion Policy通常用DDIM（即概率流ODE的一阶离散化）来采样，步数在10-20步左右。如果要进一步加速，可以用蒸馏把步数压到1-2步，但要注意动作的平滑性可能会下降。

5.2 在潜在空间扩散中的应用

Stable Diffusion的核心创新之一是在潜在空间做扩散，而不是在像素空间。潜在空间的维度更低，扩散过程的计算量更小。在连续时间框架下，潜在空间的扩散同样可以用SDE和ODE来描述，而且因为维度低，ODE求解器的数值稳定性更好，可以用更大的步长。

如果你要在自己的项目里用潜在空间扩散，有几个点需要注意：VAE的编码器和解码器需要和扩散模型联合调优，否则潜在空间的分布可能不适合扩散；潜在空间的缩放因子需要仔细调，太大或太小都会影响扩散过程的稳定性。

5.3 在语言模型中的扩散应用

扩散模型用在文本生成上是一个比较新的方向。文本是离散的，而扩散模型天然是连续的，所以需要把离散的token映射到连续空间，或者用离散扩散的方式。在连续时间框架下，连续空间的文本扩散可以用ODE采样，而且因为文本的序列结构，可以用一些针对序列的求解器优化。

这个方向目前还在早期，但已经有一些有意思的工作。如果你对这个方向感兴趣，建议先从连续空间的文本扩散入手，理解清楚之后再考虑离散扩散。

6. 我个人的一些经验体会

绕了这么大一圈，说几个我自己在实际操作中觉得最有用的点。

第一个是关于理解深度和实操的关系。我一开始学扩散模型的时候，觉得SDE和ODE这些数学推导离实际写代码很远，后来发现完全不是这样。当你的采样结果出问题的时候，如果你理解SDE和ODE的关系，你就能很快定位是调度的问题、求解器的问题还是数值精度的问题。数学框架不是装饰，它是排查问题的地图。

第二个是关于一步生成的取舍。一步生成很诱人，但它不是万能的。在我的经验里，一步生成在标准数据集上（比如CIFAR-10、ImageNet 64x64）表现不错，但在高分辨率、复杂场景下，和多步采样的差距还是很明显的。如果你的应用场景对质量要求极高，建议还是用少步（4-8步）而不是严格一步。

第三个是关于工具的选择。如果你只是想做实验验证想法，用现成的库（比如Hugging Face的diffusers）就够了，它已经实现了各种SDE和ODE求解器。但如果你想深入理解，建议自己从零实现一遍VP-SDE的采样过程，包括score function的估计、反向SDE的离散化、概率流ODE的求解。自己写一遍，比看十篇论文都管用。

最后分享一个小技巧：在调试ODE采样器的时候，可以先把步数设得很大（比如1000步），确认结果正确之后，再逐步减少步数，观察质量下降的拐点在哪里。这个拐点就是你的求解器和调度组合能达到的最小步数。不同模型、不同数据集的拐点不一样，需要自己测。