完整题目
请比较DDPM(Denoising Diffusion Probabilistic Models)与Flow Matching在建模思路、训练目标、采样效率和理论基础方面的核心区别,并分析各自的优缺点。
本文目录
建模视角
DDPM 定义离散前向马尔可夫加噪过程 q(x_t|x_{t-1}),并学习反向去噪转移。常见简化目标随机采样一个时间步 t,由闭式边缘 q(x_t|x_0) 一次构造 x_t,让网络预测噪声、score 或等价参数;不是每个训练样本顺序跑完一千步。
Flow Matching 在连续归一化流 ODE dx_t/dt=v_t(x_t) 下,预先选择从基分布到数据分布的概率路径,并回归该路径的条件向量场。它可选择 diffusion conditional path,也可选择 OT displacement path 等,不等于只学习直线。
训练与采样
- DDPM 训练通常是随机时间步的 Monte Carlo 估计;经典祖先采样按反向时间步迭代,DDIM、DPM-Solver 等可改变采样步数。
- Flow Matching 训练也随机采
t回归速度场,不需训练时积分 ODE;采样时用 ODE solver,NFE 由路径、求解器和误差决定。
因此训练时间步数、采样 NFE 和生成延迟必须分开。FM 可能因路径更直而少步,但不保证单步或固定十步。DDPM 也不是只能使用固定一千步采样。