1. 从路径交叉问题到最优传输理论
在生成模型的训练过程中,我们经常会遇到一个令人头疼的现象:当多个样本的转换路径在潜在空间中交叉时,神经网络会收到相互矛盾的梯度信号。想象一下,你同时听到两个导航指令:"向前直行100米"和"向后倒退100米",这时候你会陷入原地不动的困境。这正是Flow Matching框架中路径交叉问题的生动写照。
从数学上看,路径交叉会导致向量场的平均速度趋近于零。假设有两个样本:
- 样本A要求以100单位速度向左移动
- 样本B要求以100单位速度向右移动
它们的平均速度就变成了(100 + (-100))/2 = 0。这种冲突使得模型学习到的向量场支离破碎,最终生成的图像会出现模糊、扭曲等问题,而且往往需要数百步ODE求解才能勉强收敛。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 最优传输的理论框架与实践
最优传输(Optimal Transport)理论为解决这个问题提供了优雅的数学工具。其核心思想可以追溯到18世纪蒙日提出的"最小化土方运输成本"问题。在现代机器学习语境下,我们将其重新表述为:如何找到噪声分布到数据分布的最优映射,使得所有"粒子"移动的总距离最短。
在Flow Matching中实现OT的关键在于采用线性条件概率路径:
code复制x_t = (1-t)x_0 + t x_1
对应的条件向量场为:
code复制u_t(x_t | x_1) = x_1 - x_0
这种设计带来了几个重要特性:
- 每个样本的路径都是直线运动
- 速度场保持恒定(不随时间t变化)
- 整体流场呈现出高度一致性
3. 直线路径的数值优势
直线路径在数值计算中展现出显著优势。当使用ODE求解器(如Euler方法)时:
- 弯曲路径:离散化误差会随着步数累积,步长稍大就会偏离真实轨迹
- 直线路径:即使采用大步长,解算器仍能保持在正确轨迹上
这解释了为什么采用OT的Stable Diffusion 3能够仅用几步就生成高质量图像。在实践中,我们观察到:
- 传统方法需要100-1000步求解
- OT方法通常只需5-20步即可获得更好结果
4. Rectified Flow的技术突破
虽然OT解决了路径平滑问题,但随机配对仍可能导致潜在的路径交叉。Rectified Flow通过Reflow技术进一步优化了这一过程。
