扩散模型、最优传输存在什么关系？法国数学家4页论文引网友围观

扩散模型与最优传输的关系并非显而易见。尽管在相似数据集上训练的不同扩散模型往往产生相似的映射关系，但这些映射是否为最优传输映射仍是一个悬而未决的问题。

2022年，Lavenant和Santambrogio的论文《THE FLOW MAP OF THE FOKKER-PLANCK EQUATION DOES NOT PROVIDE OPTIMAL TRANSPORT》推翻了此前的猜想，即通过积分Fokker-Planck方程的Wasserstein速度得到的ODE流能产生最优传输映射。该论文通过反例证明，在某些情况下，流模型无法实现最优传输。 这篇论文证明过程复杂，以大量公式推导为主。

法国数学家Peyré在论文《Diffusion models and Optimal Transport》中对Lavenant和Santambrogio的证明进行了简化总结，清晰地阐述了扩散模型一般情况下无法定义最优传输映射的结论。

Peyré的文章主要内容如下：

生成模型旨在构建从参考分布α（通常为各向同性高斯分布）到数据分布β的传输映射T，使得T♯α = β。 寻找T的显式构造方法非常困难，主要方法包括最优传输和逆向积分扩散过程的平流场。

最优传输 通过求解Monge问题找到T，Brenier定理证明该映射存在且唯一，可表示为凸函数的梯度。

阿里云-虚拟数字人

阿里云-虚拟数字人是什么？ ...

2

查看详情

逆向Flow Map 扩散模型通过求解一个定义在β₀=β和β∞=α之间的差值βₜ上的过程，来定义映射。该过程可通过向量场v演化粒子来实现，最终得到flow map Sₜ。

关键结论：逆向Flow Map并非最优传输

Lavenant和Santambrogio通过构造反例证明，一般情况下，逆向flow map Sₜ⁻¹并非最优传输映射。他们证明，对于某些接近各向同性高斯分布α的数据分布β，以及某些时间t，从α到βₜ的逆向flow map并非最优传输。 证明的核心在于，假设逆向flow map为最优传输，并结合Fokker-Planck方程和Brenier定理，最终得出矛盾。 他们通过构造一个特定的β分布，并分析其在t=0时的性质，证明了该假设不成立。

简而言之，尽管扩散模型在图像生成等领域取得了显著成功，但其底层映射与最优传输理论的关系并非简单的等价关系，两者之间存在着重要的区别。

以上就是扩散模型、最优传输存在什么关系？法国数学家4页论文引网友围观的详细内容，更多请关注php中文网其它相关文章！