PF-ODE 是不是最佳運送？線性流與 Reflow 呢？

前置知識

• B18：OT 的靜態與 Benamou–Brenier 形式、Monge–Ampère 方程；B14：Rectify、Reflow、旋轉配對。
• B09：PF-ODE 與 Fokker–Planck；B11：變數變換公式。
• 線性代數：兩個對稱矩陣的乘積對稱，若且唯若它們可交換（\(AB=(AB)^\top=B^\top A^\top=BA\)）。

書把整個第 7 章標為選讀。「書 §」標出原文位置。灰框「轉述者補充」是書裡沒有的內容；藍框「推導」展開書中省略的步驟。

01PF-ODE 的流一般不是最佳運送書 §7.5、§7.5.1

一個自然的問題是：diffusion 過程誘導的確定性 flow map，是不是二次成本下的最佳運送映射？一般而言答案是否定的，而且在高斯的設定裡就已經有明確的反例。特別是 Tanana (2017) 證明：對參考更一般的高斯 diffusion 流，即使兩端分佈都是高斯，得到的確定性運送映射也可能和 Brenier 最佳運送映射不同；因為這個設定下兩個映射都是顯式的，差別可以直接驗證。下面介紹 Lavenant & Santambrogio (2022) 在和 diffusion model 直接相關的標準高斯 Ornstein–Uhlenbeck 設定下更強的建構：他們的論證對一個更廣的初始分佈類別建立了非最佳性，也讓我們看到對應的 PF-ODE flow map 為什麼不必是最佳運送映射。

轉述者注：圖中的連線畫的是「起點到終點」的配對。PF-ODE 的軌跡本身在圖上畫成彎線，OT 的是直線（McCann 插值）；但判斷是不是 OT 要看的是配對本身，不是線的形狀。Demo A 用兩個精確的測試比較兩者的配對。

設定

考慮一個 VP SDE，具體地說是 Ornstein–Uhlenbeck 過程，它把平滑的初始密度 \(p_0\) 演化到標準高斯 \(\mathcal N(\mathbf 0,\mathbf I)\)：

對應的 PF-ODE 是

這裡 \(\mathbf S_t\) 表示把 \(p_0\) 推成邊際 \(p_t\) 的 flow map：\((\mathbf S_t)_\#p_0=p_t\)，也就是 \(p_t(\mathbf y)=\int\delta(\mathbf y-\mathbf S_t(\mathbf x))\,p_0(\mathbf x)\,d\mathbf x\)。這些密度依 Fokker–Planck 方程 \(\partial_tp_t=\nabla\cdot(\mathbf xp_t)+\Delta p_t\) 演化，等價於速度場為 \(\mathbf v_t(\mathbf x)=-\mathbf x-\nabla\log p_t(\mathbf x)\) 的連續方程，它的流就是 \(\mathbf S_t(\mathbf x)\)。換句話說，PF-ODE 可以寫成 \(\frac{d\mathbf S_t(\mathbf x)}{dt}=\mathbf v_t(\mathbf S_t(\mathbf x))\)。\(t\to\infty\) 時，這個映射把初始分佈運到先驗：\(\mathbf S_{\infty\#}p_0=\mathcal N(\mathbf 0,\mathbf I)=:p_{\text{prior}}\)。

Lavenant–Santambrogio 論證的目標

Lavenant & Santambrogio (2022) 並不直接判斷終端映射 \(\mathbf S_\infty\)（從 \(p_0\) 到高斯）是不是最佳的。他們構造一個特定的初始分佈 \(p_0\)，檢查整條 PF-ODE 軌跡。關鍵的觀察是：最佳性可能在流的某個時刻失效。他們考慮中間的邊際 \(p_t=\mathbf S_{t\#}p_0\)，定義從 \(p_t\) 到高斯的剩餘運送映射

論證的核心是：對一個精心選擇的 \(p_0\)，存在某個時刻 \(t_0\ge0\)，使得 \(\mathbf T_{t_0\to\infty}\) 不是從新的起始分佈 \(p_{t_0}\) 到 \(\mathcal N(\mathbf 0,\mathbf I)\) 的二次成本最佳運送映射。這說明 PF-ODE 的流一般不給出最佳運送映射，最佳性對某些初始分佈會失效。

工具

這個論證關鍵地依賴下面的結果，稱為 Brenier 定理：

證明也隱含地用到下面這個事實，之後不再每次重提：一個映射是兩個分佈之間的最佳運送，若且唯若它的反函數是反方向的最佳運送。

02證明骨架：PF-ODE 一般不是 OT 映射書 §7.5.1

Lavenant & Santambrogio (2022) 用反證法：假設對每個 \(t\ge0\)，映射 \(\mathbf T_t=\mathbf S_t\circ\mathbf S_\infty^{-1}\) 都是從 \(\mathcal N(\mathbf 0,\mathbf I)\) 到 \(p_t\) 的二次成本最佳運送映射。

步驟 1：Brenier 定理。由 Brenier 定理，任何從高斯出發的最佳運送映射，雅可比矩陣都必須對稱、半正定。所以

對所有 \(t\) 和 \(\mathbf x\) 都必須對稱。這裡 \(\mathrm D\mathbf T_t(\mathbf x)\) 表示對 \(\mathbf x\) 的全微分。

步驟 2：對時間微分對稱條件。對時間微分：

因為對稱性對所有 \(t\) 成立，這個導數也保持對稱。用流的 ODE（對 \(\mathbf x\) 微分）得到

合起來，\(\big(-\mathbf I-\mathrm D^2\log p_t(\mathbf S_t)\big)\cdot\mathrm D\mathbf S_t\cdot\mathrm D(\mathbf S_\infty^{-1})\) 對所有 \(t\ge0\) 都對稱。在 \(t=0\)，\(\mathbf S_0=\mathbf I\)、\(\mathrm D\mathbf S_0=\mathbf I\)，得到

步驟 3：交換條件。因為 \(\mathbf T_0=\mathbf S_\infty^{-1}\) 被假設是最佳的，它的雅可比矩陣 \(\mathrm D\mathbf T_0=\mathrm D(\mathbf S_\infty^{-1})\) 對稱。而 Hessian \(\mathrm D^2\log p_0\) 也對稱。回想：兩個對稱矩陣的乘積對稱，若且唯若它們可交換。所以對所有 \(\mathbf x\in\mathbb R^D\)，\(\mathrm D^2\log p_0(\mathbf S_\infty^{-1}(\mathbf x))\) 必須和 \(\mathrm D(\mathbf S_\infty^{-1})(\mathbf x)\) 可交換。令 \(\mathbf y=\mathbf S_\infty^{-1}(\mathbf x)\)，得到等價的條件：對所有 \(\mathbf y\)，\(\mathrm D^2\log p_0(\mathbf y)\) 必須和 \(\mathrm D\mathbf S_\infty(\mathbf y)\) 可交換。

接著把這個條件轉成比較好算的形式。因為 \(\mathbf S_\infty\) 是 \(p_0\) 和 \(\mathcal N(\mathbf 0,\mathbf I)\) 之間的最佳映射，Brenier 定理保證對某個凸函數 \(u\)，\(\mathbf S_\infty=\nabla u\)。由 Monge–Ampère 方程得到

條件變成（用 \(\mathrm D\mathbf S_\infty=\mathrm D^2u\)）：

這給出 \(\mathbf T_t\) 最佳的一個必要條件。

步驟 4：構造反例。看怎麼用這個必要條件推出矛盾。假設能構造一個凸函數 \(u\)，使得 \(\mathrm D^2\big(\log\det\mathrm D^2u(\mathbf x)-\frac12\Vert\nabla u(\mathbf x)\Vert^2\big)\) 在某個 \(\mathbf x\in\mathbb R^D\) 不和 \(\mathrm D^2u(\mathbf x)\) 可交換。定義 \(p_0=(\nabla u)^{-1}_\#\mathcal N(\mathbf 0,\mathbf I)\)，Brenier 定理說 \(\nabla u\) 是從 \(p_0\) 到 \(\mathcal N(\mathbf 0,\mathbf I)\) 的最佳運送；但上面的條件不成立，產生矛盾。所以目標是構造這樣的函數。考慮

則 \(\mathrm D^2u(\mathbf 0)=\mathbf I+\varepsilon\,\mathrm D^2\phi(\mathbf 0)\)，而在 \(\mathbf x=\mathbf 0\) 的交換條件要求 \(\mathrm D^2\phi(\mathbf 0)\) 和 \(\mathrm D^2(\Delta\phi)(\mathbf 0)\) 可交換。例如在 \(\mathbb R^2\) 選 \(\phi(x_1,x_2)=x_1x_2+x_1^4\)，就給出一個 Hessian \(\mathrm D^2\log p_0\) 和雅可比矩陣 \(\mathrm D^2u\) 不可交換的反例。這個矛盾說明 \(\mathbf T_t\) 不可能對所有 \(t\ge0\) 都最佳。因此存在某個 \(t_0\ge0\)，使映射 \(\mathbf T_{t_0\to\infty}\) 不是最佳的。

Demo APF-ODE 映射 vs. OT 映射：兩個精確的測試轉述者補充

二維。\(p_0\) 是兩個斜著放的細長高斯的混合（混合的 score 有封閉形式，所以 \(\nabla\log p_t\) 是精確的）。200 個資料點沿 OU 的 PF-ODE 用 RK4（400 步）從 \(t=0\) 積分到 \(t=8\)，終點近似 \(\mathcal N(\mathbf 0,\mathbf I)\)。兩個測試：

• 離散測試。拿這 200 對 \((\mathbf x_i,\mathbf S_\infty(\mathbf x_i))\)，用匈牙利演算法在同一批起點和終點之間重新找最佳配對。如果 \(\mathbf S_\infty\) 是 OT 映射，它的配對是循環單調的，離散 OT 會原封不動地選它；任何被重新配對的點都是非最佳的證據。
• 連續測試（Brenier）。用有限差分算 \(\mathrm D\mathbf S_\infty\) 在 40 個點的值，量它偏離對稱的程度 \(|J_{12}-J_{21}|/\Vert J\Vert_F\)。OT 映射的雅可比矩陣必須對稱。

對照組：單一個斜放的高斯（OU 下 \(p_t\) 一直是高斯、共變異數和原本的可交換，PF-ODE 映射是對稱的線性映射，應該就是 OT）。

瀏覽器實測（和 Node 原型一致）。終點的樣本統計是平均 (−0.02, 0.12)、變異數 (1.02, 1.08)、共變異數 0.00，確認 \(\mathbf S_\infty\) 的確把資料推成 \(\mathcal N(\mathbf 0,\mathbf I)\)。兩個測試：

對照組完全符合理論：PF-ODE 的配對就是最佳配對，雅可比矩陣在數值精度內對稱。兩團混合時兩個測試都失敗：匈牙利演算法找到成本更低的配對（14 個點被重新配對；切到「只畫被重新配對的點」，可以看到它們來自兩團彼此靠近的那一側，終點都在高斯的中央附近），雅可比矩陣平均有 12.6% 不對稱，違反 Brenier 定理的必要條件。值得注意的是成本只差 0.0008（約萬分之二）：PF-ODE 不是 OT，但離 OT 很近。這呼應第 3 節最後的提醒：「是不是最佳運送」和「生成得好不好」是兩回事。

Demo B反例裡的交換子轉述者補充

\(u(\mathbf x)=\frac12\Vert\mathbf x\Vert^2+\varepsilon\phi(\mathbf x)\)。在 \(\mathbf x=\mathbf 0\) 精確地（用 \(u\) 的解析導數，不做一階近似）算出 \(H_u=\mathrm D^2u(\mathbf 0)\) 和 \(H_f=\mathrm D^2\big(\log\det\mathrm D^2u-\frac12\Vert\nabla u\Vert^2\big)(\mathbf 0)\)，以及交換子 \([H_f,H_u]=H_fH_u-H_uH_f\)。\(H_f\) 用有限差分（步長 \(10^{-3}\)）算。

\(\varepsilon=0.1\) 時交換子是 \(\begin{bmatrix}0&0.242\\-0.242&0\end{bmatrix}\)，Frobenius 範數 0.343，一階預測 \(24\varepsilon^2\sqrt2=0.339\)；\(\varepsilon=0.02\) 時兩者都是 \(1.36\times10^{-2}\)，一階展開幾乎精確；\(\varepsilon=0.4\) 時精確值 6.46、一階預測 5.43，高階項開始有影響。不論 \(\varepsilon\) 多小，只要不是 0，交換子就不是 0：反例對任意小的擾動都成立。把 \(\phi\) 換成只有 \(x_1x_2\)：\(\Delta\phi=0\)，交換子精確為 0，必要條件成立，得不到矛盾（但這也不證明那時 PF-ODE 是 OT）；換成 \(x_1^2x_2^2\)：\(\mathrm D^2\phi(\mathbf 0)=0\)，\(H_u=\mathbf I\) 和什麼都可交換，同樣得不到矛盾。書的反例需要兩個「方向不一致」的部分：\(x_1x_2\) 讓 \(H_u\) 的特徵方向轉 45°，\(x_1^4\) 讓 \(H_f\) 的特徵方向沿座標軸。

03典型的線性流與 Reflow 能得到 OT 映射嗎？書 §7.5.2

已經看到 PF-ODE（特別是 VP 型前向核的）一般不是 OT 映射。一個自然的問題是：

答案是否定的。不過，線性路徑配上一個給定的配對，提供了真正 OT 成本的一個實用上界；在所有路徑中，線性插值給出最緊的這種上界，如下所述。

典型線性流與最佳運送

專注在二次成本的最佳運送，考慮 Benamou–Brenier 的等價形式（B18）：

和靜態的 Monge 形式不同（在那裡計算最佳映射需要解 Monge–Ampère 方程），引入動量場 \(\mathbf m_t:=p_t\mathbf v_t\) 之後，Benamou–Brenier 問題可以改寫成一個凸問題。儘管如此，在 \(\mathbb R^D\) 的網格上離散化這個凸問題，在高維仍然不可行。

雖然解 Benamou–Brenier 形式一般不可行，Liu et al. (2022)、Lipman et al. (2024) 指出它的動能有一個實用的上界：把搜尋限制在比較簡單的一族條件流上，每條路徑由從配對 \(\pi_{0,1}\) 抽出的端點 \((\mathbf x_0,\mathbf x_1)\) 決定。在這個條件流族裡，典型的線性插值是最佳的選擇：

換句話說，線性插值 \(\bm\Psi_t^*\)（也就是 Flow Matching 和 Rectified Flow 使用的前向核）對任何選定的配對 \(\pi_{0,1}\)，都最小化真正動能的一個上界。書強調：在這個條件流的類別內最佳，並不保證在邊際分佈上全域最佳。

Reflow 與最佳運送

兩個分佈之間最天真的運送計畫，是用簡單的獨立配對把樣本用直線連起來。但這個做法顯然不是最佳的：失敗的原因不在直線路徑本身，而在最初沒有效率的配對。Reflow 程序可能提供一個建設性的回應：它是一個專門為了修正配對而設計的迭代演算法，而且關鍵是，每一步都保證不增加成本（Liu et al. 2022；B14）。這個性質暗示 Reflow 有系統地把運送計畫推向更佳的配置，自然引出它的收斂問題：

簡短的答案是：一般而言不會。下面說明可能出什麼問題。回想 Reflow 程序透過更新 \(\pi^{(k+1)}=\texttt{Rectify}(\pi^{(k)})\) 迭代地改良 \(p_{\text{src}}\) 和 \(p_{\text{tgt}}\) 之間的配對，以乘積配對 \(\pi^{(0)}:=p_{\text{src}}(\mathbf x_0)p_{\text{tgt}}(\mathbf x_1)\) 初始化。更精確地說，在每一輪 \(k=0,1,2,\dots\)，先學一個速度場 \(\mathbf v_t^{(k)}\in\arg\min_{\mathbf u_t}\mathcal L(\mathbf u_t\mid\pi^{(k)})\)，其中 \(\mathcal L(\mathbf u_t\mid\pi^{(k)})\) 是 B14 的 Reflow 損失（為了記號簡單，這裡用非參數的寫法，而不是其他地方用的參數形式 \(\bm\phi\)）；更新後的配對是

\(\bm\Psi_1^{(k)}\) 是從初始條件 \(\mathbf x_0\) 積分 \(\mathbf v_t^{(k)}\) 到 \(t=1\) 的解映射。Liu et al. (2022) 觀察到：對 \(p_{\text{src}}\)、\(p_{\text{tgt}}\) 之間的一個配對 \(\pi\)，存在一個讓 Reflow 損失為零（\(\mathcal L(\mathbf v_t\mid\pi)=0\)）的速度場，並不表示這個運送是最佳的（B14 的旋轉配對就是一例）。

受到 Benamou–Brenier 框架啟發（那裡已知最佳運送的速度是一個位勢函數的梯度），Liu et al. (2022) 提出一個額外的限制：速度場 \(\mathbf v_t\) 應該是一個位勢場。相應地，Reflow 的目標被改成把 \(\mathbf v_t\) 限制在梯度向量場（也稱為位勢流）的空間裡：

程序的其他部分和 Rectify 相同。這個運算子記作 \(\texttt{Rectify}_\perp\)，強調它投影到無旋的向量場上。

令 \(\pi\) 是 \(p_{\text{src}}\) 和 \(p_{\text{tgt}}\) 之間的一個配對。Liu et al. (2022) 猜想下面三者等價，刻畫最佳性：

1. \(\pi\) 是一個最佳運送配對；
2. \(\pi\) 是位勢 rectification 運算子的不動點：\(\pi=\texttt{Rectify}_\perp(\pi)\)；
3. 存在一個梯度速度場 \(\mathbf v_t=\nabla\varphi_t\)，讓 rectify 損失為零：\(\mathcal L(\mathbf v_t\mid\pi)=0\)。

然而 Hertrich et al. (2025) 給出兩類反例：

1. 當中間分佈 \(p_t\) 的支撐不連通時，可以找到 \(\texttt{Rectify}_\perp\) 的不動點，它的 Reflow 損失為零、速度場是梯度場，卻仍然不給出最佳配對。
2. 即使兩端分佈都是高斯，也存在損失任意小、但和最佳配對的偏差任意大的配對。

因此，雖然 rectified flow 可以產生很強的生成模型，它們作為最佳運送求解器的可靠性仍然有限。這突顯了生成建模和有原則的最佳運送理論之間的一個重要落差，值得在兩者的交界繼續研究。最後書指出，運送成本並不總是和下游的表現相關；所以計算精確的最佳運送映射不一定帶來實務上更好的結果。儘管如此，最佳運送的各種變體仍然是科學和工程中許多問題的基礎，而 diffusion model 為探索這些挑戰提供了一個強大的框架。

04第 7 章結語書 §7.6

這一章透過最佳運送和它的熵變體，重新檢視了「把一個分佈運送成另一個」這個古典問題。我們回顧了最佳運送的靜態 Monge–Kantorovich 形式和動態 Benamou–Brenier 形式（在後者，運送由一個最小化動能成本的確定性流實現）；接著討論了熵正則化的最佳運送和 Schrödinger bridge（SB），它們把確定性的運送換成相對於一個參考過程最可能的受控 diffusion。從這個觀點，diffusion model 在隨機的那一側自然地落在 SB 觀點附近，而它們的 PF-ODE 在 ODE 那一側定義確定性的運送映射。但如書所強調，PF-ODE 的運送一般不是二次成本的最佳運送映射：它是眾多確定性配對中的一個，而不是 Benamou–Brenier 作用量的最小化解。

這也突顯一個更基本的問題：在問一個運送是不是最佳之前，兩個分佈到底什麼時候能用一個確定性映射連起來？在許多設定下，存在性不是主要困難：在溫和的正則條件下，常常可以找到一個可測映射 \(\mathbf T\) 使 \(\mathbf T_\#p_{\text{src}}=p_{\text{tgt}}\)。比較難的是：超過一維之後，既顯式又在實務上穩健的古典建構相對稀少。一維時，單調重排透過匹配分位數給出簡單的答案。高維時有幾個重要的已知建構：Brenier 定理在適當正則下給出二次成本的最佳映射；Knothe–Rosenblatt 重排（Rosenblatt 1952；Knothe 1957）由迭代的條件分佈建一個三角形的映射；Dacorogna–Moser 方法（Dacorogna & Moser 1990）透過一個解散度方程的速度場，建構平滑的微分同胚運送。每一個都給出確定性運送的一條有原則的路，但每一個也都依賴結構上的假設或不簡單的分析工具。

從這個觀點，基於 diffusion 的 flow map 提供了一個吸引人而有彈性的替代：diffusion model 和 flow matching 方法不指定一個封閉形式的運送映射，而是學一個隨時間變化的向量場，它誘導的流把簡單的來源分佈推向目標。這個學到的映射不必和 Brenier 映射或其他任何古典的典型建構一致，一般也不解一個指定的最佳運送問題。儘管如此，它為高維中以映射為基礎的取樣提供了一條實用而有表達力的路，那裡顯式的運送映射建構常常不可得或很難計算。在這個意義下，diffusion 的流最好理解成：不是古典運送理論的替代品，而是和最佳運送映射、三角重排、基於偏微分方程的建構並列的、現代的、學出來的運送機制，共同構成確定性運送的更大版圖。

與 CS236 的對照

常見誤解

自我測驗