Flow map 與 consistency model：不靠老師，學會一步跳到終點

前置知識

• B28：flow map 學習的統一損失 \(\mathcal L_{\text{oracle}}\)、KD、PD 的「局部半群匹配」。本頁從這個損失出發。
• B25：DDIM 的一步更新；B09：flow map 的定義與 PF-ODE。
• B16：Tweedie 公式、四種預測與速度 \(\mathbf v^*=\mathbb E[\alpha'_t\mathbf x_0+\sigma'_t\bm\epsilon\mid\mathbf x_t]\)。
• B15：條件化技巧（§6.1）和 EDM 的參數化 \(c_{\text{skip}},c_{\text{out}},c_{\text{in}},c_{\text{noise}}\)（附錄 D.6）。

「書 §」標出原文位置。灰框「轉述者補充」是書裡沒有的內容；藍框「推導」展開書中省略的步驟。

01本章的問題書 第 11 章開頭

第 10 章（B28）看到，慢的反覆取樣可以透過蒸餾壓縮成少步的生成器。從工程角度，兩階段的流程很實用：它把複雜的生成式訓練拆成兩個清楚、獨立的目標。第一階段學資料分佈，第二階段加速取樣或提升品質。這樣每個階段可以分開最佳化，整個系統更容易管理、更穩定可靠。

這一章則把焦點轉到推動深度生成模型進步的一個核心問題：

這一章追求的方向是：不依賴預訓練模型，直接訓練少步的、以 diffusion 為基礎的生成器。焦點是 flow map 模型。這裡的 flow map 指 ODE 的古典解映射，這個概念來自微分方程和動力系統，在連續介質力學與流體力學裡和「追蹤物質粒子的運動」密切相關。\(\bm\Psi_{s\to t}\) 把時間 \(s\) 的狀態送到在既定動態下時間 \(t\) 會到達的狀態。flow map 模型直接學這個映射，讓一條長軌跡可以用一次或少數幾次網路計算走完。

這種表述給了一個有原則的方式，把機率質量從先驗分佈 \(p_{\text{prior}}\) 運到資料分佈 \(p_{\text{data}}\)，同時在每個中間時間保持正向 diffusion 過程規定的邊際分佈 \(p_t\)。

02Flow map 模型與統一目標書 §11.1

為什麼要學 flow map

第 10 章示範了怎麼用預訓練的 diffusion model 去估計 oracle flow map 損失裡拿不到的回歸目標，得到少步的生成器。這條路有效又實用：兩階段的流程可以做得很穩健，在資料和計算效率上也常常有競爭力。

這一章轉向更廣的挑戰：能不能建立一個獨立的生成原則，訓練穩定、可擴展、有效率，取樣快，生成又容易依使用者的意圖操控，而且不依賴預訓練模型？設計這種獨立原則，正是生成模型的核心課題。

diffusion model 提供一個有用的設計原則：先有一個連續時間的正向過程，把資料逐漸變成簡單的先驗（雜訊）當作參考，再把建模任務定成「學反向時間的運輸」，讓它還原這個過程、對上想要的邊際分佈。和一次到位的生成映射相比，這種隨時間演化的表述也讓我們更容易在中間步驟操控生成。落到受 diffusion 啟發的方法，問題變成：

統一的目標

這一章的方法都圍繞同一個目標展開。它也是蒸餾背後的目標，給出 flow map 表述的統一觀點（Boffi et al. 2024；Hu et al. 2025）：

這就是 B28 第 3 節的那個損失。\(s,t\) 從某個時間分佈抽出（例如均勻分佈），\(w(s,t)\ge0\) 給時間對 \((s,t)\) 權重，\(d(\cdot,\cdot)\) 是差異度量，例如平方 \(\ell_2\) 範數。oracle flow map \(\bm\Psi_{s\to t}\) 是理想的變換，把時間 \(s\) 的狀態 \(\mathbf x_s\) 直接運到時間 \(t\)：

其中 oracle 漂移是

也可以用其他等價的參數化（第 6 章，B16），常見的有 \(\mathbf x\) 預測和 \(\mathbf v\) 預測。在 oracle 損失的最佳解，學到的模型精確還原真正的 flow map：

因為 \(\bm\Psi_{s\to t}\) 沒有閉式，必須近似。一個選擇是第 10 章的做法，靠預訓練的 diffusion model；另一個選擇是這一章會看到的：引入新的、更容易計算的替代目標。依訓練迴圈裡是否呼叫老師，現有方法大致分成兩類：

• 蒸餾（distillation）：明確呼叫一個老師模型。
• 從頭訓練（training from scratch）：不呼叫老師，自己構造自足的替代目標。

以這個有原則的目標為基礎，接下來介紹學 flow map 模型的系統化方法，目標是方法實用，同時生成結果更忠實地反映真正的資料分佈，計算上也有效率。下面先給這個範式的高層次介紹。

03特殊 flow map：consistency function書 §11.1

Consistency Model（CM，Song et al. 2023）是學 flow map 最早的先驅方法之一。它學一個少步的 denoiser \(\mathbf f_{\bm\theta}(\cdot,s)\)，近似「流到原點」這個特例：

關鍵想法是：每個狀態 \(\mathbf x_s\) 都被送到經過它的那條 PF-ODE 軌跡在時間 0 的端點 \(\bm\Psi_{s\to0}(\mathbf x_s)\)。形式上，CM 家族（Song et al. 2023；Song & Dhariwal 的改進版；Geng et al. 2024；Lu & Song 2024）的 oracle 訓練目標是

實務上拿不到 oracle 的 \(\bm\Psi_{s\to0}(\mathbf x_s)\)。所以把它換成一個 stop-gradient 目標 \(\mathbf f_{\bm\theta^-}\)，在同一條軌跡上稍早一步 \(\bm\Psi_{s\to s-\Delta s}(\mathbf x_s)\) 的地方取值：

而 \(\bm\Psi_{s\to s-\Delta s}(\mathbf x_s)\) 本身也要近似。有兩種實用策略：(i) 蒸餾，靠預訓練的 diffusion model；(ii) 從頭訓練，用不需要老師指導的一點估計。第 9、10 節詳述。

04一般 flow map：CTM 與 Mean Flow書 §11.1

學一般的 \(\bm\Psi_{s\to t}\)（任意起點和終點）有兩個代表方法：Consistency Trajectory Model（CTM）和 Mean Flow（MF）。這裡只給概觀，細節在 B30、B31。

Consistency Trajectory Model

CTM（Kim et al. 2023）是第一個學任意起點、終點的一般 flow map \(\bm\Psi_{s\to t}\) 的工作，可以看成統一目標的一個具體例子。它採用受 Euler 法啟發的參數化，把 oracle flow map 寫成

由此引出神經網路的參數化

\(\mathbf g_{\bm\theta}\) 是一個神經網路，訓練到 \(\bm\Psi_{s\to t}(\mathbf x_s)\approx\mathbf G_{\bm\theta}(\mathbf x_s,s,t)\)。

因為 oracle 的 \(\bm\Psi_{s\to t}(\mathbf x_s)\) 拿不到，CTM 對一個在中間時間 \(u\) 取值的 stop-gradient 目標訓練：

其中的中間狀態 \(\bm\Psi_{s\to u}(\mathbf x_s)\) 有兩種近似：(i) 蒸餾，對預訓練的老師用少步解法；(ii) 從頭訓練，直接用 \(\mathbf G_{\bm\theta}\) 的參數化構造一個「自己誘導的老師」。

Mean Flow

Mean Flow（Geng et al. 2025）建立在 flow matching 上，建模區間 \([t,s]\)（\(t\le s\)）上的平均漂移：

這也和統一目標一致。對恆等式

對 \(s\) 微分，得到一個自我參照的關係，引出 MF 的目標

其中 stop-gradient 目標是

實務上 oracle 速度 \(\mathbf v^*(\mathbf x_s,s)\) 也要近似。兩種常見策略：(i) 蒸餾，用一個以 flow matching 訓練的預訓練 diffusion model；(ii) 從頭訓練，用由正向加噪 \(\mathbf x_s=\alpha_s\mathbf x_0+\sigma_s\bm\epsilon\) 得到的一點條件速度 \(\alpha'_s\mathbf x_0+\sigma'_s\bm\epsilon\)。

CTM 和 MF 的關係

CTM 和 MF 近似同一個路徑積分，只是參數化成不同的替代量：

換句話說，CTM 透過 \(\mathbf g_{\bm\theta}\) 學一個「斜率位移」（slope displacement），MF 學平均漂移 \(\mathbf h_{\bm\theta}\)；兩者都是近似定義 \(\bm\Psi_{s\to t}\) 的同一個積分的一致方式。

轉述者註：比較兩行可得 \(\mathbf g=\mathbf x_s-s\,\mathbf h\)，所以兩種參數化之間只差一個已知的仿射變換。書在 §11.5.3（B31）把這件事推到損失層級。

05本章路線與時間軸書 §11.1

接下來先講 CM 家族，它專注在特殊的 flow map \(\bm\Psi_{s\to0}\)：包括離散時間的起源（§11.2，本頁）和連續時間的延伸（§11.3，B30）。之後轉到一般的 flow map，詳細討論兩個代表：CTM（§11.4，B30）和 MF（§11.5，B31），包括它們的參數化、訓練策略和實際近似。

書也提醒：附錄 D.6 介紹的 EDM（Elucidating Diffusion Model，B15）為 \(\mathbf x\) 預測模型的網路參數化提供系統化的設計準則，實證表現很強。雖然那一節可以當選讀，EDM 的表述是 CM 類模型的重要基礎（第 12 節會用到）。

為了敘述清楚，書不嚴格照方法出現的時間順序，而是依概念關係組織。為了尊重原創與時間順序，書附了下面的時間軸。

06半群性質書 §11.2

Consistency model（§11.2–11.3）和它的推廣 CTM（§11.4），都利用 flow map 的一個關鍵數學結構來定義回歸目標，也就是基本的半群性質：

直觀地說：先把狀態從 \(s\) 演化到 \(u\)（經由 \(\bm\Psi_{s\to u}\)），再從 \(u\) 演化到 \(t\)（經由 \(\bm\Psi_{u\to t}\)），會到達和直接從 \(s\) 演化到 \(t\) 完全相同的點。這只是解 ODE 的基本原則：起點一旦指定，未來的演化就完全確定，沿著唯一一條明確的路徑。不管一大步走完，還是切成很多小段走，都沿著同一條軌跡、到達同一個終點。

為了建立更多直覺，考慮 PF-ODE

的一條解軌跡 \(\{\mathbf x(s)\}_{s\in[0,T]}\)，初始條件 \(\mathbf x(T)\) 固定在時間 \(T\)，倒著解回來。把終點時間固定在 \(t=0\)，對應的 flow map 可以寫得更簡單：

這叫做 consistency function。

07Consistency function 的三個性質書 §11.2

依定義，\(\mathbf f^*\) 直接從半群恆等式（取 \(t=0\)）繼承幾個基本性質：

(i) 全域一致性（global consistency）。軌跡上每一點都送到同一個乾淨端點：

理由是

(ii) 自我一致性（self consistency）。同一條軌跡上任兩點的輸出必須相同：

這直接是半群恆等式的另一種讀法：\(\bm\Psi_{s\to0}\circ\bm\Psi_{0\to s}=\bm\Psi_{u\to0}\circ\bm\Psi_{0\to u}\)（兩邊都等於 \(\bm\Psi_{0\to0}=\mathbf I\)）。

(iii) 局部一致性（local consistency）。沿著軌跡取值時，consistency function 對 \(s\) 不變：

這由全域一致性推出：\(\mathbf f^*(\mathbf x(s),s)\) 沿軌跡不隨 \(s\) 改變。

三個性質彼此等價。它們說的都是：沿任何一條解軌跡 \(s\mapsto\mathbf x(s)\)，流到原點的映射 \(\mathbf f^*(\mathbf x(s),s)=\bm\Psi_{s\to0}(\mathbf x(s))\) 都給出同一個終點 \(\mathbf x(0)\)，和出發時間無關。

Demo A半群、DDIM 目標與一點估計轉述者補充

一維、EDM 的設定 \(x_s=x_0+s\epsilon\)（\(\alpha_s=1,\sigma_s=s\)），\(s\) 從 0.002 到 10。資料是兩個高斯的混合（權重 0.6 / 0.4，中心 −1.2 / 1.3，標準差 0.25 / 0.35），所以後驗、score、PF-ODE 都可以精確計算。橫軸是 \(s\) 的對數刻度，左邊是資料；縱軸是 \(x/\sqrt{1+s^2}\)，把隨 \(s\) 變大的雜訊尺度除掉，所有時間都看得清楚（讀數用原本的 \(x\)）。黑線是一條精確的 PF-ODE 軌跡，用它在 \(s=0.002\) 的端點 \(x(0)\) 來選；灰線是其他幾條軌跡，可以看到它們互不相交。

在 \(x(s)\)（黑點）往左走一小步到 \(s'=s-\Delta s\)（虛線）。比較三個目標：精確的 \(\bm\Psi_{s\to s'}(x_s)\)（藍點）、一步 DDIM（橙點，CD 用精確老師時的目標）、以及 CT 的一點估計 \(x_0+s'\epsilon\)（綠點雲：\(x_0\) 從後驗 \(p(x_0\mid x_s)\) 抽，\(\epsilon=(x_s-x_0)/s\)）。左邊界的強調色點是從 \(x(s)\) 用 PF-ODE 走回去得到的 \(f^*(x(s),s)\)。

讀數（瀏覽器實測，和 Node 原型逐位相同）：

• 全域一致性。拖動 \(s\)：黑點沿軌跡移動，但從它走回 \(s=0.002\) 得到的 \(f^*(x(s),s)\) 始終等於選定的端點（預設 1.0000，到小數第 4 位）。這就是性質 (i)、(ii)。
• DDIM 目標就是一點估計的平均。預設（端點 1、\(s=1\)、\(\Delta s/s=0.3\)）：一點估計 20,000 次抽樣的平均是 0.5852，一步 DDIM 是 0.5869，差 \(1.7\times10^{-3}\)，在抽樣誤差之內（標準差 0.329，除以 \(\sqrt{20000}\) 約 0.0023）。這是第 11 節定理證明的第一步。
• 兩種誤差的階數不同。同一點把 \(\Delta s/s\) 從 0.3 降到 0.05（6 倍）：DDIM 和精確 flow map 的差從 0.069 降到 0.0014（約 49 倍，比 \(6^2=36\) 還多一些），一點估計的標準差從 0.329 降到 0.055（正好 6 倍）。下圖的兩條線斜率約為 2 和 1。CD 的目標每一步有 \(\mathcal O(\Delta s^2)\) 的偏差，CT 的目標每一步有 \(\mathcal O(\Delta s)\) 的雜訊但平均起來沒有偏差（相對於 DDIM）。

一點估計的標準差有閉式：\(x_{s'}=\tfrac{s'}{s}x_s+\big(1-\tfrac{s'}{s}\big)x_0\)，所以 \(\operatorname{Std}(x_{s'}\mid x_s)=\tfrac{\Delta s}{s}\operatorname{Std}(x_0\mid x_s)\)。讀數同時列出抽樣值和公式值。

08CM 的目標與四種訓練目標書 §11.2

CM 要訓練一個神經網路 \(\mathbf f_{\bm\theta}:\mathbb R^D\times[0,T]\to\mathbb R^D\)，近似特殊的 flow map \(\bm\Psi_{s\to0}\)，也就是 consistency function。關鍵想法是沿 PF-ODE 軌跡強制一致性：在同一條 ODE 軌跡上的狀態，應該送到同一個時間 0 的端點。更精確地說，這對應到半群恆等式裡 \(t=0\)、\(u=s-\Delta s\) 的特例。

實現這個目標的方法不只一種，取決於有沒有預訓練的 diffusion model，以及訓練是在離散時間還是連續時間進行。書用下表總結各種變體：

書也用一張圖（在 §11.3）並排示意這幾種目標，那張圖放在 B30。

09Consistency Distillation書 §11.2.1

用半群性質換掉拿不到的目標

原則上，consistency function 可以用最小化 oracle 損失來學：

這個目標要求每個帶雜訊的樣本 \(\mathbf x_s\) 都被送回它的乾淨端點 \(\bm\Psi_{s\to0}(\mathbf x_s)\)。困難是實務上拿不到 oracle 映射 \(\bm\Psi_{s\to0}(\mathbf x_s)\)。為了克服這點，Song et al. (2023) 利用半群性質：同一條 PF-ODE 軌跡上的一個帶雜訊狀態和它的下一步，必須送到同一個乾淨端點。具體地，oracle 目標被換成一個在軌跡上稍早一點取值的 stop-gradient 目標：

\(\bm\theta^-\) 是 stop-gradient 運算下的參數。另一個困難是中間狀態 \(\bm\Psi_{s\to s-\Delta s}(\mathbf x_s)\) 也沒有閉式，必須近似。有兩種實用的做法。

有預訓練 diffusion model：Consistency Distillation（CD）

假設有預訓練的 diffusion model。CD 用老師只模擬一步反向 ODE，近似中間狀態：

更具體地，預訓練的 diffusion model 提供 score 的估計 \(\mathbf s_{\bm\phi^\times}(\mathbf x_s,s)\approx\nabla_{\mathbf x_s}\log p_s(\mathbf x_s)\)。用它從 \(\mathbf x_s\) 走一步 DDIM，得到 \(s'=s-\Delta s\) 的近似狀態：

把這個構造和 stop-gradient 目標結合，得到 oracle 損失 \(\mathcal L_{\text{oracle-CM}}\) 一個實用的離散時間替代。形式上，取分割 \(0=s_1\lt s_2\lt\cdots\lt s_N=T\)，CD 的訓練目標是

\(\omega(\cdot)\) 是隨時間變化的權重，\(d(\cdot,\cdot)\) 是距離度量，\(\bm\theta^-\) 是 stop-gradient 的參數，它防止塌縮成平凡解（例如常數預測）。這裡 \(\mathbf x_{s_{i+1}}=\alpha_{s_{i+1}}\mathbf x_0+\sigma_{s_{i+1}}\bm\epsilon\) 是從資料加噪得到的，\(\tilde{\mathbf x}^{\bm\phi^\times}_{s_i}\) 是老師從它走一步 DDIM 到 \(s_i\) 的結果。

10Consistency Training書 §11.2.1

沒有老師時：一點估計的 score

沒有預訓練的 diffusion model 時，oracle score \(\nabla_{\mathbf x}\log p_s(\mathbf x_s)\) 仍然可以用一個簡單的一點近似直接估計（代價是變異數高）。回想它有條件期望的形式：

這個恆等式提示一個簡單的單樣本估計量。如果 \(\mathbf x_s\) 是由一對樣本 \((\mathbf x_0,\bm\epsilon)\) 經 \(\mathbf x_s=\alpha_s\mathbf x_0+\sigma_s\bm\epsilon\) 得到的，那麼

是 \(\mathbf x_s\) 處 score 的無偏估計（對 \(p(\mathbf x_0\mid\mathbf x_s)\) 條件無偏）。它正是 denoising score matching 當回歸目標的條件 score（B06）。

一點估計代進 DDIM：正好回到同一對 \((\mathbf x_0,\bm\epsilon)\)

把這個估計代進從 \(s\) 到 \(s'=s-\Delta s\) 的一步 DDIM：

其中 \(\mathbf x_0\) 是同一個資料樣本，\(\bm\epsilon\) 是用來構造 \(\mathbf x_s\) 的同一個高斯雜訊。

這給出 oracle 目標 \(\mathcal L_{\text{oracle-CM}}\) 一個不需要老師的離散時間替代：

其中 \(\mathbf x_{s_i}=\alpha_{s_i}\mathbf x_0+\sigma_{s_i}\bm\epsilon\)、\(\mathbf x_{s_{i+1}}=\alpha_{s_{i+1}}\mathbf x_0+\sigma_{s_{i+1}}\bm\epsilon\)，共用同一對 \((\mathbf x_0,\bm\epsilon)\)。

變異數，以及為什麼仍然說得通

直接用 \(\alpha_{s'}\mathbf x_0+\sigma_{s'}\bm\epsilon\) 近似 \(\bm\Psi_{s\to s'}(\mathbf x_s)\)、不取期望，會引入高變異數。書的註腳說明：一點（條件）score 估計 \(\widehat{\nabla_{\mathbf x}\log p_s}(\mathbf x_s)\) 可以看成單樣本的 Monte Carlo 估計量，給定 \(\mathbf x_s\) 時條件無偏：把它對（一般拿不到的）乾淨後驗 \(p(\cdot\mid\mathbf x_s)\) 取平均，就還原真正的 score，

回想 denoising score matching 裡類似的條件期望論證（§6.1 的條件化技巧，B15）。但這裡有一個差別：一點的狀態估計在進入非線性的目標網路和差異度量之前是無偏的，所以兩個損失不必完全相等。給定 \(\mathbf x_s\) 取條件，一階誤差在期望中抵消；在適當的光滑性和動差假設下，剩下的差距是 \(\mathcal O(\Delta s^2)\)，下一節把它寫成定理。

11CD 與 CT 差 O(Δs²)書 §11.2.1、附錄 D.5.2

證明概要（書的正文）。首先，用 oracle score 的 DDIM 更新等於條件平均：\(\mathbf x^{\text{DDIM}}_{s'}=\mathbb E[\mathbf x_{s'}\mid\mathbf x_s]\)，這也可以從第 10 節的推導對 \(p(\cdot\mid\mathbf x_s)\) 取期望看出。接著，把 \(d(\mathbf f_{\bm\theta}(\mathbf x_s,s),\mathbf f_{\bm\theta^-}(\cdot,s'))\) 在 \(\mathbf x^{\text{DDIM}}_{s'}\) 附近做 Taylor 展開。一點更新沿路徑（同一對 \((\mathbf x_0,\bm\epsilon)\)）還原 \(\mathbf x_{s'}\)；因為 \(\mathbb E[\mathbf x_{s'}-\mathbf x^{\text{DDIM}}_{s'}\mid\mathbf x_s]=\mathbf 0\)，給定 \(\mathbf x_s\) 後線性項消失。在上述光滑性與動差假設下，剩下的期望 Taylor 餘項是 \(\mathcal O(\Delta s^2)\)。

Demo B有限 N 的理想解轉述者補充

同一個一維資料、EDM 設定，格點用 CM 論文的 Karras 格點（\(\rho=7\)，\(s_1=0.002\)、\(s_N=10\)）。這裡不訓練網路，而是精確計算上面兩個遞迴的解：CD 的理想解是 \(N-1\) 步 DDIM（精確 score）；CT 的理想解在 1,201 點的 \(x\) 格點上逐層算條件期望（每層對後驗的兩個高斯成分各用 81 點積分）。上圖是 \(x_T\mapsto f(x_T,T)\) 這個映射：黑線是精確的 \(\bm\Psi_{T\to0}\)，藍線是 CD 的理想解，橙色虛線是 CT 的理想解。下圖是把 \(p_T\) 的 2,000 個分層起點送過去得到的一步樣本（藍框 CD、橙色長條 CT），黑線是資料密度。

瀏覽器實測（和 Node 原型逐位相同）。\(W_1\) 是一步樣本和資料的 1-Wasserstein 距離；因為起點是 \(p_T\) 的分層分位數，精確 flow map 的 \(W_1\) 實際上是 0（數值上 \(6\times10^{-6}\)），所以表中的數字全部是有限 \(N\) 造成的偏差。

• \(N=2\)：兩者相同。映射幾乎是平的，樣本擠在資料平均 −0.2 附近（98% 落在 −0.55 到 0.19 之間），\(W_1=1.076\)。這就是一步 denoiser 的「取平均」。
• CD 的偏差大約和 \(N\) 成反比（從 32 到 64 到 128：0.034、0.017、0.008），這是一階解法 DDIM 的全域誤差。
• CT 的偏差下降得慢得多：\(N\) 加倍只降約 1.5 倍，\(N=128\) 還有 0.077，比 \(N=18\) 的 CD 還差。映射在兩峰分界處被「抹平」成斜坡，樣本落進兩峰之間的低谷。原因是那裡的 \(f\) 最彎，Jensen 間隙最大。
• 這和 CM 論文的設定吻合：他們讓 CT 的 \(N\) 隨訓練增加（CIFAR-10 的排程從 2 格開始，目標值 150 格），而 CD 用 18 格就夠：在 CD，\(N\) 只受老師解法的精度限制；在 CT，\(N\) 還決定了一點估計留下的偏差。

這是理想化的極限（網路無限彈性、資料無限多、訓練到最小值）。真正的網路還有容量和最佳化的誤差；Demo C 訓練真的網路來看它們離這些理想解多遠。

12小結與實作考量書 §11.2.1

總結：CD 利用老師模型做初始化和監督，通常能穩定最佳化、降低變異數。相反地，Consistency Training（CT）不需要預訓練模型，可以完全從頭訓練。儘管有這個差別，CT 是一個完全獨立的生成模型。

參數化與邊界條件

實務上，Song et al. (2023) 採用 Karras et al. (2022) 的 EDM 表述（附錄 D.6，B15），正向加噪核是

並用 EDM 提出的網路參數化：

\(\mathbf F_{\bm\theta}\) 是神經網路，係數照 EDM 的式子：

\(\sigma_{\text{d}}\) 是資料的標準差。這個參數化有一個重要的邊界性質

它在時間 0 強制一致性：沒有雜訊時，網路的輸出等於輸入。（\(s=0\) 時 \(c_{\text{skip}}=1\)、\(c_{\text{out}}=0\)。）

13用 CM 取樣書 §11.2.2

訓練好 consistency model \(\mathbf f_{\bm\theta^\times}\)（不論連續或離散時間）之後，可以用一步或幾步生成樣本。

一步生成。從先驗分佈抽初始潛變數 \(\hat{\mathbf x}_T\)（實務上是 \(\mathcal N(\mathbf 0,T^2\mathbf I)\)），一次函數計算就得到乾淨樣本：\(\mathbf f_{\bm\theta^\times}(\hat{\mathbf x}_T,T)\)。

多步生成。預先選好時間點 \(T\gt\tau_1\gt\tau_2\gt\cdots\gt\tau_{M-1}=0\)，從初始雜訊 \(\hat{\mathbf x}_T\) 出發，交替做「注入雜訊」和「用 consistency model 從較早的時間點大跳到乾淨值」，逐步精修樣本：

Demo C訓練一個 consistency model轉述者補充

同一個一維資料、EDM 設定、Karras 格點。網路是 \(f_{\bm\theta}(x,s)=c_{\text{skip}}(s)x+c_{\text{out}}(s)F_{\bm\theta}(c_{\text{in}}(s)x,\tfrac14\ln s)\)，\(F_{\bm\theta}\) 是 2→32→32→1 的 tanh MLP，邊界移到 \(\epsilon=0.002\)（CM 論文的係數），\(\sigma_{\text{d}}=1.25\)（約為資料的標準差）。損失是平方 \(\ell_2\)、權重 1；目標側用當前參數的 stop-gradient（\(\mu=0\)）；每次更新 64 個樣本、共 6,000 次，Adam 學習率 \(2\times10^{-3}\)，最後 30% 降為 0.3 倍。評估用參數的滑動平均（衰減 0.995），起點是 \(p_T\) 的 2,000 個分層分位數。CD 用的是精確的老師（精確 score 的一步 DDIM），所以這裡只有離散化和網路本身的誤差。

瀏覽器實測（和 Node 原型逐位相同；固定種子，每次重跑結果一樣）。表中是第 6,000 次更新後的 \(W_1\)：

• 小 \(N\) 很快收斂到理想解，但理想解本身有偏差。\(N=8\)、18 時，訓練好的網路落在理想解附近（差不到 0.03，有時甚至略好於理想解）。CT 的映射在兩峰分界處是一段緩坡，和 Demo B 一樣。
• 大 \(N\) 偏差小，但 6,000 次更新還沒收斂。\(N=64\) 時 CT 停在 0.153（理想 0.115）、CD 停在 0.064（理想 0.017）。轉述者的解讀：正確的邊界資訊要一格一格從 \(s=0.002\) 往上傳，格點越多，傳到 \(s=T\) 越慢。這符合 CM 論文在 CIFAR-10 上觀察到的取捨：\(N\) 小收斂快但偏差大，\(N\) 大偏差小但收斂慢。
• 多步取樣對「偏向平均」的模型幫助最大。CT \(N=8\) 從一步 0.408 降到 4 次的 0.165，CT \(N=18\) 從 0.240 降到 0.122。但對已經很準的 CD \(N=18\)，第 2 次不變、4 次反而變差（0.090）；\(N=64\) 尚未收斂的兩個模型，多步也沒有幫助。多步不是免費的改善（第 13 節）。

與 CS236 的對照

常見誤解

自我測驗