Deep Generative Models
Deep Generative Models Learning Map
三個資源的繁體中文筆記：兩門課和一本書。它們沒有主從之分，可以從任何一個開始，也可以照下面的對照表，用另一個資源換個角度看同一個主題。
三個資源
依英文名字排序，順序沒有先後之分。
課程 · IAP 2026
MIT 6.S184
Flow Matching and Diffusion Models。從 flow matching 出發，接著 score、guidance、latent 與 DiT、離散 flow matching。
6 份複習講義，含黑板板書的轉寫。
前往目錄書 · Lai, Song, Kim, Mitsufuji, Ermon
The Principles of Diffusion Models
用三種觀點推導 diffusion 再統一，接著最佳傳輸、guidance、solver、distillation 和 consistency。
36 頁中文轉述，內容和書相同，可以取代讀原書。
前往目錄課程 · Fall 2023
Stanford CS236
Deep Generative Models。範圍最廣：自迴歸、VAE、flow、GAN、EBM、score、diffusion，以及評估指標。
18 講複習頁，含投影片和時間戳。
前往目錄同一個主題在哪裡
空白代表這個資源沒有專門講這個主題，不代表完全沒有提到。B 開頭的是書的頁碼。
| 主題 | MIT 6.S184 | Principles | Stanford CS236 |
|---|---|---|---|
| 自迴歸模型 | 第 5 講（比較） | 第 3 講、第 4 講 | |
| VAE | 第 4 講 | B03 | 第 5 講、第 6 講 |
| Normalizing flow | B11 | 第 7 講、第 8 講 | |
| GAN | B01 | 第 9 講、第 10 講 | |
| Energy-based model | B05 | 第 11 講、第 12 講 | |
| Score matching | 第 3 講上半 | B05–B07 | 第 12 講、第 13 講、第 14 講 |
| Diffusion、SDE | 第 1 講、第 3 講上半 | B04、B08–B10 | 第 14 講、第 16 講、第 17 講 |
| Flow matching | 第 2 講 | B12–B14 | |
| Guidance | 第 3 講下半 | B21–B23 | 第 17 講 |
| Latent diffusion | 第 4 講 | 第 17 講 | |
| 快速取樣、solver | B24–B27 | 第 17 講 | |
| Distillation、consistency | B28–B31 | 第 17 講 | |
| 最佳傳輸 | B18–B20 | ||
| 離散 diffusion | 第 5 講 | B32 | 第 18 講 |
| 評估指標 | 第 15 講 |
共用的數學基礎
三個資源都會用到、又常常一筆帶過的數學。只假設學過單變數微積分。頁面當初為 CS236 而寫，所以每節的「在哪裡用到」寫的是 CS236，內容對另外兩個資源一樣適用。
記號不一樣的地方
跨資源讀的時候最容易混淆的兩件事。每個資源的頁面開頭也有提醒。
| MIT 6.S184 | Principles | Stanford CS236 | |
|---|---|---|---|
| 時間方向 | \(t=1\) 是資料 | diffusion 的章節 \(t=0\) 是資料，其他章節頁面會提醒 | Score SDE 是 \(t=0\) 為資料 |
| VAE 的參數 | 編碼器 \(\phi\)、解碼器 \(\theta\) | 編碼器 \(\theta\)、解碼器 \(\phi\) | 編碼器 \(\phi\)、解碼器 \(\theta\) |