單變數微積分 06 · MIT 18.01 Lec 14–16

均值定理、反導數、微分方程

第二單元的最後三堂。均值定理把「導數」（瞬間的）和「差」（有限的）用一個等號連起來，由它才能嚴格證明「導數是 0 的函數是常數」，這件事是後半門課（積分）的基礎。接著倒過來問：知道導數，求函數，這就是反導數。最後是第一個真正的微分方程，用「分離變數」解出來的答案是一條 Gaussian 鐘形曲線。

▶ Lec 14（50 分） ▶ Lec 15（49 分） ▶ Lec 16（45 分） 18.01SC session 34–40 預計閱讀 2 小時

讀完這頁你應該能夠

寫出均值定理和它的兩個假設，用「平移平行線」說明為什麼成立，並舉出缺了可微時失敗的例子。
由均值定理推出：$f' > 0$ 則遞增、$f' = 0$ 則常數；用它證明 $e^x > 1 + x$ 這類不等式。
用微分記號 $dy = f'(x)\,dx$ 做線性近似，並寫出常見函數的反導數（含 $\int\frac{dx}{x} = \ln|x| + c$）。
說明反導數為什麼「只」差一個常數，並用代換法或進階猜測算反導數。
用分離變數解 $\frac{dy}{dx} = f(x)g(y)$，例如 $y' = -xy$ 的解是 $Ae^{-x^2/2}$，並注意除法漏掉的解和常數的形式。

前置知識檢查

1. 哪個函數的導數是 $\cos x$？是 $\frac1x$？是 $e^{3x}$？

$\sin x$；$\ln x$（$x > 0$）；$\frac13e^{3x}$。第 7 節就是把這張表倒過來讀。

2. 用線性近似估 $\sqrt[3]{65}$。

$x_0 = 64$：$4 + \frac13\cdot64^{-2/3}\cdot1 = 4 + \frac1{48}\approx4.0208$（第 04 頁）。第 6 節會用微分記號再寫一次。

3. 一段 3 小時、1000 英里的車程，平均時速是多少？過程中一定有某一刻剛好是這個速度嗎？

$\frac{1000}{3}\approx333$ mph。直覺上一定有：速度有時比平均快、有時比平均慢，中間總會經過平均值。這就是第 2 節的均值定理。

00怎麼讀這一頁、素材對照

三堂都是 Jerison。Lec 14 先補 Newton 法的誤差分析，然後是均值定理和不等式（第 1–5 節）；Lec 15 是微分記號、反導數、代換法（第 6–9 節）；Lec 16 是分離變數（第 10–11 節），最後幾分鐘是第二次考試的提示。

素材	對應內容
18.01 錄影	Lec 14 Newton 法的誤差、均值定理、不等式；Lec 15 微分、反導數、代換法；Lec 16 分離變數
18.01 講義（2006）	Lecture 14「Mean Value Theorem and Inequalities」、Lecture 15「Differentials and Antiderivatives」、Lecture 16「Differential Equations and Separation of Variables」（離線包 `lec14.pdf`–`lec16.pdf`）
18.01SC session 34–40	worked examples：Taylor 定理（均值定理的推廣）、$\|\sin b - \sin a\|\le\|b - a\|$、族群動態的不動點、反導數的規則、$\int\tan x\sec^2x\,dx$ 的兩種答案、檢查微分方程的解、指數成長與 logistic 成長（自我測驗用到）；解題影片 Comparing Functions Using the MVT、Antidifferentiation by Substitution、xy′ = (x² + x)(y² + 1)
Strang Highlights of Calculus	短片 Differential Equations of Growth、Differential Equations of Motion
Strang Calculus	第 3、5、6 章

01Newton 法為什麼那麼快 Lec 14 4:01

令 $E_n = |x - x_n|$ 是第 $n$ 步的誤差。曲線和它的切線在切點附近的距離是二次的（第 04 頁），所以下一步的誤差大約是上一步的平方：5:37

$$E_{n+1}\approx(\text{常數})\cdot E_n^2$$

$10^{-1}\to10^{-2}\to10^{-4}\to10^{-8}\to10^{-16}$：正確位數每步加倍。6:40 條件是 $f'$ 不能太小、$f''$ 不能太大、起點要夠近。$f''$ 描述曲線多彎；$f'' = 0$ 是最好的情況，一步就到。8:55

那個常數是多少（自己驗算）

展開到二次可以算出常數是 $\frac{|f''|}{2|f'|}$（在根附近）：$f'$ 在分母、$f''$ 在分子，正好對上 Jerison 的兩個條件。$f = x^2 - 5$ 時是 $\frac{2}{2\cdot2\sqrt5} = \frac{1}{2\sqrt5}\approx0.2236$；用第 05 頁的誤差表算 $E_{n+1}/E_n^2$：0.2500、0.2222、0.2236，趨近這個值。

學生問：第一個誤差比 1 大怎麼辦？Jerison：那就麻煩了。拋物線在遠處和直線差非常多，平方會讓誤差變大而不是變小。10:42 他也形容來回循環的失敗是「這山望著那山高」：在這邊時覺得那個根比較好，跳過去又想跳回來。14:26

02均值定理 16:03

口語版：從波士頓開到洛杉磯 3000 英里花了 6 小時，平均時速 500 英里。途中有時比 500 快、有時比 500 慢，某一刻一定剛好是 500。「mean」就是平均。17:21

均值定理（Mean Value Theorem, MVT）

如果 $f$ 在 $a < x < b$ 可微、在 $a \le x \le b$ 連續，則存在某個 $c$，$a < c < b$，使得

$$\frac{f(b) - f(a)}{b - a} = f'(c)$$

左邊是平均速度（割線斜率），右邊是某一刻的瞬間速度（切線斜率）。兩個假設的意思：中間每一點都要有「速度」可言（可微）；兩端的值要和中間接得上（連續），否則端點的值和函數其他部分毫無關係。19:29

證明：把平行線推上去

Jerison 說證明「其實就是一張圖」。20:34 畫出連接 $(a, f(a))$ 和 $(b, f(b))$ 的割線。在圖形下方放一條和割線平行的直線，保持平行往上推（只看 $a$ 到 $b$ 之間的部分），直到碰到圖形。碰到的那一點，直線就是切線，斜率等於割線斜率，那一點就是 $c$。21:34 如果圖形整個在割線上方，往上推碰不到，就改成從上面往下壓。23:16

學生問：一定只有一個 $c$ 嗎？不必，可能碰到好幾個點，「越多越好」。常數函數的話每一點都行。33:23 至於為什麼一定碰得到，Jerison 承認那是比這門課更深的分析問題，這裡只是在視覺上說服你。

為什麼一定要可微 24:43

看懂一個證明時，要問每個假設用在哪裡。取兩條直線拼成的 V 字（例如 $|x|$），在 $-1$ 到 $2$ 之間：割線斜率 $\frac{2 - 1}{3} = \frac13$，但 V 字的斜率只有 $-1$ 和 $+1$，沒有任何一點的斜率是 $\frac13$。推上去的平行線會碰在尖角，那裡沒有切線。一個壞點就足以讓定理失敗。25:44

Demo 1 · 找出 c

怎麼看：拖 $a$、$b$。藍線是函數，灰色是割線，橙色是所有斜率等於割線斜率的切線（程式把區間切成 4000 小段，找 $f'(c)$ 等於割線斜率的地方）。換成 $|x|$ 並讓 $a < 0 < b$：一般來說找不到任何 $c$，因為 0 不可微。

函數

a =

b =

03三個推論 26:48

$f' > 0$ ⇒ $f$ 遞增。
$f' < 0$ ⇒ $f$ 遞減。
$f' = 0$ ⇒ $f$ 是常數。

Jerison 說第三條看起來最簡單，「但光是它就是一切的關鍵」。證明：把均值定理改寫成 29:40

$$f(b) = f(a) + f'(c)(b - a)\qquad(a < c < b)$$

取 $a < b$，所以 $b - a > 0$。$f'(c) > 0$ 時 $f(b) > f(a)$；$f'(c) < 0$ 時 $f(b) < f(a)$；$f'(c) = 0$ 時 $f(b) = f(a)$，對任何兩點都成立，所以 $f$ 是常數。

為什麼這不是廢話？導數的定義是無窮小的極限，它和函數在有限距離上的行為不是自動有關的。之前我們說「差商 ≈ 導數」；均值定理說差商剛好等於某一點的導數，只是不知道是哪一點。這是無窮小和有限差之間唯一的關鍵連結。32:20

Jerison 說：實際上你會忘記均值定理本身，記住的是這三條推論；這輩子用到均值定理，只會用這種方式。43:54

04均值定理和線性近似 35:32

學生問：這和線性近似有什麼不同？

線性近似	均值定理
$\frac{\Delta f}{\Delta x}\approx f'(a)$：約等於，用一個確定的點 $a$	$\frac{\Delta f}{\Delta x} = f'(c)$：剛好等於，但 $c$ 不知道在哪

因為不知道 $c$，均值定理能說的只有：37:19

$$\min_{a\le x\le b}f'(x)\ \le\ \frac{f(b) - f(a)}{b - a}\ \le\ \max_{a\le x\le b}f'(x)$$

白話：平均速度介於最高速和最低速之間。Jerison 說這太自然了，牛頓和萊布尼茲的時代其實沒有嚴格證明，但也沒人懷疑。線性近似則是說平均速度約等於起點的速度：區間很短時速度變化不大，最大和最小很接近，所以近似合理。39:35 習題叫你「找出 $c$」只是為了讓你搞懂定理在說什麼，Jerison 說不必太在意，因為實際使用時永遠不知道 $c$ 是哪個。41:41

18.01SC 例題：$|\sin b - \sin a|\le|b - a|$

$f = \sin$，$f' = \cos$ 介於 $-1$ 和 $1$，所以 $-1\le\frac{\sin b - \sin a}{b - a}\le1$。只用了「$\sin$ 的斜率不超過 1」。這種「導數的上界 ⇒ 函數值的變化有上界」叫 Lipschitz 條件，第 12 節會在 WGAN 再看到。

背景補充：均值定理的推廣就是 Taylor 定理（18.01SC session 34）

均值定理可以寫成 $f(b) = f(a) + f'(c)(b - a)$：零次近似 $f(a)$ 加上一個「下一項長相、但在某個 $c$ 取值」的修正。照這個樣子推下去：

$$f(b) = \underbrace{f(a) + f'(a)(b-a) + \cdots + \frac{f^{(n)}(a)}{n!}(b-a)^n}_{n\text{ 次 Taylor 多項式}} + \frac{f^{(n+1)}(c)}{(n+1)!}(b-a)^{n+1}$$

這就是第 04 頁說的「誤差和 $(x - x_0)^{n+1}$ 同階」的精確版本。18.01SC 用 $f = x^3 + 2x + 1$ 驗證：在 1 的二次近似是 $4 + 5(x-1) + 3(x-1)^2$，在 3 給 26，真值 34，差 8；$\frac{f'''}{3!}(3-1)^3 = \frac66\cdot8 = 8$，剛好。

05用導數證不等式 44:56

$e^x > 1 + x$（$x > 0$）

令 $f(x) = e^x - (1 + x)$。$f(0) = 0$，$f'(x) = e^x - 1 > 0$（$x > 0$）。所以 $f$ 遞增，$f(x) > f(0) = 0$，也就是 $e^x > 1 + x$。

再一層：$e^x > 1 + x + \frac{x^2}{2}$

$g(x) = e^x - (1 + x + \frac{x^2}2)$，$g(0) = 0$，$g'(x) = e^x - (1 + x)$，剛剛才證明它 $> 0$。所以 $g$ 遞增，$g(x) > 0$。47:33

一直做下去：$e^x > 1 + x + \frac{x^2}{2} + \frac{x^3}{3\cdot2} + \frac{x^4}{4\cdot3\cdot2} + \cdots$（$x > 0$）。Jerison 說這像龜兔賽跑：$e^x$ 是兔子，永遠領先；多項式是烏龜，但加到無窮多項就追上了，也就是第 14 頁的冪級數 $e^x = \sum\frac{x^n}{n!}$。49:04

Demo 2 · 烏龜追兔子

怎麼看：藍線是 $e^x$，橙線是前 $n+1$ 項的和 $1 + x + \cdots + \frac{x^n}{n!}$。在 $x > 0$ 這一側，每一條橙線都在藍線下面；$n$ 越大越貼近，而且貼近的範圍越來越寬。讀數比較 $x$ 處的值。

項數 n =

x =

一句話帶走：證明 $F(x) > G(x)$：看差 $F - G$ 在起點是 0、導數是正的，就一路遞增、保持正。

06微分記號 dy = f′(x) dx Lec 15 1:02

從這裡開始，後半門課都是積分。先引入一個記號：$y = f(x)$ 的微分（differential）是

$$dy = f'(x)\,dx$$

形式上就是把 $\frac{dy}{dx} = f'(x)$ 兩邊乘上 $dx$：把導數看成兩個「無窮小」的比，這是萊布尼茲的看法。Jerison 說記號看似小事，但好的記號讓人想得快：萊布尼茲的記號在歐陸被採用，英國跟著牛頓的記號，結果英國的微積分發展落後了一兩百年。3:40

手算：$\sqrt[3]{64.1}$

$y = x^{1/3}$，$dy = \frac13x^{-2/3}dx$。在 $x = 64$：$y = 4$，$dy = \frac13\cdot\frac1{16}dx = \frac1{48}dx$。$dx = 0.1$，所以 $\sqrt[3]{64.1}\approx y + dy = 4 + \frac1{480}\approx4.00208$。真值 4.002082，差 $10^{-6}$。10:28

每個數字都和第 04 頁的線性近似一一對應：同一個方法，新記號。13:45 嚴格說 $dy$ 是沿著切線上升的量，$\Delta y$ 才是函數真正的變化，$\sqrt[3]{64.1} = y + \Delta y\approx y + dy$。Jerison 說這點模糊是記號的代價，大家都這樣用。9:26

07反導數（不定積分） 14:16

新記號、也是新觀念：

$$G(x) = \int g(x)\,dx\quad\text{的意思是}\quad G'(x) = g(x)$$

$G$ 叫 $g$ 的反導數（antiderivative），也叫不定積分（indefinite integral）；$\int$ 是積分號。例如 $\int\sin x\,dx = -\cos x + c$：任何常數 $c$ 微分都是 0，所以答案是一整族函數，這就是「不定」的意思。17:09

反導數	備註
$\int x^a\,dx = \frac{x^{a+1}}{a+1} + c$	$a\ne-1$（否則除以 0）19:15
$\int\frac{dx}{x} = \ln\|x\| + c$	例外情況；$x < 0$ 時 $(\ln(-x))' = \frac{-1}{-x} = \frac1x$，所以加絕對值兩邊都對 21:27
$\int\sin x\,dx = -\cos x + c$
$\int\sec^2x\,dx = \tan x + c$
$\int\frac{dx}{\sqrt{1-x^2}} = \sin^{-1}x + c$	第 03 頁倒過來
$\int\frac{dx}{1+x^2} = \tan^{-1}x + c$

Jerison 預告：有一陣子你會在考試時把該微分的反微分、該反微分的微分，「先變糟一點」。多練反導數反而能把微分公式記牢。25:41

08只差一個常數 26:49

反導數差一個常數很明顯；重要的是：這是唯一的模糊。

反導數的唯一性

若 $F' = G'$，則 $F(x) = G(x) + c$。

證明一行：$(F - G)' = 0$，由第 3 節的第三條推論，$F - G$ 是常數。Jerison 強調這不是小事：如果「導數是 0 ⇒ 常數」不成立，微積分就沒用了。變化率應該要決定函數，只差一個起始值。28:59

09代換法與「進階猜測」 30:35

積分在符號上比微分難得多，有時甚至不可能。這個單元只用一個方法：代換法（method of substitution），它是為微分記號量身打造的。31:36

$\int x^3(x^4 + 2)^5\,dx$

展開五次方是很糟的主意。挑最亂的部分 $u = x^4 + 2$，$du = 4x^3dx$，所以 $x^3dx = \frac14du$：

$$\int u^5\cdot\frac14du = \frac{u^6}{24} + c = \frac{(x^4+2)^6}{24} + c$$

最後一步不能忘：題目用 $x$ 問，答案要換回 $x$。34:11

進階猜測（advanced guessing）：做多了以後可以看到兩步之後。$\int\frac{x\,dx}{\sqrt{1+x^2}}$：看到 $-\frac12$ 次方和裡面的微分 $x\,dx$，猜答案大概是 $(1+x^2)^{1/2}$，微分驗證 $\frac12(1+x^2)^{-1/2}\cdot2x$，正好。36:59 係數不對就調：$\int xe^{-x^2}dx$，猜 $e^{-x^2}$，微分得 $-2xe^{-x^2}$，差 $-2$ 倍，所以答案 $-\frac12e^{-x^2} + c$。Jerison 說他看過太多人不寫出來直接心算，結果算錯係數。40:46

兩個看起來不同的答案 41:18

$\int\sin x\cos x\,dx$：猜 $\sin^2x$，得 $\frac12\sin^2x + c_1$；猜 $\cos^2x$，得 $-\frac12\cos^2x + c_2$。哪個對？都對。兩者相減：$\frac12\sin^2x + \frac12\cos^2x = \frac12$，是常數。所以兩個答案代表同一族函數，只是常數的標籤錯開：$c_2 = c_1 + \frac12$，即 $c_1 - c_2 = -\frac12$。44:05

Lec 15 板書寫成 $c_1 - c_2 = +\frac12$，Jerison 在 Lec 16 一開頭更正是負號。Lec 16 0:32

$\int\frac{dx}{x\ln x}$

代換最難的部分 $u = \ln x$，好處是它的微分 $du = \frac{dx}{x}$ 比它本身簡單。$\int\frac{du}{u} = \ln|u| + c = \ln|\ln x| + c$。這種題目 Jerison 建議老實寫出代換。46:57

10微分方程：分離變數 Lec 16 2:05

最簡單的微分方程是 $\frac{dy}{dx} = f(x)$，解就是反導數 $y = \int f(x)\,dx$，算作已經解決。第一個有意思的例子：3:38

$$\left(\frac{d}{dx} + x\right)y = 0\qquad\text{即}\qquad\frac{dy}{dx} = -xy$$

Jerison 說 $\frac{d}{dx} + x$ 在量子力學叫 annihilation operator，這個方程描述諧振子的基態。4:10 和前一類不同的是：右邊同時有 $x$ 和 $y$。訣竅是把 $dx$、$dy$ 當成可以乘除的量，把變數分到兩邊：5:45

$$\frac{dy}{y} = -x\,dx\ \Longrightarrow\ \ln y = -\frac{x^2}{2} + c\ \Longrightarrow\ y = Ae^{-x^2/2}\quad(A = e^c)$$

驗算：$\frac{d}{dx}Ae^{-x^2/2} = A\cdot(-x)e^{-x^2/2} = -xy$。$A$ 正負都可以。Jerison：這個函數就是常態分佈（normal distribution），和機率、量子力學的機率詮釋完美吻合。9:54

分離變數（separation of variables） $$\frac{dy}{dx} = f(x)g(y)\ \Rightarrow\ \frac{dy}{g(y)} = f(x)\,dx\ \Rightarrow\ H(y) = F(x) + c\ \Rightarrow\ y = H^{-1}(F(x) + c)$$

$H = \int\frac{dy}{g(y)}$、$F = \int f(x)\,dx$。$H(y) = F(x) + c$ 是隱式解；實務上微積分的部分常很簡單，反函數那步可能很麻煩，有時就停在隱式。13:10

四個技術性提醒 14:16

絕對值：寫 $\ln|y|$ 就同時涵蓋 $y$ 正和負，得到 $y = \pm Ae^{-x^2/2}$。
除法會漏解：$y = 0$ 也是解（無聊但成立），但分離時除以了 $y$，所以沒被找到。做非線性運算（特別是除法）時，要記得把被除掉的情況補回來。16:23
只要一個常數：兩邊各加一個 $c_1$、$c_2$ 是多餘的，它們總能合併成一個。17:30
常數的樣子會變：剛積分完是加法常數，取指數後變成乘法常數 $A$。一般來說，解裡有一個自由常數，但不一定是加上去的。19:05

通解與初始條件：整族 $y = ae^{-x^2/2}$ 叫通解（general solution）。再告訴你起點，例如 $y(0) = 3$，就能釘住 $a = 3$，得到唯一的解 $3e^{-x^2/2}$。正的起點一直保持正，0 起點一直是 0。22:24

11幾何例子：拋物線和橢圓 26:32

例 3：找一條曲線，每一點的切線斜率都是「原點到該點的射線斜率」的兩倍。射線斜率是 $\frac yx$，所以 27:34

$$\frac{dy}{dx} = \frac{2y}{x}\ \Rightarrow\ \frac{dy}{y} = \frac{2\,dx}{x}\ \Rightarrow\ \ln|y| = 2\ln|x| + c\ \Rightarrow\ y = ax^2$$

一整族拋物線，開口向上或向下（$a$ 可正可負可 0）。驗算：$y' = 2ax = \frac{2ax^2}{x} = \frac{2y}{x}$。32:25

$x = 0$ 的陷阱：方程在 $x = 0$ 沒有定義，結果「知道起點和變化率」也無法唯一決定函數：曲線可以從左邊一支拋物線進來，從右邊另一支出去。應該把解看成從原點射出的「半支」，而不是完整的拋物線。Jerison 說這很細微，不要求你講得出來，只是警告。34:05

例 4：和這些拋物線處處垂直的曲線（正交軌跡）。垂直就是斜率取負倒數：36:56

$$\frac{dy}{dx} = -\frac{1}{2y/x} = -\frac{x}{2y}\ \Rightarrow\ 2y\,dy = -x\,dx\ \Rightarrow\ \frac{x^2}{2} + y^2 = c$$

這次不是每個 $c$ 都行：只有正的 $c = a^2$ 有曲線，是一族橢圓，水平半軸 $\sqrt2a$、垂直半軸 $a$。前一例要補解，這一例要刪掉一些常數。39:02 寫成顯式 $y = \pm\sqrt{a^2 - x^2/2}$：橢圓不是一個函數，上半、下半各是一個解。到 $y = 0$（$x = \pm\sqrt2a$）時斜率是垂直的、解就停了，這正符合方程分母有 $y$。42:15

Demo 3 · 斜率場與分離變數的解

怎麼看：灰色短線是斜率場：每個點畫一小段斜率等於 $\frac{dy}{dx}$ 的線段。拖起點 $(x_0, y_0)$，橙色是分離變數求出的那條解（常數由起點決定），它處處和斜率場相切。另外用小步長的 Euler 法從同一起點往兩邊走（綠色虛線），應該和公式解重疊。拋物線那題注意 $x = 0$ 那條線；橢圓那題注意解在 $y = 0$ 停下。

方程

x₀ =

y₀ =

公式解Euler 法（步長 0.001）

一句話帶走：$y' = f(x)g(y)$ 就把 $y$ 的東西搬到 $dy$ 那邊、$x$ 的搬到 $dx$ 那邊，兩邊各自積分；然後檢查除掉的解、常數的範圍、方程沒定義的地方。

12在 deep generative models 哪裡用到

這一頁	在 DGM 的樣子
$y' = -xy$ 的解是 $e^{-x^2/2}$	改寫成 $\frac{d}{dx}\ln y = -x$：標準 Gaussian 的 score（log 密度的導數）就是 $-x$。反過來，「score 是 $-x$」這個微分方程加上「總面積是 1」就唯一決定了標準常態分佈。score-based model 學的正是這個導數，再用它把雜訊推回資料
分離變數、指數衰減	diffusion 的 forward process 平均值滿足 $\frac{dm}{dt} = -\frac12\beta(t)m$，分離變數得 $m(t) = m(0)\exp\left(-\frac12\int_0^t\beta\right)$，這就是 $\sqrt{\bar\alpha_t}$。見補充課 B §03
logistic 方程（18.01SC）	$y' = y(1-y)$ 的解是左右平移過的 $\frac{1}{1 + e^{-x}}$，也就是 sigmoid；它的導數 $\sigma(1-\sigma)$ 正是 logistic 方程本身
均值定理的 min／max 夾擠	$\|f(b) - f(a)\|\le\max\|f'\|\cdot\|b - a\|$：導數有界 ⇒ 函數是 Lipschitz。WGAN 要求 critic 是 1-Lipschitz，gradient penalty 就是在懲罰 $\|\nabla D\|$ 偏離 1
$e^x\ge1 + x$	換個寫法 $\ln t\le t - 1$（令 $t = e^x$），這是證明 KL divergence $\ge0$（Gibbs 不等式）最短的路：$-\mathrm{KL} = \mathbb{E}_p\ln\frac qp\le\mathbb{E}_p\left(\frac qp - 1\right) = 0$
不動點 $\|P'\| < 1$（18.01SC）	迭代 $x_{n+1} = P(x_n)$ 在 $\|P'(x^*)\| < 1$ 的不動點附近收斂，每步誤差乘上約 $\|P'\|$。gradient descent 就是 $P(\theta) = \theta - \eta L'(\theta)$，$P' = 1 - \eta L''$：learning rate 太大（$\eta L'' > 2$）就會發散

在 DGM 哪裡用到：ODE 的系統介紹見補充課 B；score 和 Langevin 見補充課 F。

常見誤解

誤解：「均值定理告訴我們 $c$ 在哪裡」。它只說存在，不說在哪；實際使用時只用到「平均變化率介於導數的最小和最大值之間」。

誤解：「函數連續就能用均值定理」。中間每一點都要可微。$|x|$ 在 $[-1, 2]$ 就找不到 $c$。

誤解：「$\int x^{-1}dx = \frac{x^0}{0}$」。冪次公式在 $a = -1$ 失效，答案是 $\ln|x| + c$。

誤解：「兩個反導數長得不一樣，一定有一個錯」。可能只差一個常數，例如 $\frac12\sin^2x$ 和 $-\frac12\cos^2x$、$\frac12\tan^2x$ 和 $\frac12\sec^2x$（18.01SC session 38）。

誤解：「分離變數得到的就是全部的解」。除以 $g(y)$ 時會漏掉 $g(y) = 0$ 的常數解（例如 $y = 0$）；反過來，有些常數（例如橢圓題的 $c \le 0$）沒有對應的曲線。

講義和錄影的小筆誤。2006 講義 Lecture 14 把遞減定義成「$a < b\Rightarrow f(a) < f(b)$」，應為 $f(a) > f(b)$；Lecture 16 例 2 的一般式寫 $f(x) = x$，應為 $-x$；例 3 的解列表裡「$y = -2y^2$」應為 $-2x^2$。錄影 Lec 14 把平均速度說成「3000 英里乘 6 小時」，應為除以（結果 500 沒錯）；Lec 15 的 $c_1 - c_2$ 符號在 Lec 16 開頭更正（第 9 節）。2006 講義用的是波士頓到芝加哥、1000 英里、3 小時。

自我測驗

1. 對 $f(x) = x^3$ 在 $[0, 2]$ 用均值定理，$c$ 是多少？

割線斜率 $\frac{8 - 0}{2} = 4$，$3c^2 = 4$，$c = \frac{2}{\sqrt3}\approx1.155$，在 $(0, 2)$ 裡。

2. （18.01SC 例題）用均值定理證明 $|\sin b - \sin a|\le|b - a|$。

$\frac{\sin b - \sin a}{b - a} = \cos c\in[-1, 1]$，取絕對值即得。

3. 證明 $\ln(1 + x) < x$（$x > 0$）。

$f(x) = x - \ln(1+x)$，$f(0) = 0$，$f'(x) = 1 - \frac1{1+x} = \frac{x}{1+x} > 0$。所以 $f(x) > 0$。（也可以從 $e^x > 1 + x$ 兩邊取 log 得到。）

4. 算 $\int\frac{\cos x}{\sin^3x}dx$、$\int\frac{e^x}{1 + e^x}dx$、$\int x\sqrt{1 + x^2}\,dx$。

$u = \sin x$：$\int u^{-3}du = -\frac{1}{2\sin^2x} + c$。$u = 1 + e^x$：$\ln(1 + e^x) + c$（就是 softplus！）。猜 $(1+x^2)^{3/2}$，微分得 $3x(1+x^2)^{1/2}$，所以 $\frac13(1+x^2)^{3/2} + c$。

5. （18.01SC 例題）用 $u = \tan x$ 和 $v = \sec x$ 兩種代換算 $\int\tan x\sec^2x\,dx$，比較結果。

$\frac12\tan^2x + c$ 和 $\frac12\sec^2x + C$。因為 $\tan^2x = \sec^2x - 1$，兩者只差常數 $\frac12$，都對。

6. （18.01SC 例題）解 $\frac{dy}{dx} = ry$，以及 logistic 方程 $\frac{dy}{dx} = ry(s - y)$（提示 $\int\frac{dy}{y(s-y)} = \frac1s\ln\left|\frac{y}{s-y}\right| + c$）。

$y = ae^{rx}$。logistic：$\frac1s\ln\left|\frac{y}{s-y}\right| = rx + c$，$\frac{y}{s - y} = ae^{srx}$，$y = \frac{sae^{srx}}{1 + ae^{srx}}$。$x\to\infty$ 時 $y\to s$：族群被環境容量 $s$ 限制。$s = r = a = 1$ 時就是 sigmoid $\frac{e^x}{1 + e^x}$。

7. 解 $y' = -xy$、$y(0) = 3$，$y(1)$ 是多少？

$y = 3e^{-x^2/2}$，$y(1) = 3e^{-1/2}\approx1.8196$。

8. （18.01SC 例題）族群模型 $x_{n+1} = P(x_n)$，不動點 $x^*$ 滿足 $P(x^*) = x^*$。為什麼 $|P'(x^*)| < 1$ 時附近的族群會被吸過去？

線性近似：$P(x^* + dx)\approx x^* + P'(x^*)\,dx$。離不動點的距離每代乘上 $|P'(x^*)| < 1$，越來越小。$P(x) = ax(b - x)$ 的非零不動點 $\frac{ab-1}{a}$ 處 $P' = 2 - ab$，所以 $1 < ab < 3$ 時是吸引的。

反導數	備註
\(\int x^a\,dx = \frac{x^{a+1}}{a+1} + c\)	\(a\ne-1\)（否則除以 0）19:15
\(\int\frac{dx}{x} = \ln\|x\| + c\)	例外情況；\(x < 0\) 時 \((\ln(-x))' = \frac{-1}{-x} = \frac1x\)，所以加絕對值兩邊都對 21:27
\(\int\sin x\,dx = -\cos x + c\)
\(\int\sec^2x\,dx = \tan x + c\)
\(\int\frac{dx}{\sqrt{1-x^2}} = \sin^{-1}x + c\)	第 03 頁倒過來
\(\int\frac{dx}{1+x^2} = \tan^{-1}x + c\)

這一頁	在 DGM 的樣子
\(y' = -xy\) 的解是 \(e^{-x^2/2}\)	改寫成 \(\frac{d}{dx}\ln y = -x\)：標準 Gaussian 的 score（log 密度的導數）就是 \(-x\)。反過來，「score 是 \(-x\)」這個微分方程加上「總面積是 1」就唯一決定了標準常態分佈。score-based model 學的正是這個導數，再用它把雜訊推回資料
分離變數、指數衰減	diffusion 的 forward process 平均值滿足 \(\frac{dm}{dt} = -\frac12\beta(t)m\)，分離變數得 \(m(t) = m(0)\exp\left(-\frac12\int_0^t\beta\right)\)，這就是 \(\sqrt{\bar\alpha_t}\)。見補充課 B §03
logistic 方程（18.01SC）	\(y' = y(1-y)\) 的解是左右平移過的 \(\frac{1}{1 + e^{-x}}\)，也就是 sigmoid；它的導數 \(\sigma(1-\sigma)\) 正是 logistic 方程本身
均值定理的 min／max 夾擠	\(\|f(b) - f(a)\|\le\max\|f'\|\cdot\|b - a\|\)：導數有界 ⇒ 函數是 Lipschitz。WGAN 要求 critic 是 1-Lipschitz，gradient penalty 就是在懲罰 \(\|\nabla D\|\) 偏離 1
\(e^x\ge1 + x\)	換個寫法 \(\ln t\le t - 1\)（令 \(t = e^x\)），這是證明 KL divergence \(\ge0\)（Gibbs 不等式）最短的路：\(-\mathrm{KL} = \mathbb{E}_p\ln\frac qp\le\mathbb{E}_p\left(\frac qp - 1\right) = 0\)
不動點 \(\|P'\| < 1\)（18.01SC）	迭代 \(x_{n+1} = P(x_n)\) 在 \(\|P'(x^*)\| < 1\) 的不動點附近收斂，每步誤差乘上約 \(\|P'\|\)。gradient descent 就是 \(P(\theta) = \theta - \eta L'(\theta)\)，\(P' = 1 - \eta L''\)：learning rate 太大（\(\eta L'' > 2\)）就會發散