隱函數微分、反函數、指數與對數
上一頁的 chain rule 還有一個妙用：不必先把 \(y\) 解出來，直接對整條方程式微分。這招叫隱函數微分，用它可以算分數次方、反三角函數，以及 \(\ln x\) 的導數。這一頁還要找出那個讓 \(e^x\) 的導數剛好等於自己的數 \(e\)，並解釋為什麼用「自然」對數。最後是第一單元的複習。
讀完這頁你應該能夠
- 用隱函數微分算斜率：對整條方程式套 \(\frac{d}{dx}\)，碰到 \(y\) 就乘上 \(y'\)，再解出 \(y'\)。
- 用同一招推出反函數的導數，例如 \((\arctan x)' = \frac{1}{1+x^2}\)、\((\arcsin x)' = \frac{1}{\sqrt{1-x^2}}\)，並用直角三角形把答案改寫成 \(x\) 的式子。
- 說明 \(e\) 是怎麼定義的（\(a^x\) 在 0 的斜率 \(M(a)\) 等於 1 的那個底），以及為什麼 \((e^x)' = e^x\)、\((\ln x)' = \frac1x\)、\((a^x)' = (\ln a)\,a^x\)。
- 用對數微分 \((\ln u)' = \frac{u'}{u}\) 處理「指數會動」的函數，例如 \(x^x\)、\(x^r\)。
- 用導數的定義算出 \(\lim_{n\to\infty}(1+\frac1n)^n = e\)。
前置知識檢查
1. 化簡 \(2^3\cdot2^5\)、\((2^3)^5\)、\(8^{2/3}\)。
2. \(\log_{10}1000\) 是多少？\(\ln e^5\) 呢？\(e^{\ln 7}\) 呢？
3. 用 chain rule 微分 \((1 - x^2)^{1/2}\)，假設 \((x^a)' = ax^{a-1}\) 對 \(a = \frac12\) 也成立。
4. \(\tan y\) 對 \(y\) 的導數是什麼？
00怎麼讀這一頁、素材對照
三堂都是 Jerison。Lec 5 講隱函數微分和反函數（第 1–5 節），Lec 6 講指數和對數（第 6–11 節），Lec 7 前 14 分鐘把指數的部分收尾（第 11–12 節），後面是期中考前的複習（第 14 節）。雙曲函數（第 13 節）2007 年的錄影沒有講，內容取自 2006 講義和 18.01SC。
| 素材 | 對應內容 |
|---|---|
| 18.01 錄影 | Lec 5 隱函數微分、反函數；Lec 6 \(a^x\)、\(e\)、\(\ln x\)、對數微分；Lec 7 \(x^r\)、自然對數、第一單元複習 |
| 18.01 講義（2006） | Lecture 5–7（離線包 lec5.pdf–lec7.pdf），補充 Notes X「Exponentials and Logarithms」（xxpnentl_lgrthm.pdf） |
| 18.01SC session 13–21 | worked examples：橢圓的二階導數、雙曲線的斜率、\(\sqrt x\) 當反函數、複利與 APR、解含 \(e\) 和 \(\ln\) 的方程式、雙曲函數的和角公式（自我測驗用到）；解題影片 Implicit Differentiation、Arccos、Log and Exponent Derivatives、Hyperbolic Trig Functions |
| Strang Highlights of Calculus | 短片 The Exponential Function、Inverse Functions and the Logarithm、Derivatives of ln y and sin⁻¹ y、Growth Rate and Log Graphs |
| Strang Calculus | 第 4、6 章 |
01隱函數微分：分數次方 Lec 5 1:40
目前證過 \((x^a)' = ax^{a-1}\) 的只有整數 \(a\)：正整數在第 01 頁，負整數在第 02 頁。現在要推到分數 \(a = \frac mn\)（\(m, n\) 是整數），其中 \(m = 1\) 就是開 \(n\) 次方根。2:15
難處在於我們不會直接微分 \(x^{m/n}\)。Jerison 的做法分兩步：3:16
- 先把方程式改寫成會微分的樣子：\(y = x^{m/n}\) 兩邊取 \(n\) 次方，得到 \(y^n = x^m\)。兩邊都只剩整數次方。
- 兩邊同時對 \(x\) 微分。右邊是 \(mx^{m-1}\)。左邊的 \(y\) 是 \(x\) 的函數，所以要用 chain rule：先對 \(y\) 微分，再乘上 \(\frac{dy}{dx}\)。4:51
想要的 \(\frac{dy}{dx}\) 只出現一次，而且是乘在一個已知的東西上，所以除過去就好。Jerison 說接下來是「非微積分的部分」，通常反而比較麻煩：6:25
$$\frac{dy}{dx} = \frac{m}{n}\cdot\frac{x^{m-1}}{y^{n-1}} = \frac mn\cdot\frac{x^{m-1}}{x^{\frac mn(n-1)}} = \frac mn\,x^{\,m-1-m+\frac mn} = \frac mn\,x^{\frac mn - 1}$$正是 \(ax^{a-1}\)。7:58
① 把方程式整理成最容易微分的樣子，不必解出 \(y\)。② 兩邊對 \(x\) 微分；凡是含 \(y\) 的項，用 chain rule 多乘一個 \(y'\)。③ 解出 \(y'\)。④ 需要的話，再把 \(y\) 換回 \(x\)。
\(a = \frac13\)：\(\frac13x^{-2/3} = \frac13\cdot\frac1{8^{2/3}} = \frac13\cdot\frac14 = \frac1{12}\approx0.0833\)。差商檢查：\(\frac{\sqrt[3]{8.001} - 2}{0.001}\approx0.08333\)。
02圓：顯式和隱式 9:00
\(x^2 + y^2 = 1\) 不是一個函數，而是用方程式隱含地（implicitly）定義 \(y\)。解出來是 \(y = \pm\sqrt{1-x^2}\)，Jerison 先只取上半圓（正號）。
顯式（explicit）的做法：寫成分數次方，再用 chain rule。這一步要用到第 1 節剛證明的 \(a = \frac12\)。11:11
$$y' = \frac12(1-x^2)^{-1/2}\cdot(-2x) = \frac{-x}{\sqrt{1-x^2}}$$隱式的做法：什麼都不改，直接對 \(x^2 + y^2 = 1\) 微分。平方幾乎是最好微分的東西。15:18
$$2x + 2y\,y' = 0\quad\Longrightarrow\quad y' = -\frac xy$$兩個答案一樣，因為 \(y = \sqrt{1-x^2}\)。17:29
下半圓呢？
學生問：隱式的方法為什麼沒處理下半圓？Jerison 說其實處理了：\(-\frac xy\) 對上下兩半都對。17:59 看第一象限：\(x, y\) 都正，斜率負，圓往下彎，對。下半圓 \(x\) 正、\(y\) 負，斜率變正，圓往上翹，也對。隱式的方法「不在乎是哪一支」（branch），但 Jerison 建議實際做題時還是一次只看一支。19:32
03解不出 y 也能算斜率 20:17
難一點的例子：\(y^4 + xy^2 - 2 = 0\)。它剛好可以把 \(y^2\) 當未知數用公式解：
$$y = \pm\sqrt{\frac{-x\pm\sqrt{x^2+8}}{2}}$$兩個 \(\pm\)，最多四個根，每一支都要分開檢查；一般的四次方程式根本沒有好用的公式。21:53 隱式的方法簡單得多，直接微分。中間的 \(xy^2\) 是乘積，要用乘積規則：22:24
$$4y^3y' + \bigl(y^2 + x\cdot2y\,y'\bigr) = 0\quad\Longrightarrow\quad y' = \frac{-y^2}{4y^3 + 2xy}$$學生問：那 \(y\) 還是要從原方程式解出來嗎？Jerison 說對，這就是重點：答案仍是隱式的，要知道點在哪裡才能用。24:01
- \(x = 1\)：\(y = 1\) 滿足 \(1 + 1 - 2 = 0\)（Jerison 特地挑了 2 讓它成立）。斜率 \(\frac{-1}{4 + 2} = -\frac16\)。25:10
- \(x = 0\)：Jerison 說這是除了 \(x = 1\) 之外唯一好算的點。28:16 \(y^4 = 2\)，\(y = 2^{1/4}\approx1.1892\)，斜率 \(\frac{-y^2}{4y^3} = -\frac1{4y}\approx-0.2102\)。
- \(x = 2\)：只能靠公式（或數值方法）找 \(y\)：\(y^2 = -1 + \sqrt3\approx0.7321\)，\(y\approx0.8556\)。代入得斜率 \(\approx-0.1235\)。
Jerison 說了兩點「哲學」：26:45
- 「能微分所有你知道的函數」是字面上的意思：你找不到函數，就別指望魔法般找到它的導數。四次方程式的根本身就複雜，這份複雜跑不掉。
- 但隱式的好處是：點 \((x, y)\) 一旦找到，斜率用代數公式一代就有，從來不必去微分那個複雜的根式。27:16
Demo 1 · 隱函數的切線
04反函數：沿 y = x 翻過去 28:55
隱函數微分最重要的應用是算反函數的導數。先看反函數是什麼。\(y = \sqrt x\)（\(x > 0\)）平方後是 \(y^2 = x\)，所以如果 \(f(x) = \sqrt x\)，令 \(g(y) = y^2\)，就有 \(g(f(x)) = x\)：\(g\) 把 \(f\) 做的事還原。29:30 一般地，
$$y = f(x)\iff x = g(y),\qquad g(f(x)) = x,\qquad g = f^{-1}$$\(y = f(x)\) 和 \(x = g(y)\) 是同一條方程式、同一條曲線。要把 \(f^{-1}\) 和 \(f\) 畫在同一組座標軸上（橫軸都叫 \(x\)），就得把每個點 \((x, y)\) 換成 \((y, x)\)。這個交換在圖上就是沿對角線 \(y = x\) 翻過去。32:51 例如 \(\sqrt x\) 翻過去是 \(x^2\)（\(x \ge 0\) 那半邊）。
翻過去以後，原來的彎曲方向會相反：\(\sqrt x\) 往下彎，\(x^2\) 往上彎。原來的垂直漸近線會變成水平漸近線。38:56
背景補充：為什麼要「限制定義域」
反函數要存在，\(f\) 必須一對一：不同的 \(x\) 給不同的 \(y\)，翻過去才不會一個 \(x\) 對到兩個值。\(x^2\) 在整條實數線上不是一對一（\(2^2 = (-2)^2\)），所以只取 \(x \ge 0\)。\(\tan\) 只取 \((-\frac\pi2, \frac\pi2)\)，\(\sin\) 只取 \([-\frac\pi2, \frac\pi2]\)，這就是 Jerison 最後提醒的「要選一支」。48:30 18.01SC 的 Arccos 解題影片就是在處理 \(\cos\) 要取哪一段（\([0, \pi]\)），結果 \((\arccos x)' = -\frac1{\sqrt{1-x^2}}\)。
05反函數的導數：arctan、arcsin 36:02
只要會微分 \(f\)，就能用隱函數微分算 \(f^{-1}\) 的導數。Jerison 用 \(y = \arctan x\)（也寫成 \(\tan^{-1}x\)）示範。
圖形：\(\tan x\) 定義在 \((-\frac\pi2, \frac\pi2)\)，從 \(-\infty\) 升到 \(+\infty\)。沿對角線翻過去，\(\arctan x\) 定義在整條實數線，兩邊被水平線 \(y = \pm\frac\pi2\) 夾住：\(x\to\infty\) 時 \(\arctan x\to\frac\pi2\)。37:19
微分：照第 1 節的步驟，先把方程式改成會微分的樣子 \(\tan y = x\)，再兩邊對 \(x\) 微分：41:32
$$\frac{1}{\cos^2y}\cdot y' = 1\quad\Longrightarrow\quad y' = \cos^2y = \cos^2(\arctan x)$$答案對，但太複雜。42:47 三角函數的好處是這種式子都能化簡，工具是一個直角三角形：把 \(\tan y = x\) 畫成對邊 \(x\)、鄰邊 1、角 \(y\)。斜邊是 \(\sqrt{1+x^2}\)，所以 \(\cos y = \frac1{\sqrt{1+x^2}}\)。44:03
\(\arcsin\) 更快：\(\sin y = x\) 微分得 \(\cos y\cdot y' = 1\)，所以
$$y' = \frac1{\cos y} = \frac1{\sqrt{1-\sin^2y}} = \frac1{\sqrt{1-x^2}}$$47:15（取 \(y\in[-\frac\pi2, \frac\pi2]\)，這段 \(\cos y \ge 0\)，開根號取正。）
一般公式：斜率互為倒數
把同一招用在一般的 \(f\)：\(y = f^{-1}(x)\) 改寫成 \(f(y) = x\)，微分得 \(f'(y)\,y' = 1\)，所以
$$\bigl(f^{-1}\bigr)'(x) = \frac{1}{f'(y)},\qquad y = f^{-1}(x)$$圖上的意思：翻過對角線後，切線也跟著翻，斜率 \(m\) 變成 \(\frac1m\)（\(\Delta y\) 和 \(\Delta x\) 對調）。2006 講義寫成 \(\frac{d}{dy}f^{-1}(y) = \frac{1}{dy/dx}\)。
Demo 2 · 翻過對角線，斜率變倒數
06a^x 的導數與神秘數 M(a) Lec 6 0:44
指數和對數是最後兩類要接上微積分的標準函數。取一個底 \(a > 0\)：\(a^0 = 1\)、\(a^1 = a\)，基本規則是 \(a^{x_1+x_2} = a^{x_1}a^{x_2}\)，另外還有 \((a^{x_1})^{x_2} = a^{x_1x_2}\)。有理數次方 \(a^{m/n} = \sqrt[n]{a^m}\)；無理數次方（例如 \(a^{\sqrt2}\)、\(a^\pi\)）則是「用連續性填進去」，計算機其實也只是用 \(\sqrt2\) 的有限位小數去算。3:00
代入導數的定義，唯一能做的事是用 \(a^{x+\Delta x} = a^x a^{\Delta x}\) 把 \(a^x\) 提出來：5:34
$$\frac{d}{dx}a^x = \lim_{\Delta x\to0}\frac{a^{x+\Delta x} - a^x}{\Delta x} = \lim_{\Delta x\to0}a^x\cdot\frac{a^{\Delta x}-1}{\Delta x} = a^x\cdot\underbrace{\lim_{\Delta x\to0}\frac{a^{\Delta x}-1}{\Delta x}}_{M(a)}$$Jerison 強調一個觀念：在這個極限裡，動的是 \(\Delta x\)，\(x\) 是固定的，所以 \(a^x\) 是常數，可以提到極限外面。6:41 剩下的極限只跟 \(a\) 有關，他叫它「神秘數」\(M(a)\)：
代 \(x = 0\)：\(M(a)\) 就是 \(a^x\) 在 \(x = 0\) 的斜率。9:48 所以只要知道一個點的斜率，其他每一點的斜率都知道了。這和第 02 頁的 \(\sin\)、\(\cos\) 一模一樣：當時只需要 0 那一點的斜率，再用和角公式推到每一點。11:23
不同的是，\(\sin\) 那次我們靠弧度和幾何算出了 0 點的斜率；這次卡住了，不知道 \(M(2)\) 是多少。11:53
07定義 e：讓 M(e) = 1 12:32
Jerison 的招數是「先回避問題」（beg the question）：先不算 \(M(a)\)，而是定義 \(e\) 為那個讓 \(M(e) = 1\) 的底。他說這條路是 circuitous（繞遠路），不是 circular（循環論證）：循環論證在數學裡是壞字眼。13:03 定義一下去，馬上得到最重要的公式：
為什麼這樣的 e 存在
Jerison 用「拉伸」論證：15:54 令 \(f(x) = 2^x\)，\(f'(0) = M(2)\)。把它沿橫軸壓縮 \(k\) 倍：
$$f(kx) = 2^{kx} = (2^k)^x = b^x,\qquad b = 2^k$$換一個底，就等於把 \(2^x\) 的圖橫向縮放。chain rule 告訴我們縮放後在 0 的斜率是 \(k\cdot f'(0) = k\,M(2)\)。17:30 所以只要取 \(k = \frac1{M(2)}\)，斜率就剛好是 1，那個底 \(b = 2^{1/M(2)}\) 就是 \(e\)。18:31 我們還是不知道 \(e\) 等於多少，但知道它在某處。
Jerison 說這和 \(\sin\) 的度與弧度是同一件事：換單位只是把導數乘上一個倍數。弧度剛好讓倍數是 1，度則是一個很醜的數。19:33 第 9 節會看到，\(M(2)\) 正是 \(\ln2\approx0.693\)，所以 \(k\approx1.4427\)，\(2^{1.4427}\approx2.71828\)。
\(2^x\) 從 \((0, 1)\) 到 \((1, 2)\) 的割線斜率是 1；\(2^x\) 往上彎，所以 0 點的切線比割線平，\(M(2) < 1\)。\(4^x\) 從 \((-\frac12, \frac12)\) 到 \((0, 1)\) 的割線斜率是 \(\frac{1/2}{1/2} = 1\)；這次割線在 0 點左邊，切線比它陡，\(M(4) > 1\)。底越大圖越陡，所以 2 和 4 之間有一個底讓斜率剛好是 1。
08ln x 的導數是 1/x 21:11
自然對數 \(\ln x\) 是 \(e^x\) 的反函數：\(w = \ln x \iff e^w = x\)。從指數律得到對數律 22:12：
$$\ln(x_1x_2) = \ln x_1 + \ln x_2,\qquad\ln1 = 0,\qquad\ln e = 1$$圖形是 \(e^x\) 沿對角線翻過去。\(e^x\) 永遠是正的，所以 \(\ln x\) 只定義在 \(x > 0\)。\(e^x\) 在 \((0, 1)\) 斜率 1，所以 \(\ln x\) 在 \((1, 0)\) 斜率也是 1。23:44
導數用反函數的招數：\(w = \ln x\) 不會微分，改成 \(e^w = x\) 再微分。25:22
$$e^w\cdot\frac{dw}{dx} = 1\quad\Longrightarrow\quad\frac{dw}{dx} = \frac1{e^w} = \frac1x$$直覺：\(e^x\) 越往右越陡，翻過去以後 \(\ln x\) 越往右越平；斜率是倒數，\(\frac{1}{e^w} = \frac1x\)。
09任意底：M(a) = ln a 28:31
回到 \(a^x\)。方法一：換成底 \(e\)。\(a = e^{\ln a}\)，所以 29:04
$$a^x = \bigl(e^{\ln a}\bigr)^x = e^{x\ln a}$$Jerison 說下一步第一次看到時最容易困惑，但其實很簡單：30:05 \(\frac{d}{dx}e^{3x} = 3e^{3x}\)（chain rule）。\(\ln a\) 雖然有三個字母，它只是一個固定的數，角色和 3 一樣：
$$\frac{d}{dx}e^{x\ln a} = (\ln a)\,e^{x\ln a}\quad\Longrightarrow\quad\frac{d}{dx}a^x = (\ln a)\,a^x$$和第 6 節比較，神秘數 \(M(a)\) 就是 \(\ln a\)。32:11 例如 \((2^x)' = (\ln2)\,2^x\)，\((10^x)' = (\ln10)\,10^x\)。Jerison 指出：就算你堅持用底 2 或底 10，自然對數還是會自己冒出來。它和人類選的進位制無關，這是它「自然」的一個理由。32:44
Demo 3 · 找出 M(a) = 1 的那個底
| 底 a | h = 0.1 | h = 0.01 | h = 0.001 | ln a |
|---|---|---|---|---|
| 2 | 0.7177 | 0.6956 | 0.6934 | 0.6931 |
| e ≈ 2.71828 | 1.0517 | 1.0050 | 1.0005 | 1 |
| 4 | 1.4870 | 1.3959 | 1.3873 | 1.3863 |
| 10 | 2.5893 | 2.3293 | 2.3052 | 2.3026 |
\(\ln4 = 2\ln2\)：底平方，0 點的斜率加倍。這就是第 7 節的拉伸：\(4^x = 2^{2x}\) 是 \(2^x\) 壓縮 2 倍。
10對數微分 33:14
方法二：對數微分（logarithmic differentiation）。有時候函數本身難微分，它的 log 反而好微分。關鍵公式是 chain rule 加上 \((\ln u)' = \frac1u\)：35:10
做法：取 log、微分、最後乘回 \(u\)。
\(u = a^x\)，\(\ln u = x\ln a\)。\(\ln a\) 是常數，所以 \((\ln u)' = \ln a\)。乘回 \(u\)：\(u' = (\ln a)\,a^x\)。36:18 和方法一的算術其實一樣，只是不用先換底。
\(v = x^x\)，\(\ln v = x\ln x\)。這次 \(\ln x\) 不是常數，要用乘積規則：
$$\frac{v'}{v} = (x\ln x)' = 1\cdot\ln x + x\cdot\frac1x = 1 + \ln x\quad\Longrightarrow\quad\frac{d}{dx}x^x = x^x(1 + \ln x)$$檢查：\(x = 1\) 時斜率 \(1\cdot(1 + 0) = 1\)；\(x = 2\) 時 \(4(1 + \ln2)\approx6.773\)。\(1 + \ln x = 0\) 在 \(x = \frac1e\)，那裡 \(x^x\) 有最小值 \(e^{-1/e}\approx0.692\)。
這兩個方法對「指數在動」的函數永遠適用。41:04 常見的錯誤是把 \(x^x\) 當成 \(x^n\)（得到 \(x\cdot x^{x-1}\)），或當成 \(a^x\)（得到 \((\ln x)x^x\)）：兩個都只對了一半，正確答案剛好是兩者相加。
收尾：x^r 對所有實數 r 都成立 Lec 7 5:40
第 1 節只證到有理數次方。Lec 7 用這兩個方法補上任意實數 \(r\)（包括 \(\sqrt2\)、\(\pi\)）。用方法二：\(u = x^r\)，\(\ln u = r\ln x\)，\(\frac{u'}{u} = \frac rx\)，所以 \(u' = x^r\cdot\frac rx = rx^{r-1}\)。8:23 證明裡 \(r\) 有理無理都一樣。
11e 的公式：(1 + 1/n)^n Lec 6 41:36
到這裡我們有 \(e\) 的定義、\(\ln\)、\(M(a)\)，但還不知道 \(e\) 的數值。Jerison 用對數算一個極限來收尾：
$$\lim_{n\to\infty}\left(1 + \frac1n\right)^n$$指數 \(n\) 在動，所以先取 log：42:41
$$\ln\left(1+\frac1n\right)^n = n\ln\left(1 + \frac1n\right)$$令 \(\Delta x = \frac1n\)，\(n\to\infty\) 就是 \(\Delta x\to0\)。再減一個 \(\ln1 = 0\)（不改變任何東西），就認出它是一個差商：43:50
$$n\ln\left(1+\frac1n\right) = \frac{\ln(1+\Delta x) - \ln1}{\Delta x}\ \xrightarrow{\Delta x\to0}\ \frac{d}{dx}\ln x\Big|_{x=1} = \frac11 = 1$$log 趨近 1，所以原式趨近 \(e^1\)：46:25
Lec 7 開頭有學生問：\(1 + \frac1n\to1\)，取 log 不就趨近 0 嗎？Jerison 說：\(\ln(1+\frac1n)\to0\)，但前面乘的 \(n\to\infty\)，是「0 乘無窮大」，兩邊互相抵消，結果是 1，要靠導數才算得出來。Lec 7 2:36 他也強調等式可以倒過來讀：原本是「算出一個極限」，倒過來就是「\(e\) 的公式」，計算機上可以直接按出來。4:07
Demo 4 · 複利與 (1 + r/n)ⁿ
| n | (1 + 1/n)ⁿ | e − 它 |
|---|---|---|
| 1 | 2 | 0.718 |
| 10 | 2.59374 | 0.124 |
| 100 | 2.70481 | 0.0135 |
| 1000 | 2.71692 | 0.00136 |
| 10⁶ | 2.7182805 | 0.0000014 |
18.01SC 的 APR：5% 按月複利一年等於單利 5.116%，按日 5.127%；10% 按月 10.471%、每兩週（\(n = 26\)）10.496%、按日 10.516%。連續複利的上限是 \(e^r - 1\)：5.127%、10.517%。結算再頻繁也只差小數點後兩位，複利和單利的差別才明顯。
12為什麼叫「自然」對數 Lec 7 9:55
Jerison 用經濟學說明。「股價跌了 1 元」本身沒有意義：原價 1 元和 100 元差很多。重要的是比例。10:58 他上課前查到倫敦股市當天跌 27.9 點，指數是 6432，比例是 \(\frac{27.9}{6432}\approx0.43\%\)。11:29
把「一天」想成很小的時間，比例變化率就是 \(\frac{p'}{p}\)，也就是 \((\ln p)'\)：對數微分的公式本身就有實際意義。12:03 經濟學家在價格大幅波動時都用 log 價格，而且用自然對數：\(\log_{10}\) 或 \(\log_2\) 會多出 \(\ln10\)、\(\ln2\) 這種因子，把式子弄亂。12:33 凡是跟比例有關的東西，都會碰到對數。
背景補充：換底公式（Notes X）
任何底都能換成 \(e\)：\(a^x = e^{x\ln a}\)，\(\log_ax = \frac{\ln x}{\ln a}\)（例如 \(\log_{10}x = \frac{\ln x}{\ln10}\)）。所以 \(\frac{d}{dx}\log_{10}x = \frac{1}{x\ln10}\)，那個 \(\frac1{\ln10}\) 就是 Jerison 說的「多出來的因子」。Notes X 的口訣：要消掉 log 就取指數，要消掉指數就取 log。另外注意：純數學書常用 \(\log x\) 表示自然對數，理工科用 \(\ln x\)，資訊科學有時 \(\log x\) 是 \(\log_2x\)。
13雙曲函數
2007 年的錄影沒有講這一段；2006 講義（Lecture 7 開頭）和 18.01SC session 20 有。定義是 \(e^x\) 和 \(e^{-x}\) 的組合：
$$\sinh x = \frac{e^x - e^{-x}}{2},\qquad\cosh x = \frac{e^x + e^{-x}}{2}$$2006 講義註明唸作 “sinsh”、“cosh”。微分只要用 \((e^{-x})' = -e^{-x}\)：
$$(\sinh x)' = \frac{e^x + e^{-x}}{2} = \cosh x,\qquad(\cosh x)' = \sinh x$$注意第二條沒有負號，和 \((\cos x)' = -\sin x\) 不同。
令 \(u = \cosh x\)、\(v = \sinh x\)，點 \((u, v)\) 落在雙曲線 \(u^2 - v^2 = 1\) 上；\((\cos x, \sin x)\) 則落在圓 \(u^2 + v^2 = 1\) 上。三角函數是「圓函數」，這組是「雙曲函數」。
它們在本頁的位置：\(\tanh x = \frac{\sinh x}{\cosh x}\) 是常見的 activation function；\(\cosh\) 是兩端固定的鏈條垂下來的形狀（懸鏈線）。自我測驗第 6、7 題是 18.01SC 的兩道例題。
14第一單元複習 Lec 7 13:41
Lec 7 後半是第一次考試前的複習。Jerison 把第一單元整理成兩類公式：
| 一般公式（怎麼組合） | 特定公式（要背的函數） |
|---|---|
| 和、常數倍、乘積、商、chain rule；隱函數微分（包括反函數、對數微分） | \(x^r\)、\(\sin x\)、\(\cos x\)、\(\tan x\)、\(\sec x\)、\(e^x\)、\(\ln x\)、\(\arctan x\)、\(\arcsin x\) |
「有一堆特定公式、一堆一般公式，把它們組合起來，幾乎什麼都能產生。」18:00
chain rule 再補兩點 19:17
- 為什麼倍數相乘：\(y = 10x + b\)、\(x = 5t + a\)。\(y\) 變化是 \(x\) 的 10 倍、\(x\) 是 \(t\) 的 5 倍，代進去 \(y = 50t + 10a + b\)，常數不重要，變化率是 50。19:54
- 商規則可以不用背：\(\left(\frac1v\right)' = (v^{-1})' = -v^{-2}v'\)；\(\frac uv = uv^{-1}\) 用乘積規則就出來了，順便解釋了商規則裡那個負號。Jerison 說商規則是「最麻煩的規則」，他自己都這樣算。21:39
由易到難的例子
- \(\sec x = (\cos x)^{-1}\)：\(-(\cos x)^{-2}(-\sin x) = \frac{\sin x}{\cos^2x} = \sec x\tan x\)。後一種寫法是課本慣用的樣子，要認得。24:16
- \(\ln(\sec x)\)：\(\frac{(\sec x)'}{\sec x} = \frac{\sec x\tan x}{\sec x} = \tan x\)。Jerison 補充：Napier 發明對數比指數還早，就是為了算這類函數，用在航海時把三角函數的乘法變成加法。26:26
- \((x^{10} + 8x)^6\)：不要展開成六次方，用 chain rule：\(6(x^{10}+8x)^5(10x^9 + 8)\)。28:38 學生問答案要化簡到什麼程度，Jerison 說考試時任何正確的形式都可以，除非題目要求化簡。30:46
- Lec 1 開頭承諾過要會微分的 \(e^{x\arctan x}\)：chain rule 再乘積規則，\(e^{x\arctan x}\left(\arctan x + \frac{x}{1+x^2}\right)\)。一題用了四條公式。32:51
把導數的定義倒過來讀 39:58
知道某個函數的導數，就能反過來算某些極限。例如
$$\lim_{u\to0}\frac{e^u - 1}{u} = \frac{d}{du}e^u\Big|_{u=0} = e^0 = 1$$認出「這是一個差商」是關鍵技巧，第 11 節的 \((1+\frac1n)^n\) 就是同一招。40:59
從 y 的圖畫 y′ 的圖 45:25
Jerison 畫了一條一直往上、但越來越平的曲線：每一點切線斜率都正，所以 \(y'\) 都在橫軸上方；越往左越陡，所以 \(y'\) 越往左越高；往右越來越平，所以 \(y'\) 往右趨近 0。這條曲線就是 \(\ln x\)，下面那條就是 \(\frac1x\)。他強調：導數的圖不必長得像原函數，它記錄的是每一點的斜率。46:59
判斷可不可微的方法只有一個：看左右兩邊的切線是否一樣（第 01 頁）。44:23
15在 deep generative models 哪裡用到
| 這一頁 | 在 DGM 的樣子 |
|---|---|
| \(\ln\) 把乘積變成和 | 資料的 likelihood 是很多個機率相乘 \(\prod_i p(x_i)\)，取 log 變成 \(\sum_i\log p(x_i)\)，每一項分開微分。訓練時最大化的幾乎都是 log-likelihood（或它的下界，例如 VAE 的 ELBO） |
| \((\ln u)' = \frac{u'}{u}\) | score function 就是 log 密度的導數：\(\frac{d}{dx}\log p(x) = \frac{p'(x)}{p(x)}\)，「密度往哪邊增加，以比例計」。Gaussian \(p\propto e^{-(x-\mu)^2/2\sigma^2}\) 的 score 是 \(-\frac{x-\mu}{\sigma^2}\)：取 log 後指數掉下來，只剩一個二次式的導數。score-based model 和 diffusion 學的就是它 |
| 反函數的導數 \(\frac1{f'}\) | normalizing flow 用一個可逆的變換 \(y = T(x)\) 把簡單分佈變成複雜分佈。密度要乘上 \(\left|\frac{dx}{dy}\right| = \frac{1}{|T'(x)|}\)，取 log 是 \(\log p_Y(y) = \log p_X(x) - \log|T'(x)|\)，多變數時是 log-det-Jacobian。見補充課 C §03 |
| \(e^x\) 和 \(\ln(1+e^x)\) | \(e^x > 0\)，所以網路常輸出 \(\log\sigma\) 再取指數，保證標準差是正的；\(\frac{d}{ds}e^s = e^s\) 讓梯度很好算。softplus \(\ln(1+e^x)\) 的導數是 \(\frac{e^x}{1+e^x}\)，正好是 sigmoid；log-sum-exp \(\ln\sum_ie^{x_i}\) 對 \(x_j\) 的導數是 softmax |
| \((e^{kt})' = ke^{kt}\) | 「變化率和自己成正比」的解就是指數，這是最簡單的 ODE，見補充課 B §03。diffusion 的 noise schedule 常寫成 \(\bar\alpha_t = \exp\left(-\int_0^t\beta(s)\,ds\right)\) |
| \((1+\frac rn)^n\to e^r\) | 把連續時間切成 \(n\) 小步、每步乘 \((1 + \frac rn)\)，就是 Euler 法；步數越多越接近連續的 \(e^r\)，誤差和 \(\frac1n\) 成正比。diffusion 的 sampler 把 ODE 切成步驟時是同一回事 |
常見誤解
自我測驗
1. 微分 \(\sqrt{x^2+1}\)、\(e^{-x^2}\)、\(\ln(x^2+1)\)、\(\arctan(2x)\)。
2. （18.01SC 例題）用隱函數微分求 \(x^2 + 4y^2 = 1\) 的 \(y''\)，盡量化簡。
3. （18.01SC 例題）\(y^2 - x^2 = 1\) 的 \(y'\) 是什麼？在 \(y = -1\) 和 \(x = 1\) 的點斜率各是多少？
4. （18.01SC 例題）把 \(\sqrt x\) 當成 \(f(x) = x^2\)（\(x > 0\)）的反函數，用隱函數微分求它的導數。
5. 用對數微分求 \(x^{\sin x}\) 的導數。
6. （18.01SC 例題）用 \(\sinh\)、\(\cosh\) 的定義，寫出 \(\sinh(x+y)\) 和 \(\cosh(x+y)\)。
7. （18.01SC 例題）解出 \(x\)：\(\frac{e^x + e^{-x}}{e^x - e^{-x}} = y\)。（提示：令 \(u = e^x\)）
8. 用「把定義倒過來讀」算 \(\lim_{h\to0}\frac{2^h - 1}{h}\) 和 \(\lim_{h\to0}\frac{\ln(1+3h)}{h}\)。
9. \(\log_2x\) 的導數是什麼？為什麼 DGM 論文幾乎都用 \(\ln\)（或寫成 \(\log\) 但意思是 \(\ln\)）？
延伸閱讀
- 18.01 Fall 2006 講義 Lecture 5（隱函數微分、arctan、反函數的圖）、Lecture 6（\(M(a)\)、割線論證、\(\ln\)、對數微分、\(x^x\)、\((1+\frac1k)^k\)）、Lecture 7（雙曲函數、第一次考試複習）：離線包
lec5.pdf–lec7.pdf。 - 18.01 Notes X「Exponentials and Logarithms」：指數和對數的代數、換底、星等和 pH 等應用（
xxpnentl_lgrthm.pdf）。 - 18.01SC session 13–20 的 worked examples（離線包
MIT18_01SCF10_ex13prb.pdf–ex17prb.pdf、ex20prb.pdf）：自我測驗 2–4、6、7 題，以及 Demo 4 的 APR 數字。