連鎖律を把握するための知識
連鎖律を把握するために以下の知識が必要。
- 逆数の微分公式
- 積の微分公式
- 商の微分公式
- シグモイド関数の導関数
- 多変量関数の連鎖律
- 勾配降下法
まずはシグモイド関数の導関数を求めるところが中間ゴールになる。
尚、この後の説明は数式まみれになると思うからその点は覚悟が必要。
逆数の微分公式
まず逆数の微分公式。
後ほど出てくる商の微分公式に必要なものになる。
これは、
「とある関数の逆数の微分をするとその関数の二乗分のその関数の微分になり符号が反転する。」
というもの。
(もはや日本語になっていない・・・。)
先に公式を示す。
\(
\displaystyle\bigg\{\frac{1}{f(x)}\bigg\}^\prime=-\frac{f\prime(x)}{\{f(x)\}^2}
\)
意味わからんものから意味わからんものへ変形しているように見えるが、
これは後で利用するものだから覚えておいてくらいしか言えない。
逆数の微分公式の導出
これの導出方法はシンプル。
導関数を定義通り求めればOK。
途中でいい感じに変形していい感じの解釈をする必要はある。
\(
\begin{eqnarray}
\displaystyle\bigg\{\frac{1}{f(x)}\bigg\}^\prime&=&\lim_{h\to0}\frac{\frac{1}{f(x+h)}-\frac{1}{f(x)}}{h}\\
&=&\lim_{h\to0}\frac{f(x)-f(x+h)}{h\cdot f(x)f(x+h)}\\
&=&\lim_{h\to0}-\frac{1}{f(x){\color{red}f(x+h)}}\cdot{\color{red}\frac{f(x+h)-f(x)}{h}}
\end{eqnarray}
\)
ここで、それぞれの赤字に着目し
\(
\displaystyle\lim_{h\to0}\frac{f(x+h)-f(x)}{h}=f\prime(x)
\)
\(
\displaystyle\lim_{h\to0}f(x+h)=f(x)
\)
これを先ほどの式に代入すると先ほどの逆数の微分公式が求まる。
\(
\begin{eqnarray}
\displaystyle\bigg\{\frac{1}{f(x)}\bigg\}^\prime&=&-\frac{1}{f(x)^2}\cdot f\prime(x)\\
&=&-\frac{f\prime(x)}{\{f(x)\}^2}\\
\end{eqnarray}
\)
次のページへ
次のページから「積の微分公式」について
コメント