MATLAB,Python,Scilab,Julia比較 第4章 その31【連鎖律の前準備⑤】

• 逆数の微分公式(済)
• 積の微分公式(済)
• 商の微分公式(済)
• シグモイド関数の導関数
• 多変量関数の連鎖律
• 勾配降下法

\(
\displaystyle\bigg\{\frac{1}{f(x)}\bigg\}^\prime=-\frac{f\prime(x)}{\{f(x)\}^2}
\)

\(
\{f(x)g(x)\}\prime=g\prime(x)f(x)+f\prime(x)g(x)
\)

\(
\displaystyle\bigg\{\frac{g(x)}{f(x)}\bigg\}^\prime=\frac{g\prime(x)f(x)-f\prime(x)g(x)}{\{f(x)\}^2}
\)

\(
\displaystyle\sigma\prime=\bigg\{\frac{1}{1+e^{-1}}\bigg\}^\prime=\sigma(x)\{1-\sigma(x)\}
\)

\(
\begin{eqnarray}
\displaystyle\bigg\{\frac{1}{1+e^{-1}}\bigg\}^\prime&=&\frac{1\prime\cdot(1+e^{-x})-(1+e^{-x})\prime\cdot1}{(1+e^{-x})^2}\\
\displaystyle&=&\frac{-1\prime-(e^{-x})\prime}{(1+e^{-x})^2}\\
\displaystyle&=&\frac{e^{-x}}{(1+e^{-x})^2}\\
\displaystyle&=&\frac{e^{-x}}{1+e^{-x}}\cdot\frac{1}{1+e^{-x}}\\
\displaystyle&=&\frac{(1+e^{-x})-1}{1+e^{-x}}\cdot\frac{1}{1+e^{-x}}\dots(分子側で1を足して1を引く)\\
\displaystyle&=&\bigg(1-\frac{1}{1+e^{-x}}\bigg)\frac{1}{1+e^{-x}}\\
\displaystyle&=&\sigma(x)\{1-\sigma(x)\}
\end{eqnarray}
\)