Sorry, you have Javascript Disabled! To see this page as it is meant to appear, please enable your Javascript!

【入門】逆伝播②【数値計算】

数値計算

【入門】逆伝播②【数値計算】

2024.04.16

MATLAB、Python、Scilab、Julia比較ページはこちら
https://www.simulationroom999.com/blog/comparison-of-matlab-python-scilab/

目次

はじめに
【再掲】逆伝播を想定した単純パーセプトロンの構成
誤差関数の位置づけ
誤差関数
誤差関数の偏導関数
活性化関数の位置づけ
活性化関数の導関数
シグモイド関数の偏導関数
次のページへ

はじめに

の、

MATLAB,Python,Scilab,Julia比較第4章その53【逆伝播④】
MATLAB,Python,Scilab,Julia比較第4章その54【逆伝播⑤】
MATLAB,Python,Scilab,Julia比較第4章その55【逆伝播⑥】
MATLAB,Python,Scilab,Julia比較第4章その56【逆伝播⑦】

を書き直したもの。

単純パーセプトロンに対する逆伝播についての話。

誤差関数の微分について。
活性化関数の微分について。
入力層の微分について。
バイアスの微分について。

【再掲】逆伝播を想定した単純パーセプトロンの構成

まずは、逆伝播を想定した単純パーセプトロンの構成を再掲。

逆伝播を想定した単純パーセプトロンの構成、誤差関数は二乗和誤差(SSE：Sum of Squared Error)を1/2したものを使用。1/2にしておくと微分時に消えるので便利、x1、x2、×w1、×w2、+b、A、Y、E=1/2∑_{i=1}^n(A-Y)^2

今回は、
誤差関数、活性化関数、入力層、バイアスの各ブロックの微分の話になる。

誤差関数の位置づけ

逆伝播を行う上で、連鎖律を解くわけだが、
基本的にはブロック図上の後ろから解いていく。

逆伝播のブロック図(誤差関数)、W、f()、Z、σ()、A、SSE()、E

ブロック図的には後ろからということになるが、
連鎖律で見ると前からになる。

$\frac{\partial E}{\partial W} = \frac{\partial E}{\partial A} \frac{\partial A}{\partial Z} \frac{\partial Z}{\partial W}$

逆伝播として考えることからも、
誤差関数から考えるのが一般的ということになる。

誤差関数

誤差関数は二乗和誤差を1/2にした、ちょい変形したものを使用する。
これは以前説明したように、微分した際にシンプルな式になるため。

$E = \frac{1}{2} \sum_{i = 1}^{n} ({\hat{y}}_{i} - y_{i})^{2}$

誤差関数の偏導関数

これにAとYを代入したものが以下

$E = \frac{1}{2} \sum_{i = 1}^{n} (A - Y)^{2} = \frac{1}{2} \sum_{i = 1}^{n} (A^{2} - 2 A Y + Y^{2})$

これの偏導関数が以下になる。

$\frac{\partial E}{\partial A} = \frac{1}{2} \sum_{i = 1}^{n} (2 A - 2 Y) = \frac{1}{2} \sum_{i = 1}^{n} (A - Y)$

イヤーな感じの数式見えたと思うが、
やってみたらそれほど複雑ではない。

活性化関数の位置づけ

ブロック図と連鎖律に於ける活性化関数の位置づけを確認

ブロック図上での活性化関数の位置づけ

逆伝播のブロック図(活性化関数)、W、f()、Z、σ()、A、SSE()、E

連鎖律上での活性化関数の位置づけ

$\frac{\partial E}{\partial W} = \frac{\partial E}{\partial A} \frac{\partial A}{\partial Z} \frac{\partial Z}{\partial W}$

ちょうど真ん中になる。

活性化関数の導関数

今回の活性化はシグモイド関数。
つまり、シグモイド関数の導関数が活性化関数の導関数ってことになる。

シグモイド関数の導関数については、以前のここでやった。

わすれているなら復習しておくと良いだろう。

シグモイド関数の偏導関数

シグモイド関数の導関数が分かっているから、偏導関数もほぼ確定するのだが、
一応書き出しておこう。
以下の式になる。

$\frac{\partial A}{\partial Z} = σ^{'} (Z) = σ (Z) 1 - σ (Z)$

シグモイド関数を微分したものは、シグモイド関数で表現できてしまう。

活性化関数の必要な特性として、「微分ができること」というのがあるが、
それは逆伝播を実施するための偏導関数が定義できるかってことになる。

他の活性化関数も基本は微分可能。
中には確率分布関数みたいなものを使って、微分が困難なものもあるが、
その場合は、変分と言う微分の親戚みたいな手法で逆伝播可能な状態にしている。
変分は今回は扱わないので、そういうものがあるって程度で頭の片隅に置いておけばOK。

次のページへ

入力層、バイアスの微分の話。

コメント

タイトルとURLをコピーしました