多層パーセプトロン

多層パーセプトロンの隠れ層のユニット数を増やす。表現力が上がるはず。局所最適解にハマらないというより大域最適解に近い局所最適解が増えるというイメージ。プログラム上の修正点確認。ベクトル、行列演算ができるため修正範囲は極小。

非線形分類をしたが実は問題が発生している。非線形分類が失敗する原因を特定するため決定境界線と誤差関数の推移をモニタ。案の定、局所最適解にハマってる。つまりエポック数を増やしても対策にはならない。隠れ層のユニット数を増やす、最適化アルゴリズムを使用するのが対策案。

非線形分類が失敗する原因を特定するため決定境界線と誤差関数の推移をモニタ。案の定、局所最適解にハマってる。つまりエポック数を増やしても対策にはならない。隠れ層のユニット数を増やす、最適化アルゴリズムを使用するのが対策案。

非線形分類をしたが実は問題が発生している。20%くらいの確率で分類ができない。原因がわかるように誤差関数の推移や決定境界線の推移のアニメーションを見てみる予定。