【入門】決定境界直線の安定化【数値計算】

はじめに

の、

MATLAB,Python,Scilab,Julia比較第4章その14【決定境界直線の安定化①】
MATLAB,Python,Scilab,Julia比較第4章その15【決定境界直線の安定化②】
MATLAB,Python,Scilab,Julia比較第4章その16【決定境界直線の安定化③】

を書き直したもの。

形式ニューロンの決定境界直線がギリギリのところにある問題の対策。
どうあるべきか、どにように対策していくかの話。

前回までで、形式ニューロンのプログラム化はしたが、
決定境界直線がギリギリのラインにいて、なんか微妙な感じだった。

実は、結果としては想定通り。
これに対して対策していくのが今後の方針となる。

以下の流れで説明することを想定。

一つ一つはそれほど難しくない。
むしろ感覚とも合うような話になると思う。

まずは、「どこに決定境界直線があると良さげか？」という点。

前回の形式ニューロンのプログラム結果だと、
Trueになる値と重なってしまっている。
これがもうちょい内側に居ればよさそう。
図で示すと以下になる。

この図の赤点線のところに来ると良い感じ。

前回の学習結果でもANDゲートを実現しているが、
やはり、True,Falseの結果が得られる中間あたりの方が分類としては安定してると言えそう。

と言う感じで、まずはどうあるべきかってところの確認ができたので、
あとは、
なぜギリギリの決定境界直線になってしまったのか。
どうすればいい感じの決定境界直線できるのか。
というところが説明できればOKだろう。

そもそもなんで決定境界直線がギリギリになるのか？
決定境界直線をいい感じのところに持っていくには？
実際に使用する活性化関数は何が良いか？