形式ニューロン

シグモイド関数の定義について説明。特に理屈はなく、そういうものが存在するって程度。カスタムヘヴィサイドとシグモイドの比較。総当たり法では効能の差は出ないが、誤差逆伝播法を使い始めるとシグモイドじゃないと都合が悪い。

決定境界直線の一般的な安定化方法がある。シグモイド関数を使用する方法。ヘヴィサイド関数のように0,1を表現することを目的とした関数だが、シグモイド関数は全域で勾配がある。