形式ニューロン

シグモイド関数の定義について説明。 特に理屈はなく、そういうものが存在するって程度。 カスタムヘヴィサイドとシグモイドの比較。 総当たり法では効能の差は出ないが、誤差逆伝播法を使い始めるとシグモイドじゃないと都合が悪い。

決定境界直線の一般的な安定化方法がある。 シグモイド関数を使用する方法。 ヘヴィサイド関数のように0,1を表現することを目的とした関数だが、シグモイド関数は全域で勾配がある。