バックナンバーはこちら。
https://www.simulationroom999.com/blog/compare-matlabpythonscilabjulia4-backnumber/
はじめに
分類問題からスタートし、形式ニューロン、単純パーセプトロン、多層パーセプトロン、最適化アルゴリズムを実施してきた。
これらのまとめ。
登場人物
博識フクロウのフクさん

イラストACにて公開の「kino_k」さんのイラストを使用しています。
https://www.ac-illust.com/main/profile.php?id=iKciwKA9&area=1
エンジニア歴8年の太郎くん

イラストACにて公開の「しのみ」さんのイラストを使用しています。
https://www.ac-illust.com/main/profile.php?id=uCKphAW2&area=1
Adamならではの結果

とりあえず、直近の課題は全部片づけたと思うのだけど、
これで終了だよね?

そうだね。
まぁ、ネタは探せはまだいろいろあるだろうが、
一旦ここで終了で良いだろう。

(まだネタがあるのか・・・。)

ちなみにどういうネタがありそうなの?

分類自体が2値分類だから、3値以上の多値分類にするとか、
畳み込みニューラルネットワークに手を出すとか、
いろいろだな。

(ここで終わってマジ良かった・・・)
感想とか

でもまぁ、分類の基礎っぽいところはなんとなくわかったって感じかな。
普通に考えると総当たりでちょうど良い分類を探す。
でも、それだと時間がかかりすぎるから誤差逆伝播のような手法が必要になる。
直線では分類できないパターンになったら多層にして表現力を引き上げる。
学習率が固定だと大域最適解に至れないパターンがあるがらいろいろな最適化アルゴリズムが生まれる。
って感じだね。

そうだね。
細かい理屈も重要だが、そういった大雑把な動機の流れを知っていることも重要だ。
細かいところはあとからでも調べられるしね。

確かに、全体の流れみたいなのを知らないとどう調べたら良いかわからないし、
そもそも調べるとという発想にもならなそうだね。

今回は多層パーセプトロンこともっとも原始的なニューラルネットワークをやったわけだが、
これは昨今のディープラーニングの基礎部分に相当する。
このシリーズの話を知ってるだけで、現在のディープラーニングが何をやってそうかとかはある程度推測しやすくなるかもしれない。

まぁ、学習と推論があって、学習の方は重みとバイアスをどう決定するかってプロセス自体は一緒な気はするもんね。

そうだね。
そのプロセスさえ認識できていればちょっと踏み込んだ調査もやりやすくはなるだろう。
次の章

で、次の章は何やるとか決めてるの?

何やりたい?

とくに思いつかんな・・・。

まぁ、直近の困りごとをベースに何か考えておこう(中の人が)
まとめ

まとめだよ。
- 分類問題を扱って第4章終了。
- 最も原始的なニューラルネットワークをやったことでディープラーニングの基礎部分は把握できたかもしれない。
- 次の章はこれから考える。
バックナンバーはこちら。
Pythonで動かして学ぶ!あたらしい線形代数の教科書
ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装
ゼロからはじめるPID制御
OpenCVによる画像処理入門
恋する統計学[回帰分析入門(多変量解析1)] 恋する統計学[記述統計入門]
Pythonによる制御工学入門
理工系のための数学入門 ―微分方程式・ラプラス変換・フーリエ解析
コメント