数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その93【モーメンタム③】 勾配降下法の動作イメージを確認。 学習率が大きい場合と小さい場合で挙動が変わる。 ちょうど良い学習率を人間の手で探す。 これにより、一般的なパラメータとは異なるハイパーパラメータというカテゴリになる。 2024.06.13 数値計算
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その92【モーメンタム②】 今回改めてまじめに更新式を確認。 勾配降下法の更新式が一番シンプルなので今後の最適化アルゴリズムの更新式を見る際は比較対象になりやすい。 2024.06.12 数値計算
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その91【モーメンタム①】 最適化アルゴリズムを取り扱う。 今回のネットワークだとさほど恩恵はないが知っていて損はない。 まずはモーメンタムから解説&実験をしてい 最初は復習を兼ねて勾配降下法についても確認する。 2024.06.11 数値計算