バックナンバーはこちら。
https://www.simulationroom999.com/blog/compare-matlabpythonscilabjulia2-backnumber/
はじめに
前回まで、1次関数最小二乗法をやってきたが、実は別の数式の導出も可能。
そこらへんの話を始める。
登場人物
博識フクロウのフクさん

イラストACにて公開の「kino_k」さんのイラストを使用しています。
https://www.ac-illust.com/main/profile.php?id=iKciwKA9&area=1
エンジニア歴8年の太郎くん

イラストACにて公開の「しのみ」さんのイラストを使用しています。
https://www.ac-illust.com/main/profile.php?id=uCKphAW2&area=1
1次関数最小二乗法の別の算出方法

前回までで、さんざん1次関数最小二乗法をやったわけだが・・・。

またなんか変なことを言い出しそうだな・・・。

変なことじゃない。
別の数式をもって1次関数最小二乗法を実現するのがあるんで、
それの説明をしようかと思って。

いやいやいやいや!
十分変なこと言い出してるよ!!!

簡単に言うと、
「平均値、分散、共分散を利用した式」
だな。

平均値、分散、共分散って確率とか分布とかで使うやつ?

そうそう。
平均値、分散、共分散で1次関数最小二乗法が実現できるのか?

そんなので求まるの?

最小二乗法って、
複数のプロットのど真ん中をぶち抜いていく感じの線を引くじゃん?

荒っぽい言い方だけど、確かにそんな感じはするね。

あれは軸の置き方を変えると平均を求めているのと一緒と言える。
そして、その軸の置き方は分散具合と共分散に決まると仮定すると・・・。

細かいところは分からんけど、平均を求めてる感は確かにある!!

そこらへんをアイデアとして数式を求めるって感じだな。

まぁ未だに何言ってるかわからんけど、
雰囲気だけはわかってきた。

まずは雰囲気でとらえることは大事だな。
その後に細かいところを徐々に詰めていけばOKだ。

(「細かいところを徐々に詰めていけば」が大変なんだけどな・・・)
今後の流れ

で、どういう手順でやっていくの?
どうぜ一撃で終わる話じゃないんでしょ?

そうだね。
以下の手順で説明しようと思う。
- 1次関数最小二乗法の途中過程の連立方程式の確認
- 上記方程式を見た際の平均値、分散、共分散の関連性の雰囲気
- 総和、平均値、分散、共分散の定義及び変形式の確認
- 上記を元に1次関数最小二乗法の連立方程式を解き直す
- 導出した数式で、係数算出のプログラムを書いてみる

結構ごちゃごちゃしてるなぁ。
最後は恒例のプログラムの確認だから、挙動見て最終確認できるってのはありがたいけど。

一つ一つは結構シンプルな話なはずだ。
次回から各個撃破していこう。
まとめ

まとめだよ。
- 1次関数最小二乗法の別の算出方法がある。
- 平均、分散、共分散を利用したもの。
- 上記の内容を一個ずつ説明していく予定。
バックナンバーはこちら。
コメント