バックナンバーはこちら。
https://www.simulationroom999.com/blog/compare-matlabpythonscilabjulia2-backnumber/
はじめに
平均、分散、共分散を用いた1次関数最小二乗法の係数算出について。
今回は、以下を実施。
- 1次関数最小二乗法の途中過程の連立方程式の確認
- 上記方程式を見た際の平均値、分散、共分散の関連性の雰囲気
登場人物
博識フクロウのフクさん

イラストACにて公開の「kino_k」さんのイラストを使用しています。
https://www.ac-illust.com/main/profile.php?id=iKciwKA9&area=1
エンジニア歴8年の太郎くん

イラストACにて公開の「しのみ」さんのイラストを使用しています。
https://www.ac-illust.com/main/profile.php?id=uCKphAW2&area=1
【再掲】1次関数最小二乗法の途中過程の連立方程式

まずは、以前求めた連立方程式を再掲しておこう。
\(
\begin{eqnarray}
\displaystyle 2a\sum x_i^2 + 2b\sum x_i &=& 2\sum x_i y_i \\
\displaystyle 2a\sum x_i + 2b\sum 1 &=& 2\sum y_i
\end{eqnarray}
\)

そういや、こういう途中式あったね。

そして、見てわかると思うけど、全体を2で割れる。

確かに。
\(
\begin{eqnarray}
\displaystyle a\sum x_i^2 + b\sum x_i &=& \sum x_i y_i \\
\displaystyle a\sum x_i + b\sum 1 &=& \sum y_i
\end{eqnarray}
\)
上記方程式を見た際の平均値、分散、共分散の関連性の雰囲気

この連立方程式に対しての所感を書いていこう。
- 全体を\(1/n\)したら、それぞれの要素の平均値が求まる。
- 特に\(\displaystyle b\sum 1 \)に関しては\(b\)が求まりそう。
- bが求まれば、連立方程式なわけだから、代入して解き切ってしまえば証明終了なはず。
- \(\displaystyle \sum x_i y_i \)は共分散の変形で解けそう。
- \(\displaystyle a\sum x_i^2 + b\sum x_i \)は分散の変形で解けそう。

なんか、「解けそう」が連発してて、
本当にそうなの?って思っちゃう。

まぁあくまで仮説って段階だな。
これが本当かについては実際に解いてみて確認ってことになる。

なるほど。
まずは仮説で大まかな当たりをつけるってことか。

となると、途中で分散、共分散の変形で解けそうとかあるから、
この変形ってのも把握しておく必要があるのか。

それが次でやることの内容そのものだね。

確かに、実施手順の中にそういうのがあったね。
まとめ

まとめだよ。
- 1次関数最小二乗法の途中過程の連立方程式を再確認。
- 平均値、分散、共分散の関連性の雰囲気で把握。
- これを仮説としていろいろ確認していく。
バックナンバーはこちら。
コメント