MATLAB、Python、Scilab、Julia比較ページはこちら
https://www.simulationroom999.com/blog/comparison-of-matlab-python-scilab/
はじめに
の、
MATLAB,Python,Scilab,Julia比較 第2章 その48【正規方程式①】
MATLAB,Python,Scilab,Julia比較 第2章 その49【正規方程式②】
MATLAB,Python,Scilab,Julia比較 第2章 その50【正規方程式③】
MATLAB,Python,Scilab,Julia比較 第2章 その51【正規方程式④】
を書き直したもの。
正規方程式を導出するまでの説明。
ままでの知識を総動員して正規方程式を導出する。
ロードマップ【再掲】
今回は方程式導出の話。
ロードマップを確認しておこう。
まさに山場となる。
いままでの知識の総動員
正規方程式を導出するのにいままでの知識を総動員する。
具体的に以下。
- 二次形式
- 二次形式の微分
- 対称行列
- グラム行列
- 二乗和誤差
これはロードマップを見てもわかるだろう。
というわけで、それぞれの数式を再掲する。
二次形式の行列表現(\(A\)は対称行列)
\(
x^TAx
\)
二次形式の微分(\(A\)は対称行列)
\(
\nabla x^T Ax=2Ax
\)
グラム行列(必ず対称行列になる)
\(
G=A^TA
\)
二乗和誤差の一般化(多変量化)
\(
L(x_1,\dots,x_n)=(A\vec{x}-\vec{b})^2
\)
知識の組み合わせ
これら知識の組み合わせだが、流れとしては以下になる。
- 一般化した二乗和誤差の数式を変形
- 上記式の中にグラム行列の存在とそれに伴う二次形式であることの保証
- 二次形式の偏導関数を元に最小化問題化
- 正規方程式の導出
- 実際にいろいろな回帰分析をやってみる。
それぞれはそれほど複雑な話は無い。(はず)
複雑な部分は事前に片付けている。(はず)
コメント