【入門】多変量多項式回帰分析(関数項)(MATLAB)【数値計算】

MATLAB、Python、Scilab、Julia比較ページはこちら
https://www.simulationroom999.com/blog/comparison-of-matlab-python-scilab/

はじめに
正規方程式、各パラメータ、推定対象の多項式再掲
MATLABコード
処理結果
考察
まとめ

はじめに

の、
MATLAB,Python,Scilab,Julia比較第2章その73【多変量多項式回帰分析(関数項)②】

を書き直したもの。

正規方程式を用いた、多変量多項式回帰分析(関数項あり)について。
今回は、MATLABで演算してみる。

正規方程式、各パラメータ、推定対象の多項式再掲

多変量多項式回帰分析(関数項あり)をMATLABで実現する。
まずは恒例の正規方程式、多変量多項式回帰分析(関数項あり)で想定するパラメータの再掲。

正規方程式

$x = (A^{T} A)^{- 1} A^{T} b$

多変量多項式回帰分析(関数項あり)に於ける各パラメータ

$A = [\begin{matrix} x_{1}^{2} & \cos (6 x_{1}) & y_{1}^{2} & \exp (2 y_{1}) & 1 \\ x_{2}^{2} & \cos (6 x_{2}) & y_{2}^{2} & \exp (2 y_{2}) & 1 \\ ⋮ & ⋮ & ⋮ \\ x_{n}^{2} & \cos (6 x_{n}) & y_{n}^{2} & \exp (2 y_{n}) & 1 \end{matrix}], \vec{x} = [\begin{matrix} α \\ β \\ γ \\ δ \\ ϵ \end{matrix}], \vec{b} = [\begin{matrix} z_{1} \\ z_{2} \\ ⋮ \\ z_{n} \end{matrix}]$

推定対象の多項式

$z = 4 x^{2} - 5 \cos (6 x) + 3 y^{2} + \exp (2 y) + 2$

MATLABコード

MATLABコードは以下になる。

n = 100;

x = rand(n, 1);
y = rand(n, 1);
z = 4*x.^2 - 5*cos(6*x) + 3*y.^2 + exp(2*y) + 2 + rand(n, 1)-0.5;

A=[x.^2  cos(6*x)  y.^2  exp(2*y)  ones(length(x),1)];
b=z;
X=(A'*A)^-1 *A'*b;
disp(X);

scatter3(x, y ,z);
hold on
xp=linspace(0, 1, 10);
yp=linspace(0, 1, 10);

[xpm,ypm]=meshgrid(xp,yp);
mesh( xp, yp, X(1)*xpm.^2 + X(2)*cos(6*xpm) + X(3)*ypm.^2 + X(4)*exp(2*ypm)+X(5));
hold off

処理結果

処理結果は以下。

正規方程式で多変量多項式回帰分析(関数項あり)(MATLAB)、Figure 1

考察

狙い通り動いてるけど、少し誤差が出てる。
サンプル点数を増やすと、当然ながら元の式と同じ係数に近付いていく。
ちなみに10000点だと以下の結果になる。

これだと結構理想値に近い結果になっている。
コードも方もベクトル、行列の定義が変わっただけで処理手順は変化ない。

まとめ

正規方程式による多変量多項式回帰分析(関数項あり)をMATLABで実施。
誤差はあるものの目的の係数の算出はできている。
- サンプル点数を増やせば、理想値に近付く。

MATLAB、Python、Scilab、Julia比較ページはこちら