見出し画像

スムージング(平滑化)の話 2:最小二乗法

このnoteでは、スムージングの方法の 1 種として、最小二乗法についてお話します。「最小二乗法は、スムージングではなく回帰の手法ではないか?」という方もいらっしゃるでしょうが、ここでは広義のスムージングと捉えて説明していきます。

スムージング(平滑化)の話
1:概論
2:最小二乗法 ← この記事!
3:5 点移動平均法
4:グレヴィルの方法
5:まとめ

最小二乗法のアイディア

まず最小二乗法のアイディアについて、お話していきましょう。
最小二乗法では、真値が従う方程式

画像1

が存在すると考えます。そして、この方程式と測定値の2乗和

画像2

が最小となるように、パラメータを定めます。
解析的には、

画像3

となるようなパラメータを見つけます。

エクセルのソルバー・アドインを用いると、数値的に2乗和 Q の最小値を与えるようなパラメータ a を簡単に見つけることができます。

真値が従う方程式として、最も基本的でよく用いられるのは、直線の方程式

画像4

です。今回もこの形で測定値をスムージングすることとしましょう。

スムージング:最小二乗法

ここからは具体的に最小二乗法を実行してみましょう。ここではエクセルのソルバー・アドインを使用し、数値的にパラメータを定めることとします。手順は以下の通りです。

手順:
1. 真値の従う方程式の形を決める
2. パラメータの初期値を決める。
3. 差の 2 乗和 Q を求める。
4. ソルバーを用いて、差の 2 乗和 Q を最小にするようなパラメータを見つける。

それぞれの手順について、見ていきましょう。

 ▶︎手順 1. 真値の従う方程式の形を決める。

真値の従う方程式は

画像5

の形であれば、なんでもよいです。ここでは、直線

画像6

の形を採用します。

 ▶︎手順 2. パラメータの初期値を決める。

適当な初期値を定めます。ここでは a, b ともに 1 としました。

初期値設定

 ▶︎手順 3. 差の 2 乗和 Q を求める。

写真の丸を付けたところのように計算し、差の 2 乗和 Q を計算します。

差の2乗

 ▶︎手順 4. ソルバーを用いて、差の 2 乗和 Q を最小にするようなパラメータを見つける。

写真のように、ソルバー・アドインを用いて、Q を最小にするようなパラメータ a, b を求めます。

ソルバー

 ▶︎スムージングの結果

以上の手順で、以下のような直線が得られました!

最小二乗法

次回は、5点移動平均法についてお話します。

―――――
ありがとうございました!
スキ・フォロー、よろしくお願いしますm(_ _)m

この記事が気に入ったらサポートをしてみませんか?