スムージング(平滑化)の話 2:最小二乗法
このnoteでは、スムージングの方法の 1 種として、最小二乗法についてお話します。「最小二乗法は、スムージングではなく回帰の手法ではないか?」という方もいらっしゃるでしょうが、ここでは広義のスムージングと捉えて説明していきます。
スムージング(平滑化)の話
1:概論
2:最小二乗法 ← この記事!
3:5 点移動平均法
4:グレヴィルの方法
5:まとめ
最小二乗法のアイディア
まず最小二乗法のアイディアについて、お話していきましょう。
最小二乗法では、真値が従う方程式
が存在すると考えます。そして、この方程式と測定値の2乗和
が最小となるように、パラメータを定めます。
解析的には、
となるようなパラメータを見つけます。
エクセルのソルバー・アドインを用いると、数値的に2乗和 Q の最小値を与えるようなパラメータ a を簡単に見つけることができます。
真値が従う方程式として、最も基本的でよく用いられるのは、直線の方程式
です。今回もこの形で測定値をスムージングすることとしましょう。
スムージング:最小二乗法
ここからは具体的に最小二乗法を実行してみましょう。ここではエクセルのソルバー・アドインを使用し、数値的にパラメータを定めることとします。手順は以下の通りです。
手順:
1. 真値の従う方程式の形を決める
2. パラメータの初期値を決める。
3. 差の 2 乗和 Q を求める。
4. ソルバーを用いて、差の 2 乗和 Q を最小にするようなパラメータを見つける。
それぞれの手順について、見ていきましょう。
▶︎手順 1. 真値の従う方程式の形を決める。
真値の従う方程式は
の形であれば、なんでもよいです。ここでは、直線
の形を採用します。
▶︎手順 2. パラメータの初期値を決める。
適当な初期値を定めます。ここでは a, b ともに 1 としました。
▶︎手順 3. 差の 2 乗和 Q を求める。
写真の丸を付けたところのように計算し、差の 2 乗和 Q を計算します。
▶︎手順 4. ソルバーを用いて、差の 2 乗和 Q を最小にするようなパラメータを見つける。
写真のように、ソルバー・アドインを用いて、Q を最小にするようなパラメータ a, b を求めます。
▶︎スムージングの結果
以上の手順で、以下のような直線が得られました!
次回は、5点移動平均法についてお話します。
―――――
ありがとうございました!
スキ・フォロー、よろしくお願いしますm(_ _)m
この記事が気に入ったらサポートをしてみませんか?