線形回帰は、観測値などのデータの集まりから関係を見つけ出し、その関係を用いて新しいデータの値を予測する統計的な手法です。線形回帰では、データが直線上に近似的に配置されるような関係を探します。

例えば、以下のデータ点の集まりを見て$${x}$$と$${y}$$の間には直線的な関係があるのがわかります。

しかし、このような関係を説明できる直線はたくさんあるようにも見えます。

そこで、データを直線的な関係で最もよく説明するためのモデルが線形回帰モデルとなります。なお、線形回帰をディープラーニングで実装することもできます。そちらに興味がある方は、こちらの記事を参照してください。

しかし、「最もよく説明する」とはどういうことでしょうか。

この記事では、ディープラーニングを使わずに線形回帰モデルを解く方法を解説します。