abstract　モーメントが満たす関係式を紹介し、これを用いて正規分布とPoisson分布の場合にいくつかのモーメントを具体的に求めます。また標準正規分布については、より直接的にモーメントを計算する方法を紹介します。

1　Introduction

確率変数 $${X}$$ の $${k}$$ 乗の期待値 $${m_{k}=\mathbb{E}[X^k]}$$ は $${k}$$ 次モーメントとよばれ、$${X}$$ が従う確率変数の様々な情報を持っています。例えば、1次モーメントは期待値 $${\mathbb{E}[X]}$$ そのものです。分散 $${\mathbb{V}[X]}$$ は1次モーメントと2次モーメントを用いて

$$
\begin{align*}
\mathbb{V}[X] &= \mathbb{E}[X^2] - \mathbb{E}[X]^2
\end{align*}
$$

と表すことができます。これは分散の公式とよばれるものです。

そこでこのnoteでは、正規分布やPoisson分布のモーメントを5次まで求めます。また便利な公式として、モーメント $${m_0,m_1,m_2,\cdots}$$ が満たす関係式を紹介します。

2　モーメントが満たす関係式

確率変数 $${X}$$ の $${k=1,2,3,\cdots}$$ 次モーメント $${m_k=\mathbb{E}[X^k]}$$ が存在する場合に、その値を求める問題を考えましょう。以下では、特にモーメント母関数 $${M_{X}(t)}$$ が存在し、以下のように表すとします。

$$
\begin{align*}
M_{X}(t) &= \exp\left(d(t)\right)
\end{align*}
$$

なお、$${d(t)}$$ はキュムラント母関数とよばれています。このとき、モーメントの間には以下のような関係式が成り立ちます。ただし、$${m_0=\mathbb{E}[1]=1}$$ です。

定理　$${\displaystyle m_k=\sum_{i=0}^{k-1}{}_{k-1}C_{i}d^{(i+1)}(0)m_{k-i-1}}$$

第3節ではこの定理の証明を、第4節ではこの定理の応用を紹介します。

3　証明

モーメントは、モーメント母関数 $${M_{X}(t)}$$ の $${t=0}$$ における微分係数になっているのでした。具体的には以下の通りです。

$$
\begin{align*}
m_{k} &= \frac{d^{k}M_{X}}{dt^{k}}(0)
\end{align*}
$$

つまり、以下の等式を変数 $${k}$$ に関する数学的帰納法で証明すれば十分です。

$$
\begin{align*}
M^{(k)}_{X}(t) &= \sum_{i=0}^{k-1}{}_{k-1}C_{i}d^{(i+1)}(t)M^{(k-i-1)}_{X}(t)
\end{align*}
$$

$${k=1}$$ の場合には直接、モーメント母関数の微分を計算することで示せます。

$$
\begin{align*}
M_{X}'(t) = d'(t)\exp(d(t)) = d'(t)M_{X}(t)
\end{align*}
$$

あとは $${k=j-1}$$ の場合に正しいと仮定して、$${k=j}$$ の場合を示します。

$$
\begin{align*}
&M^{(j)}_{X}(t)\\
&= \left(M^{(j-1)}_{X}(t)\right)'\\
&=  \sum_{i=0}^{j-2}{}_{j-2}C_{i}d^{(i+2)}(t)M^{(j-i-2)}_{X}(t) +  \sum_{i=0}^{j-2}{}_{j-2}C_{i}d^{(i+1)}(t)M^{(j-i-1)}_{X}(t)\\
&=  \sum_{i'=1}^{j-1}{}_{j-2}C_{i'-1}d^{(i'+1)}(t)M^{(j-i'-1)}_{X}(t) +  \sum_{i=0}^{j-2}{}_{j-2}C_{i}d^{(i+1)}(t)M^{(j-i-1)}_{X}(t)\\
&=  \sum_{i=0}^{j-2}\left({}_{j-2}C_{i-1}+{}_{j-2}C_{i}\right)d^{(i+1)}(t)M^{(j-i-1)}_{X}(t)
\end{align*}
$$

あとは、Pascalの三角形の性質として有名な等式 $${{}_{j-2}C_{i-1}+{}_{j-2}C_{i}={}_{j-1}C_{i}}$$ に注意すれば、所望の等式が得られます。

$$
\begin{align*}
M^{(j)}_{X}(t) &= \sum_{i=0}^{j-2}{}_{j-1}C_{i}d^{(i+1)}(t)M^{(j-i-1)}_{X}(t)
\end{align*}
$$

以上で定理を証明できました。

Remark　最後の式変形の5行めで $${{}_{j-2}C_{-1}={}_{j-2}C_{j-1}=0}$$ としました。このように設定してもPascal三角形の性質として有名な等式 $${{}_{j-2}C_{i-1}+{}_{j-2}C_{i}={}_{j-1}C_{i}}$$ は、依然

$$
\begin{align*}
{}_{j-2}C_{-1}+{}_{j-2}C_{0}&=0+1=1={}_{j-1}C_{0}\\
{}_{j-2}C_{j-2}+{}_{j-2}C_{j-1}&=1+0=1={}_{j-1}C_{j-1}\\
\end{align*}
$$

のように成立するため、問題ありません。■

4　応用

第2節で紹介したモーメントが満たす関係式を用いて、正規分布のモーメントとPoisson分布のモーメントを求めてみましょう。

4.1　正規分布の場合

正規分布の場合には、3つのモーメント $${m_{k}, m_{k-1}, m_{k-2}}$$ の間に成り立つ漸化式を導出することができます。導出するための準備として、正規分布のモーメント母関数を掲げます。

補題　正規分布 $${N(\mu,\sigma^2)}$$ のモーメント母関数は $${M_{X}(t)=\displaystyle\exp\left[\mu t+\frac{1}{2}\sigma^2t^2\right]}$$ です。特に、$${d(t)=\displaystyle\mu t+\frac{1}{2}\sigma^2t^2}$$ になります。

証明　実際、以下のように計算できます。

$$
\begin{align*}
&M_{X}(t)\\
&= \mathbb{E}\left[\exp(tX)\right]\\
&= \frac{1}{\sqrt{2\pi\sigma^2}}\int_{-\infty}^{\infty}\exp(tx)\exp\left[-\frac{(x-\mu)^2}{2\sigma^2}\right]dx\\
&= \frac{1}{\sqrt{2\pi\sigma^2}}\int_{-\infty}^{\infty}\exp\left[-\frac{x^2-2(\mu+\sigma^2 t) x+\mu^2}{2\sigma^2}\right]dx\\
&= \frac{1}{\sqrt{2\pi\sigma^2}}\int_{-\infty}^{\infty}\exp\left[-\frac{1}{2\sigma^2}\left\{x-(\mu+\sigma^2 t)\right\}^2\right]dx\times\exp\left[\mu t+\frac{1}{2}\sigma^2t^2\right]\\
&= \exp\left[\mu t+\frac{1}{2}\sigma^2t^2\right]
\end{align*}
$$

5行めに正規分布 $${N(\mu+\sigma^2t, \sigma^2)}$$ の確率密度関数の積分が $${1}$$ に等しいことを用いています。以上で証明できました。■

この結果と第2節で紹介したモーメントが満たす関係式を組み合わてみましょう。すると、正規分布のモーメントには以下のような漸化式が成り立つことがわかります。

定理　正規分布 $${N(\mu, \sigma^2)}$$ の $${k}$$ 次モーメント $${m_k}$$ には以下の漸化式が成り立ちます。

$$
\begin{align*}
m_{k} &=  \mu m_{k-1} + (k-1)\sigma^2m_{k-2}
\end{align*}
$$

特に $${m_0=\mathbb{E}[1]=1, m_1=\mathbb{E}[X]=\mu}$$ です。

証明　$${d(t)=\displaystyle\mu t+\frac{1}{2}\sigma^2t^2}$$ を微分すると、以下のようになります。

$$
\begin{align*}
d'(t) = \mu+\sigma^2 t,\quad d''(t) = \sigma^2\end{align*}
$$

また $${k\geq 3}$$ の場合には $${d^{(k)}(t) = 0}$$ です。このことから、第2節で紹介したモーメントが満たす関係式は $${i=0, 1}$$ の場合しか考える必要がなく

$$
\begin{align*}
m_{k} &= {}_{k-1}C_{0}d'(0)m_{k-1} + {}_{k-1}C_{1}d''(0)m_{k-2}\\
&=  \mu m_{k-1} + (k-1)\sigma^2m_{k-2}\\
\end{align*}
$$

が従います。■

この定理を用いて、正規分布の5次モーメントまでを求めてみましょう。

$$
\begin{align*}
m_{1} &= \mu\\
m_{2} &= \mu^2+\sigma^2\\
m_{3} &= \mu^3+3\mu\sigma^2\\
m_{4} &= \mu^4+6\mu^2\sigma^2+3\sigma^4\\
m_{5} &= \mu^5+10\mu^3\sigma^2+15\mu\sigma^4
\end{align*}
$$

4.2　Poisson分布の場合

Poisson分布の場合には、正規分布とは異なりモーメント間の漸化式を得ることはできませんが、それでも比較的整った形が現れます。準備として、Poisson分布のモーメント母関数を掲げます。

補題　Poisson分布 $${Po(\lambda)}$$ のモーメント母関数は $${M_{X}(t)=\displaystyle\exp\left[\lambda\left(e^t-1\right)\right]}$$ です。特に、$${d(t)=\lambda(e^t-1)}$$ になります。

証明　実際、以下のように計算できます。

$$
\begin{align*}
M_{X}(t) &= \mathbb{E}[\exp(tX)]\\
&= \sum_{x=0}^{\infty}e^{tx}\exp(-\lambda)\frac{\lambda^x}{x!}\\
&= \exp\lambda\sum_{x=0}^{\infty}\frac{(\lambda e^t)^x}{x!}\\
&= \exp(-\lambda)\exp\left(\lambda e^t\right)\\
&= \exp\left[\lambda(e^t-1)\right]
\end{align*}
$$

ここで、3行めから4行めへの式変形では指数関数 $${\exp s}$$ の $${s=0}$$ まわりでのTaylor展開

$$
\begin{align*}
\exp s &= \sum_{x=0}^{\infty}\frac{s^x}{x!}
\end{align*}
$$

に $${s=\lambda e^t}$$ を代入することで得られる等式を用いました。■

この結果と第2節で紹介したモーメントが満たす関係式を組み合わてみましょう。すると、Poisson分布のモーメントには以下のような関係式が成り立つことがわかります。

定理　Poisson分布 $${Po(\lambda)}$$ の $${k}$$ 次モーメント $${m_k}$$ には以下の関係式が成り立ちます。

$$
\begin{align*}
m_{k} &= \lambda\sum_{i=0}^{k-1}{}_{k-1}C_{i}m_{i}
\end{align*}
$$

証明　$${d(t)=\lambda(e^t-1)}$$ を微分すると、どんな正の整数 $${k}$$ に対しても $${d^{(k)}(t)=\lambda e^t}$$ が成り立ちます。これを第2節で紹介したモーメントが満たす関係式に代入すれば、

$$
\begin{align*}
m_{k} &= \lambda\sum_{i=0}^{k-1}{}_{k-1}C_{i}m_{k-i-1}
\end{align*}
$$

が得られます。■

この定理および $${m_{0}=\mathbb{E}[1]=1}$$ を用いて、Poisson分布の5次モーメントまでを求めてみましょう。

$$
\begin{align*}
m_{1} &= \lambda\\
m_{2} &= \lambda^2+\lambda\\
m_{3} &= \lambda^3+3\lambda^2+\lambda\\
m_{4} &= \lambda^4+6\lambda^3+7\lambda^2+\lambda\\
m_{5} &= \lambda^5+10\lambda^4+25\lambda^3+15\lambda^2+\lambda
\end{align*}
$$

Remark　Poisson分布の $${k}$$ 次モーメント $${m_{k}}$$ の式は、Touchard多項式 $${T_{k}(\lambda)}$$ として知られているものに一致します。■

Appendix　標準正規分布のモーメント

4.1節の結果を用いれば、標準正規分布のモーメントを簡単に求めることができます。実際、モーメントの間に成り立つ漸化式は

$$
\begin{align*}
m_{k} &= (k-1)m_{k-2}
\end{align*}
$$

と単純になります。ここに $${m_{0}=1, m_{1}=0}$$ を代入すれば、正の整数 $${k}$$ に対して以下の結果が得られます。

$$
\begin{align*}
m_{k} &= \begin{cases}0&k\text{: 奇数}\\(k-1)!!&k\text{: 偶数}\end{cases}
\end{align*}
$$

ただし標準正規分布の場合には、モーメント母関数と指数関数 $${\exp s}$$ の $${s=0}$$ まわりのTaylor展開から直ちにモーメントを求められることを指摘しておきます。実際、

$$
\begin{align*}
M_{X}(t) &= \exp\left(\frac{1}{2}t^2\right)\\
&= \sum_{x=0}^{\infty}\displaystyle\frac{1}{x!}\left(\frac{1}{2}t^2\right)^x\\
&=  \sum_{x=0}^{\infty}\displaystyle\frac{1}{2^x}\frac{t^{2x}}{x!}
\end{align*}
$$

とモーメント母関数が $${\displaystyle M_{X}(t)=\sum_{k=0}^{\infty}\frac{1}{k!}\mathbb{E}[X^k]t^k}$$ と表せる事実を比較してみましょう。すると、$${k}$$ が奇数の場合には $${k}$$ 次モーメントが $${m_k=0}$$ になることがわかります。また、$${k}$$ が偶数の場合にも

$$
\begin{align*}
m_{k} = \frac{k!}{2^{k/2}(k/2)!} = \frac{k\times(k-1)\times\cdots\times2\times1}{k\times(k-2)\times\cdots\times4\times2} = (k-1)!!
\end{align*}
$$

が得られます。

Acknowledgement

日頃からサポートしていただいている方々、株式会社すうがくぶんかの皆さんに感謝申し上げます。