ジャックナイフ法とは

ひとことで言えば
推定量のバイアスを軽減する方法の1つ

標本内のサンプル$${X_1, x_2, /cdots X_n}$$から
サンプルを1個減らした$${n -1}$$個のサンプルで推定量を計算し
その推定量の平均をとるという方法である

これだとなんだかよくわからないので
推定量のバイアスとはなんであったか、から以下簡単に説明する

推定量のバイアスとは

推定量とパラメーターの平均二乗誤差は
期待値と分散の関係式$${E[X^2] = E[X]^2 + V[X]}$$を利用すると

$$
\begin{aligned}
E_{\theta}[(\hat{\theta} - \theta)^2]
& = (E_{\theta}[\hat{\theta} - \theta])^2 + V_{\theta}[\hat{\theta}]\\
\end{aligned}
$$

ここで

$${E_{\theta}[\hat{\theta} - \theta]}$$はバイアス項と呼ばれ
$${V_{\theta}[\hat{\theta}]}$$は観測値の分散なのでバリアンス項と呼ばれた

推定量は基本的にバイアスを0にする不偏推定量が用いられて
不偏である方が好ましい場合が多いから、不偏分散などが用いられた

ではバイアス項が0にならないときはどうしたら良いのか
このときの推定量のバイアスを補正する方法の1つにジャックナイフ法がある

ジャックナイフ推定量の式

ジャックナイフ法を用いて推定量を補正したものを
ジャックナイフ推定量という

具体的に何をするかというと
標本内のサンプル$${X_1, x_2, /cdots X_n}$$から
標本平均などの推定量を計算していたら
サンプルを1個減らした$${n -1}$$個のサンプルで推定量を計算し
その推定量の平均をとるという方法である

これを数式に表すと

$$
\hat{\theta}_{(.)}  := \frac{1}{n} \sum_{i} \hat{\theta}_{(i)}
$$

$${\hat{\theta}_{(i)}}$$は$${n-1}$$個のサンプルから
計算されるので
$${\hat{\theta}}$$のバイアスの量は

と計算できる

最終的に、ジャックナイフ推定量は

$$
\begin{aligned}
 \hat{\theta}_{jack} &= \hat{\theta} - bias \\
& = \hat{\theta} - (n-1)(\hat{\theta}_{(.)} - \hat{\theta})\\
& = n \hat{\theta} - (n-1) \hat{\theta}_{(.)}
\end{aligned}
$$

それぞれの推定量の分母を払った形で推定量が計算されている
と考えれば覚えやすい