見出し画像

Adamian―Arovの方法 2つの定常確率過程と最適予測 過去と未来(5)


1.問題の設定
確率空間を$${\left( \Omega ,\mathcal{F},P \right)}$$ とする。$${P}$$について$${X}$$の期待値を$${E(X)}$$とかく。
$${{{L}^{2}}\left( P \right)}$$ を2乗$${P}$$可積分の空間とする。
2つの弱定常確率過程$${\xi \left( t \right),\eta \left( t \right)}$$, $${-\infty <t<\infty }$$ には定常な相関関係があるとする。
すなわち、共分散が時間差にのみ依存して$${E\left( \left( \xi \left( t \right)-E\xi \left( t \right) \right)\overline{\left( \eta \left( s \right)-E\eta \left( s \right) \right)} \right)={{\rho }_{\xi \eta }}\left( t-s \right)}$$
となっているとする。
$${\xi \left( t \right),\eta \left( t \right)}$$の値でつくるヒルベルト空間
$${{{H}_{\xi }}=\underset{-\infty }{\mathop{\overset{\infty }{\mathop{\vee }}\,}}\,\xi \left( t \right)={{\overline{\left\{ \sum\limits_{i=1}^{N}{{{c}_{i}}}\xi \left( {{t}_{i}} \right);-\infty <{{t}_{i}}<\infty \right\}}}^{{{L}^{2}}\left( P \right)}}}$$
$${{{H}_{\eta }}=\underset{-\infty }{\mathop{\overset{\infty }{\mathop{\vee }}\,}}\,\eta \left( t \right)={{\overline{\left\{ \sum\limits_{i=1}^{N}{{{c}_{i}}}\eta \left( {{t}_{i}} \right);-\infty <{{t}_{i}}<\infty \right\}}}^{{{L}^{2}}\left( P \right)}}}$$
その和
$${H={{\overline{{{H}_{\xi }}+{{H}_{\eta }}}}^{{{L}^{2}}\left( P \right)}}}$$
を考える。$${f,g\in H}$$のスカラー積は
$${\left( f,g \right)=E\left( f\,\bar{g} \right)}$$
で定義する。
 

問題:
$${\xi \left( t \right)}$$,$${t\le 0}$$  と $${\eta \left( t \right)}$$ , $${t\ge T}$$を知って
$${\xi \left( \tau \right)}$$, $${\tau >0}$$の最適線形予測を求めよ。

$${{{H}_{\xi }}\left( 0 \right)=\underset{-\infty }{\mathop{\overset{0}{\mathop{\vee }}\,}}\,\xi \left( t \right)={{\overline{\left\{ \sum\limits_{i=1}^{N}{{{c}_{i}}}\xi \left( {{t}_{i}} \right);-\infty <{{t}_{i}}\le 0 \right\}}}^{{{L}^{2}}\left( P \right)}}}$$

$${{{H}_{\eta }}\left( T \right)=\underset{T}{\mathop{\overset{\infty }{\mathop{\vee }}\,}}\,\eta \left( t \right)={{\overline{\left\{ \sum\limits_{i=1}^{N}{{{c}_{i}}}\eta \left( {{t}_{i}} \right);T\le {{t}_{i}}<\infty \right\}}}^{{{L}^{2}}\left( P \right)}}}$$
とするとき、上の問題は$${\xi \left( \tau \right)}$$から
$${\mathcal{D}={{\overline{{{H}_{\xi }}\left( 0 \right)+{{H}_{\eta }}\left( T \right)}}^{{{L}^{2}}\left( P \right)}}}$$への正射影(単に射影ということにする)を求める問題になる。とくべつな場合として、$${\xi \left( t \right)\equiv \eta \left( t \right)}$$ a.s の場合は$${\xi \left( \tau \right)}$$$${0<\tau <T}$$ から$${\mathcal{D}={{\overline{{{H}_{\xi }}\left( 0 \right)+{{H}_{\xi }}\left( T \right)}}^{{{L}^{2}}\left( P \right)}}}$$への射影になり、時間の途中でデータが欠落したとき、過去とある未来時点から先の観測値から、欠落部分の推定をおこなう内挿問題になることを注意しよう。
 
2.仮定
定常過程$${\xi \left( t \right)}$$は、linear regularな$${\xi '\left( t \right)}$$とlinear singularな$${\xi ''\left( t \right)}$$の和としてあらわされる:$${\xi \left( t \right)=\xi '\left( t \right)+\xi ''\left( t \right)}$$。ここでは $${\xi ''\left( t \right)=0}$$ の場合を考える。というのも過去の値たち$${\xi \left( t \right)}$$ $${t\le 0}$$を知っているとき、$${\xi ''\left( t \right)}$$については、完全に線形外挿できるからである(誤差ゼロで推定できる)。つまり、定常過程$${\xi \left( t \right)}$$は、linear regular であるとする( $${\xi \left( t \right)}$$のスペクトル密度を$${{{f}_{\xi \xi }}\left( x \right)}$$とするとき、 $${\int\limits_{-\infty }^{\infty }{\frac{\ln {{f}_{\xi \xi }}\left( x \right)}{1+{{x}^{2}}}}dx>-\infty }$$が成り立つことが$${\xi \left( t \right)}$$がlinear regular であるための必要十分条件であった)。定常性の仮定は時間のシフトについての不変性を意味している。このとき、ユニタリ作用素$${{{U}_{t}}}$$ を用いて定常な確率過程は
$${\xi \left( t \right)={{U}_{t}}\xi \left( 0 \right)}$$,$${\eta \left( t \right)={{U}_{t}}\eta \left( 0 \right)}$$
と表現できる。ヒルベルト空間
$${H={{\overline{{{H}_{\xi }}+{{H}_{\eta }}}}^{{{L}^{2}}\left( P \right)}}}$$上のユニタリ作用素は
群$${{{U}_{t}}}$$のスペクトル分布関数$${{{E}_{x}}}$$をもちいた積分表示
$${{{U}_{t}}=\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}}d{{E}_{x}}}$$
を用いて
$${\xi \left( t \right)=\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}}d{{E}_{x}}\xi \left( 0 \right)}$$
$${\eta \left( t \right)=\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}}d{{E}_{x}}\eta \left( 0 \right)}$$
と書ける。また、$${H={{H}_{a}}\oplus {{H}_{s}}}$$という分解ができる。ここで、$${{{H}_{a}}}$$は絶対連続な成分、$${{{H}_{s}}}$$は特異成分である。すなわち、スペクトル関数$${\left( {{E}_{x}}f,f \right)}$$ が絶対連続であるような$${f\in H}$$ の集合を$${{{H}_{a}}}$$, $${\left( {{E}_{x}}f,f \right)}$$が特異となる$${f\in H}$$の集合を$${{{H}_{s}}}$$とする(これらが直交していることはルベッグ積分の理論から知られることである)。また、$${{{U}_{t}}}$$ は$${{{H}_{a}},\,\,{{H}_{s}}}$$のそれぞれの上にreduceされる。いいかえれば $${{{U}_{t}}\left( {{H}_{a}} \right)\subset {{H}_{a}}}$$,$${{{U}_{t}}\left( {{H}_{s}} \right)\subset {{H}_{s}}}$$となっている。$${\xi \left( t \right)}$$はlinear regular であると仮定したので、$${\left( {{E}_{x}}\xi \left( 0 \right),\xi \left( 0 \right) \right)}$$は絶対連続、したがって$${\xi \left( t \right)\in {{H}_{a}}}$$である。RadonNykodimiunn の定理より存在が保証される密度関数を$${\frac{d\left( {{E}_{x}}\xi \left( 0 \right),\xi \left( 0 \right) \right)}{dx}={{f}_{\xi \xi }}\left( x \right)}$$とする。
つぎに、$${{{\eta }_{a}}\left( 0 \right)}$$,$${{{\eta }_{s}}\left( 0 \right)}$$ をそれぞれ、$${\eta \left( 0 \right)}$$ から$${{{H}_{a}}}$$ , $${{{H}_{s}}}$$への射影とすると、$${{{\eta }_{a}}\left( t \right)={{U}_{t}}{{\eta }_{a}}\left( 0 \right)}$$, $${{{\eta }_{s}}\left( t \right)={{U}_{t}}{{\eta }_{s}}\left( 0 \right)}$$となっており、
$${\eta \left( t \right)={{\eta }_{a}}\left( t \right)+{{\eta }_{s}}\left( t \right)}$$,$${{{\eta }_{a}}\left( t \right)\in {{H}_{a}}}$$,$${{{\eta }_{s}}\left( t \right)\in {{H}_{s}}}$$と分解されることがわかる。 $${{{\eta }_{s}}\left( t \right)\in {{H}_{s}}}$$は$${\xi \left( t \right)\in {{H}_{a}}}$$ と無相関(直交)であるから$${{{\eta }_{s}}\left( t \right)}$$に関する知識は、$${\xi \left( t \right)}$$ の予測にはなんら利用されることはない。したがって議論を簡単にするため$${{{\eta }_{s}}\left( t \right)\equiv 0}$$を仮定しよう。そのとき、$${\left( {{E}_{x}}\eta \left( 0 \right),\eta \left( 0 \right) \right)=\left( {{E}_{x}}{{\eta }_{a}}\left( 0 \right),{{\eta }_{a}}\left( 0 \right) \right)}$$は絶対連続になる。$${\frac{d\left( {{E}_{x}}\eta \left( 0 \right),\eta \left( 0 \right) \right)}{dx}={{f}_{\eta \eta }}\left( x \right)}$$を$${\eta \left( t \right)}$$のスペクトル密度関数とおく。相互スぺクトラル分布$${\left( {{E}_{x}}\xi \left( 0 \right),\eta \left( 0 \right) \right)}$$も考えられ、$${\frac{d\left( {{E}_{x}}\xi \left( 0 \right),\eta \left( 0 \right) \right)}{dx}={{f}_{\xi \eta }}\left( x \right)}$$を$${\xi \left( t \right),\eta \left( t \right)}$$の相互スペクトル密度関数とよぶ。これらを既知のものとして最適予測値(正射影)を求めていく。
 
3.$${\eta \left( t \right)}$$がlinear singularである場合の最適予測値$${\hat{\xi }\left( \tau \right)}$$の計算
$${\eta \left( t \right)}$$がlinear singularであることの必要十分条件は
$${\int\limits_{-\infty }^{\infty }{\frac{\ln {{f}_{\eta \eta }}\left( x \right)}{1+{{x}^{2}}}}dx=-\infty }$$
である。これを仮定する。
$${H={{\overline{{{H}_{\xi }}+{{H}_{\eta }}}}^{{{L}^{2}}\left( P \right)}}}$$であった。$${H_{\eta }^{\bot }=H\Theta {{H}_{\eta }}}$$($${H}$$ における$${{{H}_{\eta }}}$$の直交補空間)とする。$${{{\xi }_{\eta }}\left( 0 \right)}$$を$${\xi \left( 0 \right)}$$から$${{{H}_{\eta }}}$$ への射影、$${\xi _{\eta }^{\bot }\left( 0 \right)}$$を$${\xi \left( 0 \right)}$$から$${H_{\eta }^{\bot }}$$への射影とする。
$${{{U}_{t}}}$$ は$${{{H}_{\eta }}}$$,$${H_{\eta }^{\bot }}$$上でreduceされる(直交性を保つ)ので、
$${{{\xi }_{\eta }}\left( t \right)={{U}_{t}}{{\xi }_{\eta }}\left( 0 \right)\in {{H}_{\eta }}}$$
$${\xi _{\eta }^{\bot }\left( t \right)={{U}_{t}}\xi _{\eta }^{\bot }\left( 0 \right)\in H_{\eta }^{\bot }}$$
$${\xi \left( t \right)={{\xi }_{\eta }}\left( t \right)+\xi _{\eta }^{\bot }\left( t \right)}$$(一意的な分解)
となる。$${\eta \left( t \right)}$$がlinear singularであることを仮定しているので$${\eta \left( t \right)}$$は
誤差なく外挿される。すなわち、$${{{H}_{\eta }}=H_{\eta }^{+}\left( T \right)}$$である。このことからまた$${{{\xi }_{\eta }}\left( t \right)\in {{H}_{\eta }}=H_{\eta }^{+}\left( T \right)\subset \overline{H_{\xi }^{-}\left( 0 \right)+H_{\eta }^{+}\left( T \right)}}$$
つまり、ある関数$${{{\Phi }_{\xi \eta }}\left( x \right)}$$が存在して、
$${{{\xi }_{\eta }}\left( t \right)=\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}{{\Phi }_{\xi \eta }}}\left( x \right)d{{E}_{x}}\eta \left( 0 \right)}$$
とかける。実際、
$${\xi \left( t \right)=\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}}d{{E}_{x}}\xi \left( 0 \right)}$$
$${\eta \left( 0 \right)=\int\limits_{-\infty }^{\infty }{d{{E}_{x}}\eta \left( 0 \right)}}$$
より、
$${\left\langle \xi \left( t \right),\eta \left( 0 \right) \right\rangle =\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}\frac{d\left\langle {{E}_{x}}\xi \left( 0 \right),{{E}_{x}}\eta \left( 0 \right) \right\rangle }{dx}dx=}\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}{{f}_{\xi \eta }}\left( x \right)dx}}$$
$${{{\xi }_{\eta }}\left( t \right)=\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}{{\Phi }_{\xi \eta }}}\left( x \right)d{{E}_{x}}\eta \left( 0 \right)}$$
$${\eta \left( 0 \right)=\int\limits_{-\infty }^{\infty }{d{{E}_{x}}\eta \left( 0 \right)}}$$
より、
$${\left\langle {{\xi }_{\eta }}\left( t \right),\eta \left( 0 \right) \right\rangle =\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}\frac{{{\Phi }_{\xi \eta }}\left( x \right)d\left\langle {{E}_{x}}\eta \left( 0 \right),{{E}_{x}}\eta \left( 0 \right) \right\rangle }{dx}dx=}\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}{{\Phi }_{\xi \eta }}\left( x \right){{f}_{\eta \eta }}\left( x \right)dx}}$$
ところが、
$${\xi \left( t \right)={{\xi }_{\eta }}\left( t \right)+\xi _{\eta }^{\bot }\left( t \right)}$$であるから、
$${\left\langle \xi \left( t \right),\eta \left( 0 \right) \right\rangle =\left\langle {{\xi }_{\eta }}\left( t \right),\eta \left( 0 \right) \right\rangle }$$
したがって、
$${\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}{{f}_{\xi \eta }}\left( x \right)dx}}$$$${=\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}{{\Phi }_{\xi \eta }}\left( x \right){{f}_{\eta \eta }}\left( x \right)dx}}$$
フーリエ変換の一意性より、
$${{{f}_{\xi \eta }}\left( x \right)={{\Phi }_{\xi \eta }}\left( x \right){{f}_{\eta \eta }}\left( x \right)}$$ 。
これから、
$${{{\Phi }_{\xi \eta }}\left( x \right)=\frac{{{f}_{\xi \eta }}\left( x \right)}{{{f}_{\xi \xi }}\left( x \right)}}$$ ( if $${{{f}_{\xi \xi }}\left( x \right)\ne 0}$$)
$${{{\Phi }_{\xi \eta }}\left( x \right)=0}$$( if $${{{f}_{\xi \xi }}\left( x \right)=0}$$ )
とすればよいことがわかる。
 $${\xi \left( t \right)={{\xi }_{\eta }}\left( t \right)+\xi _{\eta }^{\bot }\left( t \right)}$$
であるから
$${\left\langle \xi \left( t \right),\xi \left( 0 \right) \right\rangle =\left\langle {{\xi }_{\eta }}\left( t \right),{{\xi }_{\eta }}\left( 0 \right) \right\rangle +\left\langle \xi _{\eta }^{\bot }\left( t \right),\xi _{\eta }^{\bot }\left( 0 \right) \right\rangle }$$
となり、
$${{{f}_{\xi \xi }}\left( \lambda \right)={{f}_{{{\xi }_{\eta }}{{\xi }_{\eta }}}}\left( \lambda \right)+{{f}_{\xi _{\eta }^{\bot }\xi _{\eta }^{\bot }}}\left( \lambda \right)}$$
である。また、
$${\left\langle {{\xi }_{\eta }}\left( t \right),{{\xi }_{\eta }}\left( 0 \right) \right\rangle =\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}\frac{{{\left| {{\Phi }_{\xi \eta }}\left( x \right) \right|}^{2}}d\left\langle {{E}_{x}}\eta \left( 0 \right),{{E}_{x}}\eta \left( 0 \right) \right\rangle }{dx}dx=}\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}{{\left| {{\Phi }_{\xi \eta }}\left( x \right) \right|}^{2}}{{f}_{\eta \eta }}\left( x \right)dx}}$$

$${\left\langle {{\xi }_{\eta }}\left( t \right),{{\xi }_{\eta }}\left( 0 \right) \right\rangle =\int\limits_{-\infty }^{\infty }{{{e}^{ixt}}{{f}_{{{\xi }_{\eta }}{{\xi }_{\eta }}}}\left( x \right)dx}}$$
であるから、
$${{{f}_{{{\xi }_{\eta }}{{\xi }_{\eta }}}}\left( x \right)={{\left| {{\Phi }_{\xi \eta }}\left( x \right) \right|}^{2}}{{f}_{\eta \eta }}\left( x \right)}$$
である。したがって、
$${{{\Sigma }_{\xi \eta }}\left( x \right)=1-\frac{{{\left| {{f}_{\xi \eta }}\left( x \right) \right|}^{2}}}{{{f}_{\xi \xi }}\left( x \right){{f}_{\eta \eta }}\left( x \right)}}$$($${{{f}_{\eta \eta }}\left( x \right)\ne 0}$$のとき)
$${=1}$$ ,($${{{f}_{\eta \eta }}\left( x \right)=0}$$のとき)
とおけば、
$${{{f}_{\xi _{\eta }^{\bot }\xi _{\eta }^{\bot }}}\left( \lambda \right)={{\Sigma }_{\xi \eta }}\left( \lambda \right){{f}_{\xi \xi }}\left( \lambda \right)}$$
となる。$${\xi \left( t \right)}$$はlinear regularであるから、
$${\int\limits_{-\infty }^{\infty }{\frac{\ln {{f}_{\xi \xi }}\left( x \right)}{1+{{x}^{2}}}}dx>-\infty }$$ であった。
そこで、$${\int\limits_{-\infty }^{\infty }{\frac{\ln {{\Sigma }_{\xi \eta }}\left( x \right)}{1+{{x}^{2}}}}dx=-\infty }$$
となる場合、$${\xi _{\eta }^{\bot }\left( t \right)}$$が誤差ゼロでの予測ができることになる。
また逆に、
$${\int\limits_{-\infty }^{\infty }{\frac{\ln {{\Sigma }_{\xi \eta }}\left( x \right)}{1+{{x}^{2}}}}dx>-\infty }$$
となる場合には、
$${\xi \left( t \right)}$$の$${t=\tau >0}$$における最適な予測値(すなわち、$${\xi \left( \tau \right)}$$から$${\overline{H_{\xi }^{-}\left( 0 \right)+H_{\eta }^{+}\left( T \right)}}$$への正射影)$${\hat{\xi }\left( \tau \right)}$$が次式で与えられる。
$${\hat{\xi }\left( \tau \right)=\int\limits_{-\infty }^{\infty }{{{\Phi }_{\xi \eta }}\left( x \right)}\frac{{{e}^{ix\tau }}}{\Gamma \left( x \right)}\left\{ \int\limits_{0}^{\tau }{{{e}^{-ix\lambda }}c\left( \lambda \right)d\lambda } \right\}d{{E}_{x}}\eta \left( 0 \right)}$$$${+}$$$${\int\limits_{-\infty }^{\infty }{\frac{1}{\Gamma \left( x \right)}}\left\{ \int\limits_{0}^{\tau }{{{e}^{-ix\lambda }}c\left( \lambda +\tau \right)d\lambda } \right\}d{{E}_{x}}\xi \left( 0 \right)}$$
であたえられる。ここで、$${\Gamma \left( x \right)}$$ は$${\mathbb{C}}$$平面の下半平面で解析的な関数
$${\Gamma \left( z \right)=\exp \left\{ \frac{1}{2\pi }\int\limits_{-\infty }^{\infty }{\frac{\ln {{f}_{\xi _{\eta }^{\bot }\xi _{\eta }^{\bot }}}\left( x \right)}{1+{{x}^{2}}}\frac{1+xz}{z-x}}dx \right\}}$$
の境界値であり、$${c\left( \lambda \right)}$$は$${\Gamma \left( x \right)}$$ のフーリエ変換、
$${c\left( \lambda \right)=\frac{1}{2\pi }\int\limits_{-\infty }^{\infty }{{{e}^{ix\lambda }}}\Gamma \left( x \right)dx}$$  ($${\lambda \ge 0}$$)
$${=0}$$ ( $${\lambda <0}$$ )
である。
 
4.$${\eta \left( t \right)}$$がlinear regularである場合の最適予測値$${\hat{\xi }\left( \tau \right)}$$の計算
 
すなわち、
$${\int\limits_{-\infty }^{\infty }{\frac{\ln {{f}_{\eta \eta }}\left( x \right)}{1+{{x}^{2}}}}dx>-\infty }$$
な場合。ここからますます面白くなるが、計算が長くなるので続編斯う期待となります。




 

この記事が気に入ったらサポートをしてみませんか?