【確率過程・時系列解析】1次自己回帰過程のパワースペクトルから自己共分散（自己相関）を求める

理由は良く知りませんが，自己共分散（自己相関）関数を使ってパワースペクトルを定義する流儀が存在します．そんな流儀，知ったことではないので，ここでは，1次自己回帰過程のパワースペクトルから，自己共分散（自己相関）を求めてみます．今回は，ここまで説明した内容の復習のための練習問題です．

基本事項のまとめ

1．自己回帰過程のパラメタとパワースペクトルの関係
　 $m$ 次自己回帰過程

　 $y[n] = a_1 y[n-1] + a_2 y[n-2] + \cdots + a_m y[n-m] + w[n]$

のパラメタ $\{a_1, a_2, \cdots, a_m\}$ と， $w[n]$ の分散 $\sigma^2$ (平均は０とします)が与えられたとき，パワースペクトルは，

$\displaystyle S_y (f_k) = \frac{\sigma^2}{\left|1 - a_1 e^{{\bf i} 2 \pi f} + a_2 e^{{\bf i} 4 \pi f} + \cdots + a_m e^{{\bf i} 2 \pi f m} \right|^2}$

です．以下の記事で説明しました．

chaos-kiyono.hatenablog.com

2．自己回帰過程が発散せずにおとなしくしてくれる条件
　 $m$ 次自己回帰過程

　 $y[n] = a_1 y[n-1] + a_2 y[n-2] + \cdots + a_m y[n-m] + w[n]$

について，

特性方程式
　 $\displaystyle 1- a_1 z- a_2 z^{2} - \cdots - a_M z^{M} = 0$
の解 (根)の絶対値がすべて1より大きければ，自己回帰過程は発散しない．

以下の記事で説明しました．
chaos-kiyono.hatenablog.com

3．パワースペクトルから自己共分散（自己相関）を求める式
　 $m$ 次自己回帰過程（以下の $w(t)$ は平均0，分散 $\sigma^2$ の白色ガウスノイズ）

　 $\begin{eqnarray} y[i] = \sum_{m=1}^{M} a_m\, y[i-m] + w[i] \end{eqnarray}$

について，

$\begin{equation} \displaystyle A(z) = 1 - \sum_{m=1}^{M} a_m z^{m} \end{equation}$

とすれば，そのパワースペクトルと自己共分散（自己相関）関数には，

$\begin{eqnarray} C(\, j\, ) &=& \frac{\sigma^2}{i 2 \pi} \int_{|z| = 1} \! \frac{z^{j-1}}{A(z^{-1}) A(z)} \, dz \end{eqnarray}$

が成り立ちます．以下の記事で説明しました．
chaos-kiyono.hatenablog.com

4．留数定理
　以下の記事を読んでください．
chaos-kiyono.hatenablog.com

1次自己回帰過程で基本事項を復習の巻

　1次自己回帰過程

　 $y[n] = a y[n-1] + w[n]$

で基本事項を使ってみます．ここで， $w[n]$ は平均0，分散 $\sigma^2$ の白色ノイズです．

1．まずはパワースペクトルを計算
　基本事項1を公式として使えば，

　 $\displaystyle S_y (f_k) = \frac{\sigma^2}{\left|1 - a e^{{\bf i} 2 \pi f} \right|^2}=\frac{\sigma^2}{\left(1 - a e^{{\bf i} 2 \pi f} \right)\left(1 - a e^{-{\bf i} 2 \pi f} \right)}$

となります．もっと，きれいになりますが，今回はこのままにしておきます．

2．パワースペクトルを使って自己共分散（自己相関）関数をとりあえず書いてみる
　基本事項3を使います．

　 $\displaystyle A(z) = 1 - a z$

になるので，

　 $\begin{eqnarray} C(\, j\, ) &=& \frac{\sigma^2}{i 2 \pi} \int_{|z| = 1} \! \frac{z^{j-1}}{A(z^{-1}) A(z)} \, dz \\ &=& \frac{\sigma^2}{i 2 \pi} \int_{|z| = 1} \! \frac{z^{j-1}}{(1 - a z^{-1})(1 - a z)}\, dz \end{eqnarray}$

です．

3． $a$ の値の範囲をちょっと考察
　自己回帰過程が発散しないための条件は，基本事項2です．ということで，特性方程式

　 $\displaystyle 1- a z = 0$

の根 $z=1/a$ の絶対値が1より大きければ，その過程は無限のかなたに逃げていきません．つまり，

　 $\displaystyle |a| < 1$

です．

3．自己共分散（自己相関）関数を計算
　留数定理の登場です．今回の計算

　 $\begin{eqnarray} C(\, j\, ) &=& \frac{\sigma^2}{i 2 \pi} \int_{|z| = 1} \! \frac{z^{j-1}}{(1 - a z^{-1})(1 - a z)}\, dz \end{eqnarray}$

において，積分の内側 (非積分関数)を見てください．この積分は， $|z| = 1$ に沿った計算です．つまり，原点を中心とする半径１の円（単位円）をぐるっと回る周回積分です．周回積分で注目するのは，この円の内側に穴（トゲ，正式には特異点）があるかどうかです．ということで，分母がゼロになる点の位置を調べます．

　非積分関数で分母がゼロになる点は， $z=a$ と $z=1/a$ です．１次自己回帰過程が発散しない条件は， $\displaystyle |a| < 1$ だったので，単位円の内側にあるのは， $z=a$ です．この点の留数 (とりあえず式を $f(z)$ として)は

　 $\displaystyle {\rm Res} \, f(a) = \lim_{z \to a} \left[(z - a) \, f(z)\right]$

を使えば計算できます．

　 $\begin{eqnarray} C(\, j\, ) &=& \frac{\sigma^2}{i 2 \pi} \cdot 2 \pi i \lim_{z \to a} \left[(z - a) \, \frac{z^{j-1}}{(1 - a z^{-1})(1 - a z)} \right] \\ &=& \sigma^2 \lim_{z \to a} \left[(z - a) \, \frac{z z^{j-1}}{z (1-a z^{-1})(1 - a z)} \right] \\ &=& \sigma^2 \lim_{z \to a} \left[(z - a) \, \frac{z z^{j-1}}{ (z-a)(1 - a z)} \right] \\ &=& \sigma^2 \lim_{z \to a} \left[\frac{z^j}{1-az} \right] \\ &=& \sigma^2 \frac{ a^{j}}{1-a^2} \\ &=& \frac{ \sigma^2 }{1-a^2} a^{j} \end{eqnarray}$