ケィオスの時系列解析メモランダム

時系列解析,生体情報学,数学・物理などの解説です.

【基礎工学のための数学】線形性と特性方程式と重ね合わせ:線形微分方程式と線形差分方程式の解

時系列解析の応用的な論文で「非線形」という用語が使われることがあります.非線形というのは,線形でないという意味です.医学・生理学,医工学分野などの応用分野では,「非線形性」が印象だけで使われていて,意味が崩壊しているような感じがします.ということで,今回は「線形性」について説明します.とはいえ,数学的な部分を追求しても意味がないので,実用上の便利さを見るために微分方程式と差分方程式の特性方程式とからめて説明します.確率過程の線形性は,今回は説明していません.

線形性

 大学のテストで,「演算子Lの線形性を示せ」と言われれば,

abを定数,f(t)g(t)Lの演算がはたらく関数として,

 L \left[ a f(t) + b g(t) \right]= a \left[f(t) \right]+b \left[g(t) \right]

が成り立つことを示します.

つまり,テストでは,この左辺から出発して,右辺の形になるよ~,と答えに書きます.この線形性の関係は微分積分をするときに,みなさんが自然に使っているものです.

 例えば微分について,演算子を,

 L \left[f(t) \right]= \frac{d}{dt} f(t)

と書けば,

 \begin{eqnarray} L \left[a f(t) + b g(t) \right] &=& \frac{d}{dt} \left( a f(t) + b g(t) \right) \\
&=& a \frac{d}{dt} f(t) + b \frac{d}{dt} g(t) \\
&=& a L \left[ f(t) \right]  + b L \left[ g(t)  \right] \\
 \end{eqnarray}

となるので線形です.微分では,定数部分はそのままくっつけておいて,項ごとに公式を使うことができるのが,線形性です.

 だから何?これが何の役に立つの?

と思うかもしれません.

線形性と重ね合わせの原理

 線形性からいえることの一つに「解の重ね合わせの原理」があります.

線形演算子Lを使った方程式

 L \left[f(t) \right]= 0

があるとします.このとき,f_1(t)f_2(t)がこの方程式の解であれば,c_1c_2を定数として,

 c_1\, f_1(t) + c_2\, f_2(t)

も解です.

 なぜなら,

  \begin{eqnarray} L \left[c_1\, f_1(t) + c_2\, f_2(t) \right] &=& c_1 L \left[ f_1(t) \right]  + c_2 L \left[ f_2(t)  \right] \\
&=& c_1 \cdot 0  + c_2 \cdot 0 \\
&=& 0
 \end{eqnarray}

になるからです.この計算では,f_1(t)f_2(t)は解なので, f_1(t) = 0 f_2(t) = 0であることを使いました.こんなこと,当然と感じられれば,以下の話も納得できると思います.

定数係数の線形微分方程式の分解

 ここでは,簡単な例として,定数係数の2階線形同次微分方程式を考えます.つまり,abが定数である.

 \frac{d^2}{dt^2} x(t) + a \frac{d}{dt} x(t) + b x(t) = 0

の解 (一般解)を計算します.

 ここで,微分演算子Dで表すことにします.ここでは,大括弧をなくして

  \displaystyle D \, x(t) =  \frac{d}{dt} x(t)

とします.そうすると,

 \begin{eqnarray} \frac{d^2}{dt^2} x(t) + a \frac{d}{dt} x(t) + b x(t) &=& 0 \\
D^2 x(t) + a D x(t) + b x(t) &=& 0\\
\left( D^2 + a D + b \right) x(t) &=& 0\\
 \end{eqnarray}

と書くことができます.この式のD^2 + a D + b部分で,Dを変数\lambdaに置き換えた形の式

 \lambda^2 + a \lambda + b = 0

は,特性方程式と呼ばれたりします.

 今回は,話を簡単にするために,この特性方程式が,2つの異なる実数解\lambda_1\lambda_2をもつ場合のみ考えます.つまり,

 \begin{eqnarray}\lambda^2 + a \lambda + b &=& \left(\lambda- \lambda_1\right) \left(\lambda- \lambda_2\right)
 \end{eqnarray}

因数分解できる場合です.このことを使えば,(D=d/dtだったことを思い出してください)

 \begin{eqnarray} \frac{d^2}{dt^2} x(t) + a \frac{d}{dt} x(t) + b x(t) &=& 0 \\
\left( D- \lambda_1\right) \left( D- \lambda_2\right) x(t) &=& 0\\
\left( \frac{d}{dt} - \lambda_1\right) \left(\frac{d}{dt}  - \lambda_2\right) x(t) &=& 0\\
 \end{eqnarray}

となります.この微分方程式の解は,x(t)=0でも,\left( \frac{d}{dt} - \lambda_1\right) =0 (こんな式,そもそもおかしい)でもないので,

 \begin{eqnarray} \left( \frac{d}{dt} - \lambda_1\right) x(t) &=& 0
 \end{eqnarray}

あるいは,

 \begin{eqnarray} \left( \frac{d}{dt} - \lambda_2\right) x(t) &=& 0
 \end{eqnarray}

となる,x(t)を見つけられれば,これが微分方程式の解になります.

 ということで,解いてみると,

 \begin{eqnarray} \left( \frac{d}{dt} - \lambda_1\right) x(t) &=& 0 \\
 \frac{dx(t)}{dt} - \lambda_1 x(t)  &=& 0 \\
 x(t)  &=& C_1 e^{\lambda_1 t} \quad (C_1は定数)
 \end{eqnarray}

もう一つの解は,

 \begin{eqnarray} x(t)  &=& C_2 e^{\lambda_2 t} \quad (C_2は定数)
 \end{eqnarray}

解が2つ求まりました.ここで考えている微分方程式に含まれている演算を

 \begin{eqnarray} L[x(t)] &=& \frac{d^2}{dt^2} x(t) + a \frac{d}{dt} x(t) + b x(t)
 \end{eqnarray}

とすれば,これは線形になっているので,重ね合わせの原理が使えます.

 ということで,微分方程式の一般解は,2つの解を線形結合して,

 \begin{eqnarray} x(t)  &=& C_1 e^{\lambda_1 t} + C_2 e^{\lambda_2 t} \quad (C_1,C_2は定数)
 \end{eqnarray}

となります.

 定数係数の線形微分方程式の解き方として,x(t)=e^{\lambda t}を解として仮定して代入すると,覚えている人も多いと思います.この場合,複数の\lambdaの解 (根)が出てきますが,一般解は,それらを重ね合わせたもの (線形結合したもの)になります.n階の線形同次微分方程式は,n個の独立な基本解をもち,一般解はそれらの線形結合になります.

定数係数の線形差分方程式の特性方程式

 今回は,微分方程式から入りましたが,説明したかったのは差分方程式です.ここでは,定数係数の2次線形差分方程式

 x[n] + a x[n-1] + b x[n-2] = 0

を考えます.これには,何の演算子もないけど?と思うでしょう.

 そこで,ラグオペレータ (後方シフト演算子) Lを導入して (ラグオペレータについては参考記事参照),

 \begin{eqnarray} x[n] + a x[n-1] + b x[n-2] &=& 0 \\
x[n] + a L x[n] + b L^2 x[n] &=& 0 \\
\left(1 + a L + b L^2 \right) x[n] &=& 0 \\
 \end{eqnarray}

と変形します.この式の1 + a L + b L^2 部分で,Lを変数\lambdaに置き換えた形の式

 1+ a \lambda + b \lambda^2 = 0

は,特性方程式と呼ばれたりします.

 今回は,話を簡単にするために,この特性方程式が,2つの異なる実数解\lambda_1\lambda_2をもつ場合のみ考えます.つまり,

 \begin{eqnarray}1+ a \lambda + b \lambda^2 &=& \left(1- \frac{\lambda}{\lambda_1}\right) \left(1- \frac{\lambda}{\lambda_2}\right)
 \end{eqnarray}

因数分解できる場合です.このことを使えば,

 \begin{eqnarray}  x[n] + a x[n-1] + b x[n-2] &=& 0 \\
\left(1 + a L + b L^2 \right) x[n] &=& 0 \\
\left(1- \frac{L}{\lambda_1}\right) \left(1- \frac{L}{\lambda_2}\right) x[n] &=& 0 \\
 \end{eqnarray}

と変形できます.この差分方程式の解は,x[n]=0でも,\left(1- \frac{L}{\lambda_1}\right) =0 (こんなの意味不明)でもないので,あり得るのは,

 \begin{eqnarray} \left(1- \frac{L}{\lambda_1}\right)x[n] &=& 0
 \end{eqnarray}

あるいは,

 \begin{eqnarray} \left(1- \frac{L}{\lambda_2}\right) x[n]&=& 0
 \end{eqnarray}

となるケースです.

 解いてみると,

 \begin{eqnarray} \left(1- \frac{L}{\lambda_1}\right)x[n] &=& 0 \\
x[n]- \frac{L}{\lambda_1}x[n] &=& 0 \\
x[n]- \frac{1}{\lambda_1}x[n-1] &=& 0 \\ 
x[n] &=& \frac{1}{\lambda_1}x[n-1] \quad (等比数列になってる)\\ 
x[n] &=& C_1 \left( \frac{1}{\lambda_1} \right)^n \quad (C_1は定数) 
\end{eqnarray}

もう一つの解は,

 \begin{eqnarray} x[n] &=& C_2 \left( \frac{1}{\lambda_2} \right)^n  \quad (C_2は定数)
\end{eqnarray}

です.差分方程式でも,上で考えた微分方程式と同じく,2つの解があるようです.元の式に代入してみると,正しいことが確認できます.

 ここで考えている差分方程式に含まれている演算を

 \begin{eqnarray} L[x [n]] &=& \left(1 + a L + b L^2\right) x [n]
 \end{eqnarray}

とすれば,これは線形演算子になっているので,またまた,重ね合わせの原理が使えます.

 ということで,一般解は,

 \begin{eqnarray} x[n] &=& C_1 \left( \frac{1}{\lambda_1} \right)^n + C_2 \left( \frac{1}{\lambda_2} \right)^n  \quad (C_1,C_2は定数)
\end{eqnarray}

になりそうです.C_1C_2は,初期条件 (x[0]とか,x[1]とかの値)が,与えられれば決めることができます.

ということで,線形性と重ね合わせの原理について,理解できたでしょうか.