対称行列の性質:内積による特徴づけ、逆行列、固有値、対角化について

どうも、木村(@kimu3_slime)です。

線形代数学において、対称行列は、特に対角化について良い性質を持っている重要な行列です。

今回は、対称行列の具体例と性質について紹介します。

 



対称行列とは

対称行列(symmetric matrix)とは、左上から右下への対角線について、対称な成分を持った行列です。例えば、

\[ \begin{aligned}\begin{pmatrix} 1 &2&-3\\2 & -1 & 0 \\ -3& 0 & 3 \end{pmatrix}\end{aligned} \]

は対称行列です。

\(N\)次の正方行列\(A=(a_{ij})\)が対称行列であるとは、すべての\(i,j\)に対して\(a_{ij}=a_{ji}\)が成り立つことです。行と列をひっくり返しても等しい、すなわち転置行列に等しい\(A= A^{\top}\)とも言えます。

 

ゼロ行列や単位行列、対角行列は対称行列ですね。対角行列でない三角行列は、対称行列ではありません。

対称行列の特別なケースで名前がついているものには、射影行列や半正定値行列があります。例えば、次の行列はそれぞれ、射影行列、半正定値行列です。

\[ \begin{aligned}\begin{pmatrix} 1 &0\\ 0 & 0 \end{pmatrix}\end{aligned} \]

\[ \begin{aligned}\begin{pmatrix} 1 &1\\1 & 1  \end{pmatrix}\end{aligned} \]

また、多変数関数の2階変数関数からなる行列(ヘッセ行列)

\[ \begin{aligned}H(f) = \begin{pmatrix} f_{xx} & f_{xy}\\f_{yx}&f_{yy} \end{pmatrix}\end{aligned} \]

は、\(f\)が適度になめらかならば\(f_{xy}=f_{yx}\)で、対称行列となります。

参考:2変数関数の極値の求め方、ヘッセ行列とは?

 

対称行列の性質

内積による特徴づけ

対称行列は、内積について良い性質を持っています。すなわち、\(A\)が対称行列ならば、すべての\(x,y\)に対し

\[ \begin{aligned}\langle Ax,y\rangle= \langle x,Ay\rangle\end{aligned} \]

が成り立ちます。逆に、すべての\(x,y\)に対し

\[ \begin{aligned}\langle Ax,y\rangle= \langle x,By\rangle\end{aligned} \]

を満たすような行列は、\(B= A^{\top}\)です。

 

内積を転置を使って書いて、転置の性質を使えばわかります。\(A\)を対称行列として、

\[ \begin{aligned} \langle Ax,y\rangle &= (Ax)^{\top} y\\ &= x^{\top}A^{\top}y  \\ &= x^{\top}Ay &=\langle x,Ay\rangle \end{aligned} \]

です。

逆に、\(\langle Ax,y\rangle= \langle x,By\rangle\)を仮定します。同様の計算で\(\langle Ax,y\rangle= \langle x,A^{\top} y\rangle\)です。内積の線形性と行列の線形性から、\(\langle x, (A^{\top}-B) y\rangle=0\)です。\(x=(A^{\top}-B) y\)のときを考えれば、内積の正定値性から、\((A^{\top}-B) y=0\)となります。\(y=e_1,\dots,e_N\)(標準基底)のときを考えれば、\(A^{\top}-B=O\)で、\(B= A^{\top}\)が得られました。

 

この性質は、正定値行列において基本的です。すべての\(x\)に対し、

\[ \begin{aligned}\langle Ax,x\rangle \geq 0\end{aligned} \]

を満たすような対称行列\(A\)を半正定値行列と呼びます。既に見たように、\(\langle Ax,y\rangle =\langle x,Ay\rangle \)のような交換法則が成り立ちます。これは内積のような都合の良い性質を持つので、便利です。

 

和、スカラー倍、積

対称行列の和、スカラー倍は、それもまた対称行列となります。

成分を計算すれば良いです。\((A+B)_{ij}= a_{ij}+b_{ij}=a_{ji}+b_{ji}=(A+B)_{ji}\)です。また、\((\lambda A)_{ij}= \lambda a_{ij}=\lambda a_{ji}= (\lambda A)_{ji}\)なので。

この事実は、対称行列のなす集合\(\mathrm{sym}\)が、行列全体のなす線形空間\(M(N)\)の部分空間になっている、とも言えます。

参考:行列全体のなす集合が線形空間(ベクトル空間)となることの証明

 

一方、積については良い性質を持っているとは言えません。単位行列のような例ならば、積も対称行列になっています。一方で、

\[ \begin{aligned} &\begin{pmatrix} 1 &0\\ 0 & 0 \end{pmatrix} \begin{pmatrix} 0 &1\\ 1 & 0 \end{pmatrix} \\&= \begin{pmatrix} 0 &1\\ 0 & 0 \end{pmatrix}\ \end{aligned} \]

と、対称行列同士の積が対称にならないことがあります。

積について閉じている対角行列や三角行列とは、大きく違う部分ですね。

 

可逆性、逆行列

行列式や可逆性についても、何か一般的に言えることがあるわけではありません。

\[ \begin{aligned}\begin{pmatrix} 1 &0\\ 0 & 0 \end{pmatrix}\end{aligned} \]

という例を考えれば、可逆でない対称行列があることがわかります。

 

一方、仮に対称行列\(A\)に逆行列が存在するならば、それは必ず対称行列になります。

逆行列を\(B\)とし、\(AB=I\)としましょう。両辺の転置を取り、転置の性質を用います。左辺は、\((AB)^{\top} =B^{\top}A^{\top}= B^{\top}A\)です。一方、右辺は\(I^{\top}=I\)なので、\(B^{\top}A= I\)となります。つまり、\(B^{\top}\)は\(A\)の逆行列の定義を満たし、逆行列の一意性から、\(B= B^{\top}\)となります。すなわち、\(B\)は対称行列です。

参考:可逆な行列(正則行列)とは?例と同値な条件

 

固有値は実数、固有ベクトルは直交

成分が実数であるような対称行列(実対称行列)の固有値は、必ず実数となります。これは便利な性質です。

 

\(A\)を実対称行列、\(\lambda\)を複素数、\(x\neq 0\)として、\(Ax = \lambda x\)を満たすとしましょう。

\(\lambda \)の複素共役を\(\overline{\lambda}\)と表すことにします。\(\lambda =\overline{\lambda}\)が示せれば、\(\lambda \)は実数です。

複素共役を取ると、\(A\)の成分は実数なので、\(A\overline{x} = \overline{\lambda}\overline{ x}\)です。転置を取れば、\(A\)は対称なので、\(\overline{x}^{\top}A=\overline{x}^{\top} \overline{\lambda}\)となります。

同じ形を作り出しましょう。\(Ax = \lambda x\)の両辺に左から\(\overline{x}^{\top}\)をかけると、\(\overline{x}^{\top}Ax =  \overline{x}^{\top}\lambda x\)です。\(\overline{x}^{\top}A=\overline{x}^{\top} \overline{\lambda}\)に右から\(x\)をかけると、\(\overline{x}^{\top}Ax =\overline{x}^{\top} \overline{\lambda} x\)です。

整理すると、\(\lambda \overline{x}^{\top}x = \overline{\lambda}\overline{x}^{\top}x\)となります。ここで、\( \overline{x}^{\top}x = \langle x,x\rangle\)で、\(x \neq 0\)と内積の正定値性から、\(\overline{x}^{\top}x \neq 0\)です。よって、それで割ることができて、\(\lambda =\overline{\lambda}\)が言えました。

 

また、実対称行列では、異なる固有値に対応する固有ベクトルは直交するという都合の良い性質があります。

\(\lambda_1 \neq \lambda _2\)とし、対応する固有ベクトルを\(x,y\)としましょう。\(\langle x,y\rangle=0\)が示したいことです。

\(Ax= \lambda_1 x\)と\(y\)との内積を取ると、\(\langle Ax,y\rangle = \lambda _1 \langle x,y\rangle\)です。\(Ay= \lambda_2 y\)と\(x\)との内積を取ると、\(\langle Ay,x\rangle = \lambda _2 \langle y,x\rangle\)です。\(A\)が対称行列なので、\(\langle Ax,y\rangle =\langle x,Ay\rangle\)が成り立ち、したがって\(\lambda _1 \langle y,x\rangle = \langle y,x\rangle\)が得られます。差を取って、内積の交換法則を用いてまとめると、\((\lambda _1 -\lambda _2)\langle x,y\rangle=0\)。\(\lambda_1 \neq \lambda _2\)より割ることができて、\(\langle x,y\rangle=0\)が得られました。

 

対角化

行列を対角化すると、べき乗などの計算が簡単にできるようになります。

どんな行列も対角化できるわけではありません。しかし、実対称行列は必ず対角化できる、特に対角行列によって対角化できる、という重要な性質があります。このために対称行列を考えると言っても過言ではないかもしれません。

 

証明しましょう。

一般に、正方行列はユニタリ行列によって上三角行列化可能で、その対角成分には固有値が並びます。特に、固有値が実数のときは直交行列によって上三角行列にできます。

すなわち、\(P^{-1}AP=U\)とできます。ここで\(A\)は対称行列、\(P\)は直交行列なので、\(P^{-1}=P^\top\)、\((P^{-1}AP)^\top = (AP)^\top (P^{-1})^\top=P^{-1}AP\)です。すなわち、\(P^{-1}AP=U\)は対称行列です。\(U\)は上三角行列かつ対称行列なので、対角成分より上側の成分が0になり、\(U\)は対称行列であるとわかりました。

一般に、行列を対角化しようとする場合、固有値の代数的重複度と幾何学的重複度が一致するとは限りません。一致しない場合は対角化できません。しかし、対角行列に限っては、必ず代数的重複度と同じ分だけ線形独立な固有ベクトルが見つけられます。

したがって、固有値をすべて求めて、それに対応する固有ベクトルをすべて求めて、それらを並べた行列\(P\)を作れば、対角化できます。

 

ここでは簡単な具体例として、実対称行列

\[ \begin{aligned}\begin{pmatrix} 0 &1\\1 & 0  \end{pmatrix}\end{aligned} \]

を直交行列によって対角化してみましょう。固有方程式\(p(\lambda)=\lambda ^2 -1=0\)を解くと、固有値は\(1,-1\)です。確かに固有値が実数です。

固有値\(1\)に対応する固有ベクトルとして、\(x=\frac{1}{\sqrt{2}}(1,1)\)があります。固有値\(-1\)に対応する固有ベクトルとして、\(y=\frac{1}{\sqrt{2}}(1,-1)\)があります。\(x,y\)はそれぞれ大きさが1で、内積を計算すると直交していますね。

\[ \begin{aligned}P = \frac{1}{\sqrt{2}} \begin{pmatrix} 1 &1\\1 & -1  \end{pmatrix}\end{aligned} \]

と置くと、\(P\)は直交行列です。そして、\(P\)は固有ベクトルを並べた行列なので、

\[ \begin{aligned}P^{-1}A P = \begin{pmatrix} 1 &0\\0 & -1  \end{pmatrix}\end{aligned} \]

と対角化できました。

固有ベクトルたちを正規直交であるように見つけるには、シュミットの直交化法が使えます。

参考:シュミットの直交化法とは:正規直交基底の具体的な求め方

 

\(P^{-1}A P = D\)を\(A\)について整理することで、

\[ \begin{aligned}A=\begin{pmatrix} 0 &1\\1 & 0  \end{pmatrix}\end{aligned} \]

\[ \begin{aligned}P_1 =\frac{1}{2}\begin{pmatrix} 1 &1\\1 & 1  \end{pmatrix}\end{aligned} \]

\[ \begin{aligned}P_2 = \frac{1}{2}\begin{pmatrix} 1 &-1\\-1 & 1  \end{pmatrix}\end{aligned} \]

と置くと、\(P_1,P_2\)は射影行列(\(P^2=P\)を満たす対称行列)で、\(A = \lambda_1 P_1 +\lambda_2 P_2\)と分解できます。

対称行列では、固有値と射影行列による分解(スペクトル分解)が一般に行えることが知られています。

 

以上、対称行列の具体例と性質、内積による特徴づけ、逆行列、固有値、対角化について紹介してきました。

積については良い性質を持つとは言えませんが、内積や対角化について非常に良い性質を持っていることがわかります。実数の固有値からなる行列を考えたいなら、対称行列を考えれば良いのです。

対称行列には、射影行列や正定値行列と呼ばれる重要な行列が含まれます。また、複素行列の理論においては、エルミート行列が対称行列と似た役割を果たします。対角化の一般論が難しければ、まずは対称行列のケースから理解してみると良いのではないでしょうか。

木村すらいむ(@kimu3_slime)でした。ではでは。

 

明解演習 線形代数 (明解演習シリーズ)
平治, 小寺(著)
共立出版 (1982-07-09T00:00:01Z)
5つ星のうち4.0
¥788 (中古品)

 

世界標準MIT教科書 ストラング:線形代数イントロダクション
ギルバート ストラング(著), 松崎 公紀(翻訳), 新妻 弘(翻訳)
近代科学社 (2015-12-22T00:00:01Z)
5つ星のうち4.6
¥14,721 (コレクター商品)

 

基礎数学1線型代数入門

基礎数学1線型代数入門

posted with AmaQuick at 2021.05.20
齋藤正彦(著)
東京大学出版会 (2019-03-08T00:00:00.000Z)
5つ星のうち4.3
¥1,870

 

こちらもおすすめ

対角行列の性質:積、逆行列、固有値について

上三角、下三角行列の性質:積、逆行列、固有値について

2変数関数の極値の求め方、ヘッセ行列とは?

可逆な行列(正則行列)とは?例と同値な条件

行列の対角化可能性の定義とメリット、例、同値条件について解説

直交ベクトルの線形独立性、直交行列について解説

正方行列は上三角化可能であることの例、証明