直交ベクトルの線形独立性、直交行列について解説

どうも、木村(@kimu3_slime)です。

直交するベクトルは、線形代数学において良い性質を持っています。

今回は、直交ベクトルの線形独立性、直交行列の定義と性質について紹介します。

 

直交ベクトルの線形独立性、直交基底

2つのベクトル\(a_1,a_2\)が線形従属であるとき、それは平行である\(a_2 = c a_1\)のでした。逆に、もし\(a_1,a_2\)が直交しているならば、それは平行ではありえない、線形独立なのではないでしょうか? (ベクトルが直交しているとは、内積が0:\(\langle a_1,a_2\rangle= 0\)ということでした。)

参考:実数空間、線形結合、線形部分空間、次元とは何か:2次元を例にユークリッド空間R^Nの内積、ノルム、距離について解説

 

この予想は正しいです。

\(\{ a_1,\dots, a_k\}\)を互いに直交しているベクトルの集まりで、0ベクトルを含まないものとします。つまり、\(i \neq j \Rightarrow \langle a_i,a_j \rangle =0\)とします。このとき、\(\{ a_1,\dots, a_k\}\)は線形独立です。

確かめましょう。\(c_1,\dots,c_k\)を任意の定数として、\(c_1 a_1 +\cdots +c_k a_k=0\)と仮定します。ここで、両辺と\(a_i\)との内積を取ります。右辺は内積の定義より0です。左辺は、内積の線形性を使って整理し、直交している条件を使えば、\(c_i \langle a_i, a_i \rangle =0\)です。仮定より\(a_i \neq 0\)で、内積の正定値性より\(\langle a_i, a_i \rangle>0\)なので、\(c_i=0\)が導かれます。\(1\leq i \leq k\)は任意なので、係数がすべて0となり、\(\{ a_1,\dots, a_k\}\)は線形独立であるとわかりました。

 

直交しているベクトルの集まりは、直交系(orthogonal system)とも呼ばれます。さらにそのベクトルのノルム(大きさ)がすべて1: \(\|a_i\| =1\) のとき、それは正規直交系(orthonormal system)と呼ばれ、さらに基底でもあるときは正規直交基底(orthonormal basis)と呼ばれます。

例えば、\(e_i\)を第\(i\)成分が1で他が0の単位ベクトルとすると、\(\{e_1,\dots,e_N\}\)は直交系です。さらに正規直交基底であることがわかります。この基底は、\(\mathbb{R}^N\)の標準基底と呼ばれるものです。

直交するベクトルを見つけられれば、そこから基底、特に正規直交基底を組み立てられます。これは例えばフーリエ級数展開の理論に役立つものです。

参考:線形代数の応用:関数の「空間・基底・内積」を使ったフーリエ級数展開

(グラム-シュミットの直交化法については、別記事で紹介予定?)

直交行列の定義、性質

直交するベクトルが線形独立ということは、それらを並べてできる行列は可逆な行列になります。

参考:可逆な行列(正則行列)とは?例と同値な条件

例えば、置換行列\( \begin{pmatrix} 0&1\\1&0 \end{pmatrix}\)や回転行列\( \begin{pmatrix} \cos \theta &- \sin\theta\\ \sin \theta & \cos \theta \end{pmatrix}\)は、その列ベクトルが直交しています。

参考:置換行列とは?置換との関係、性質、転置・直交行列回転行列とは? 導出と例、性質を紹介

このような行列を、直交行列(orthogonal matrix)と呼びます。

 

直交行列の定義、同値条件

\(A\)を\(N\times N\)の実正方行列とし、その列ベクトルを\(A=(a_1,\dots,a_N)\)と表す。このとき、次の条件は同値。

(1) \(\{ a_1,\dots, a_N\}\) が正規直交系

(2) \(A^{\top}A =E\)。(つまり、\(A^{-1} =A^{\top} \)。\(A^{\top}\)は転置行列)

(3) 任意の\(x\in \mathbb{R}^N\)に対して、\(\|Ax \| = \|x\| \) (等長変換)

(4) 任意の\(x,y\in \mathbb{R}^N\)に対して、\(\langle Ax ,Ay \rangle = \langle x ,y \rangle \)

これを確かめてみましょう。

(1),(2)の同値性を示す。内積と転置ベクトルの間には、\( \langle x ,y \rangle = x^{\top} y\)という性質があります。そして、\(A^{\top}\)の行ベクトルは\(\{ a_1,\dots, a_N\}\) です。したがって、

\[A^{\top}A = \begin{pmatrix} \langle a_1 ,a_1 \rangle &\langle a_1 ,a_2 \rangle&\cdots &\langle a_1 ,a_N \rangle\\ \langle a_2 ,a_1 \rangle &\langle a_2 ,a_2 \rangle&\cdots &\langle a_2 ,a_N \rangle \\ \vdots && \ddots&\vdots \\  \langle a_N ,a_1 \rangle &\langle a_N ,a_2 \rangle&\cdots &\langle a_N ,a_N \rangle\end{pmatrix}\]

となります。したがって、(1)は\(A^{\top}A\)の対角成分が1、それ以外が0であることと同値。つまり、(2) \(A^{\top}A =I\)と同値。

(2)から(3)。ノルムの非負性より、\(\|Ax\| ^2 = \|x\|^2\)を示せば十分。ノルムと内積の性質より、\(\|Ax\| ^2 = \langle Ax, Ax\rangle = x^{\top}A^{\top}A x\)です。仮定(2)\(A^{\top}A =E\)より、\(\|Ax\| ^2 =x^{\top}x = \|x\|^2 \)が示せました。

(3)から(4)。まず、内積とノルムの性質より、\(\|Ax+Ay\|^2 = \|Ax\|^2 +2 \langle Ax,Ay\rangle +\|Ay\|^2 \)です。一方で、\(\|x+y\|^2 =\|x\|^2+2\langle x,y\rangle +\|y\|^2\)です。(3)より\(\|Ax\|^2=\|x\|^2,\|Ay\|^2 =\|y\|^2\)で、\(\|A(x+y)\|^2 =\|x+y\|^2\)なので、(4)\(\langle Ax ,Ay \rangle = \langle x ,y \rangle \)  が示せました。

(4)から(1)。一般に\(Ae_i =a_i\)です。(4)より、\(\langle a_i ,a_i \rangle=\langle Ae_i ,Ae_i \rangle = \langle e_i ,e_i \rangle  =1\)。同じく(4)より、\(i \neq j\)のとき、\(\langle a_i ,a_j \rangle=\langle Ae_i ,Ae_j \rangle = \langle e_i ,e_j \rangle  =0\)です。よって、(1)が示せました。

以上によって、(1)-(4)いずれかの条件を満たす行列は、直交行列です。

 

直交行列の積は直交行列

直交行列の積は、直交行列になります。

\(A,B\)を直交行列として、定義(2)を使いましょう。一般に転置行列の性質として、\((AB)^{\top}=B^{\top}A^{\top}\)が成り立つちます。ゆえに、\((AB)^{\top} AB= B^{\top} A ^{\top} A B =B^{\top} I  B =I \)なので、\(AB\)は直交行列です。

\(N\)次の直交行列の集合で、演算に行列の積を考えたものは、直交群\(O(N)\)(orthogonal group)と呼ばれます。

参考:群論入門~回転群と巡回群を例に、群の定義・同型・位数を解説

 

直交行列の行列式

直交行列は、行列式が1または-1になるという性質があります。

証明しましょう。一般に、\(\det AB = \det A \det B\)、\(\det A^{\top} = \det A\)という行列式の性質があります。\(A\)を直交行列とすれば、定義(2)より\(A^{\top} A =E\)です。両辺の行列式を取れば、\(\det A^{\top} \det A =1\)なので、\((\det A)^2 =1\)、すなわち\(\det A =\pm 1\)となりました。

参考:行列式の導出と定義、性質、計算方法(余因子展開)

 

直交行列のうち行列式1のものを集めた群\(SO(N):=\{A \in O(N) \mid \det A =1\}\)は、特殊直交群(special orthogonal group)、回転群(rotation group)と呼ばれます。

直交行列は、行列を直交行列と上三角行列に分解するQR分解、最小二乗近似に応用されています。(別記事で紹介予定)

 

以上、直交するベクトルの線形独立性、直交行列の定義と性質を紹介してきました。直交性は内積と関係して強い性質を持っているので、ベクトルや行列を調べるときに活用しましょう。

木村すらいむ(@kimu3_slime)でした。ではでは。

 

世界標準MIT教科書 ストラング:線形代数イントロダクション
ギルバート ストラング(著), 松崎 公紀(翻訳), 新妻 弘(翻訳)
近代科学社 (2015-12-22T00:00:01Z)
5つ星のうち4.5
¥8,800

 

線型代数入門 (基礎数学)

線型代数入門 (基礎数学)

posted with AmaQuick at 2020.11.26
齋藤 正彦(著)
東京大学出版会 (1966-03-31T00:00:01Z)
5つ星のうち4.2
¥2,090

こちらもおすすめ

実数空間、線形結合、線形部分空間、次元とは何か:2次元を例に

ユークリッド空間R^Nの内積、ノルム、距離について解説

線形代数の応用:関数の「空間・基底・内積」を使ったフーリエ級数展開

置換行列とは?置換との関係、性質、転置・直交行列

回転行列とは? 導出と例、性質を紹介

可逆な行列(正則行列)とは?例と同値な条件