直交ベクトルの線形独立性、正規直交基底、直交行列について解説

どうも、木村（@kimu3_slime）です。

直交するベクトルは、線形代数学において良い性質を持っています。

今回は、直交ベクトルの線形独立性、直交行列の定義と性質について紹介します。

直交ベクトルの線形独立性、直交基底
直交行列の定義、性質
こちらもおすすめ

直交ベクトルの線形独立性、直交基底

2つのベクトル\(a_1,a_2\)が線形従属であるとき、それは平行である\(a_2 = c a_1\)のでした。逆に、もし\(a_1,a_2\)が直交しているならば、それは平行ではありえない、線形独立なのではないでしょうか？ （ベクトルが直交しているとは、内積が0：\(\langle a_1,a_2\rangle= 0\)ということでした。）

参考：実数空間、線形結合、線形部分空間、次元とは何か：2次元を例に、ユークリッド空間R^Nの内積、ノルム、距離について解説

この予想は正しいです。

\(\{ a_1,\dots, a_k\}\)を互いに直交しているベクトルの集まりで、0ベクトルを含まないものとします。つまり、\(i \neq j \Rightarrow \langle a_i,a_j \rangle =0\)とします。このとき、\(\{ a_1,\dots, a_k\}\)は線形独立です。

確かめましょう。\(c_1,\dots,c_k\)を任意の定数として、\(c_1 a_1 +\cdots +c_k a_k=0\)と仮定します。ここで、両辺と\(a_i\)との内積を取ります。右辺は内積の定義より0です。左辺は、内積の線形性を使って整理し、直交している条件を使えば、\(c_i \langle a_i, a_i \rangle =0\)です。仮定より\(a_i \neq 0\)で、内積の正定値性より\(\langle a_i, a_i \rangle>0\)なので、\(c_i=0\)が導かれます。\(1\leq i \leq k\)は任意なので、係数がすべて0となり、\(\{ a_1,\dots, a_k\}\)は線形独立であるとわかりました。

直交しているベクトルの集まりは、直交系（orthogonal system）とも呼ばれます。さらにそのベクトルのノルム（大きさ）がすべて1： \(\|a_i\| =1\) のとき、それは正規直交系（orthonormal system）と呼ばれ、さらに基底でもあるときは正規直交基底（orthonormal basis）と呼ばれます。

例えば、\(e_i\)を第\(i\)成分が1で他が0の単位ベクトルとすると、\(\{e_1,\dots,e_N\}\)は直交系です。さらに正規直交基底であることがわかります。この基底は、\(\mathbb{R}^N\)の標準基底と呼ばれるものです。

直交するベクトルを見つけられれば、そこから基底、特に正規直交基底を組み立てられます。これは例えばフーリエ級数展開の理論に役立つものです。

参考：線形代数の応用：関数の「空間・基底・内積」を使ったフーリエ級数展開

（グラム-シュミットの直交化法については、別記事で紹介予定？）

直交行列の定義、性質

直交するベクトルが線形独立ということは、それらを並べてできる行列は可逆な行列になります。

参考：可逆な行列（正則行列）とは？例と同値な条件

例えば、置換行列\( \begin{pmatrix} 0&1\\1&0 \end{pmatrix}\)や回転行列\( \begin{pmatrix} \cos \theta &- \sin\theta\\ \sin \theta & \cos \theta \end{pmatrix}\)は、その列ベクトルが直交しています。

参考：置換行列とは？置換との関係、性質、転置・直交行列、回転行列とは？導出と例、性質を紹介

このような行列を、直交行列（orthogonal matrix）と呼びます。

直交行列の定義、同値条件

\(A\)を\(N\times N\)の実正方行列とし、その列ベクトルを\(A=(a_1,\dots,a_N)\)と表す。このとき、次の条件は同値。
(1) \(\{ a_1,\dots, a_N\}\) が正規直交系
(2) \(A^{\top}A =E\)。（つまり、\(A^{-1} =A^{\top} \)。\(A^{\top}\)は転置行列）
(3) 任意の\(x\in \mathbb{R}^N\)に対して、\(\|Ax \| = \|x\| \) （等長変換）
(4) 任意の\(x,y\in \mathbb{R}^N\)に対して、\(\langle Ax ,Ay \rangle = \langle x ,y \rangle \)

これを確かめてみましょう。

(1),(2)の同値性を示す。内積と転置ベクトルの間には、\( \langle x ,y \rangle = x^{\top} y\)という性質があります。そして、\(A^{\top}\)の行ベクトルは\(\{ a_1,\dots, a_N\}\) です。したがって、

\[ \begin{aligned}A^{\top}A = \begin{pmatrix} \langle a_1 ,a_1 \rangle &\langle a_1 ,a_2 \rangle&\cdots &\langle a_1 ,a_N \rangle\\ \langle a_2 ,a_1 \rangle &\langle a_2 ,a_2 \rangle&\cdots &\langle a_2 ,a_N \rangle \\ \vdots & \ddots&\vdots \\ \langle a_N ,a_1 \rangle &\langle a_N ,a_2 \rangle&\cdots &\langle a_N ,a_N \rangle\end{pmatrix}\end{aligned} \]

となります。したがって、(1)は\(A^{\top}A\)の対角成分が1、それ以外が0であることと同値。つまり、(2) \(A^{\top}A =I\)と同値。

(2)から(3)。ノルムの非負性より、\(\|Ax\| ^2 = \|x\|^2\)を示せば十分。ノルムと内積の性質より、\(\|Ax\| ^2 = \langle Ax, Ax\rangle = x^{\top}A^{\top}A x\)です。仮定(2)\(A^{\top}A =E\)より、\(\|Ax\| ^2 =x^{\top}x = \|x\|^2 \)が示せました。

(3)から(4)。まず、内積とノルムの性質より、\(\|Ax+Ay\|^2 = \|Ax\|^2 +2 \langle Ax,Ay\rangle +\|Ay\|^2 \)です。一方で、\(\|x+y\|^2 =\|x\|^2+2\langle x,y\rangle +\|y\|^2\)です。(3)より\(\|Ax\|^2=\|x\|^2,\|Ay\|^2 =\|y\|^2\)で、\(\|A(x+y)\|^2 =\|x+y\|^2\)なので、(4)\(\langle Ax ,Ay \rangle = \langle x ,y \rangle \) が示せました。

(4)から(1)。一般に\(Ae_i =a_i\)です。(4)より、\(\langle a_i ,a_i \rangle=\langle Ae_i ,Ae_i \rangle = \langle e_i ,e_i \rangle =1\)。同じく(4)より、\(i \neq j\)のとき、\(\langle a_i ,a_j \rangle=\langle Ae_i ,Ae_j \rangle = \langle e_i ,e_j \rangle =0\)です。よって、(1)が示せました。

以上によって、(1)-(4)いずれかの条件を満たす行列は、直交行列です。

直交行列の積は直交行列

直交行列の積は、直交行列になります。

\(A,B\)を直交行列として、定義(2)を使いましょう。一般に転置行列の性質として、\((AB)^{\top}=B^{\top}A^{\top}\)が成り立つちます。ゆえに、\((AB)^{\top} AB= B^{\top} A ^{\top} A B =B^{\top} I B =I \)なので、\(AB\)は直交行列です。

\(N\)次の直交行列の集合で、演算に行列の積を考えたものは、直交群\(O(N)\)（orthogonal group）と呼ばれます。

参考：群論入門～回転群と巡回群を例に、群の定義・同型・位数を解説

直交行列の行列式

直交行列は、行列式が1または-1になるという性質があります。

証明しましょう。一般に、\(\det AB = \det A \det B\)、\(\det A^{\top} = \det A\)という行列式の性質があります。\(A\)を直交行列とすれば、定義(2)より\(A^{\top} A =E\)です。両辺の行列式を取れば、\(\det A^{\top} \det A =1\)なので、\((\det A)^2 =1\)、すなわち\(\det A =\pm 1\)となりました。

参考：行列式の導出と定義、性質、計算方法（余因子展開）

直交行列のうち行列式1のものを集めた群\(SO(N):=\{A \in O(N) \mid \det A =1\}\)は、特殊直交群（special orthogonal group）、回転群（rotation group）と呼ばれます。