pノルムとは:絶対値ノルム、最大値ノルム、同値なノルム

どうも、木村(@kimu3_slime)です。

今回は、数ベクトルのpノルム、絶対値ノルム、最大値ノルム、とは何か、同値なノルムという考え方も紹介します。

 

pノルムとは

\(\mathbb{R}^N\)をユークリッド空間(数ベクトル空間)とし、\(x= (x_1,\dots,x_N) \in \mathbb{R}^N\)とします。ベクトルのノルムは

\[ \begin{aligned}\|x\|  = (\sum _{i=1}^N x_i ^2)^\frac{1}{2}\end{aligned} \]

というものを考えることが多いでしょう。これをユークリッドノルムと呼ぶのでした。しかし、一般的な意味でのノルムには、さまざまなノルムがあります。

ユークリッドノルムを、次のように一般化してみましょう。\(p\)を\(p>1\)を満たす実数として

\[ \begin{aligned}\|x\|_p := (\sum_{i=1}^N |x_i|^p)^\frac{1}{p}\end{aligned} \]

とします。これを\(p\)ノルム(p-norm)、または\(\ell ^p\)ノルムと呼びます。

この立場からすれば、ユークリッドノルムとは\(2\)ノルムに他なりません。

 

絶対値ノルム

\(p=1\)のとき、1ノルムは絶対値ノルム(absolute value normと呼ばれるものです。

\[ \begin{aligned}\|x\|_1 = \sum_{i=1}^N |x_i| \end{aligned} \]

その名の通り、各成分の絶対値を足し合わせたものと言えます。1次元の絶対値はノルムの一種ですが、それを一般化したノルムです。

例えば、\(\|(1,-1)\|_1 =|1|+|-1|=2\)ですね。

 

\(p=1,2,3\)のノルムに対して、そのノルムでの単位円\(D_p = \{x \in \mathbb{R}^2 \mid \|x\|_p =1\}\)を描いてみましょう。

\[ \begin{aligned}|x_1|+|x_2|=1\end{aligned} \]

\[ \begin{aligned}x_1^2+ x_2 ^2 =1\end{aligned} \]

\[ \begin{aligned}|x_1|^3+|x_2|^3 =1\end{aligned} \]

例えば\(x_1,x_2>0\)のとき(第一象限)は、\(x_2\)について解けば次のような曲線が得られるとわかるでしょう。

\[ \begin{aligned}x_2 = 1-x_1\end{aligned} \]

\[ \begin{aligned}x_2 = \sqrt{1-x_1^2}\end{aligned} \]

\[ \begin{aligned}x_2 = (1-x_1^3)^\frac{1}{3}\end{aligned} \]

\(p\)ノルムは、各成分をマイナスに置き換えても等しい、各軸について対称なので、次のような図が得られます。

\(D_2\)と\(D_3\)の違いが、図が下手でわかりにくいかもしれません。\(D_1\)より\(D_2\)が外側に膨らんでいるように、\(D_2\)より\(D_3\)は膨らんでいます。

実際、対角線上の点\((\frac{1}{\sqrt{2}},\frac{1}{\sqrt{2}} ) \in D_2\)、\((\frac{1}{\sqrt[3]{2}},\frac{1}{\sqrt[3]{2}} ) \in D_3\)を比較するとわかりやすいでしょう。\(\sqrt{2} > \sqrt[3]{2}\)なので、逆数は逆の不等号が成り立ちます。

\(D_1,D_2,D_3\)はどれも「円盤=原点からのノルムが一定の点の集まり」です。円盤といえば普通は\(D_2\)の形を思い浮かべるかも知れませんが、ノルムを変えればさまざまな円盤が考えられます。

 

絶対値ノルムにより定まる距離

\[ \begin{aligned}d_1(x,y):= \|x-y\|_1\end{aligned} \]

マンハッタン距離(manhattan distance)と呼ばれます。日本で言えば京都のように、格子や碁盤のように直交した道しか通っていない場所をイメージしましょう。

そこで距離(2点の最短経路)を考えると、斜めに通ることができないので、縦または横の移動量のみを測るのが最短となり、それは各成分の絶対値を足したものとなりますね。

この距離を使った幾何学は、タクシー幾何学(taxicab geometry)と呼ばれるようです。

 

最大値ノルム

今までは\(p\)は有限値を考えていましたが、その極限的な状況として

\[ \begin{aligned}\|x\|_\infty := \max_{i=1,\dots,N}  |x_i|\end{aligned} \]

というノルムを考えます。\(\max\)は右側の対象の最大値を表すものです。

これを最大値ノルム(maximum norm)、無限大ノルム(infinity norm)と呼びます。

 

最大値ノルムによる円盤\(D_\infty = \{x \in \mathbb{R}^2 \mid \|x\|_\infty =1\}\)はどんな形でしょうか。

ひとつの成分\(x_i\)の絶対値が1になっていたら、\(\|x\|_\infty =1\)です。どちらの成分の絶対値も1になっていなかったら、例えば\(\|(\frac{1}{2}, \frac{1}{2})\|= \frac{1}{2} \neq 1\)です。したがって、

という形になります。

 

最大値ノルムにおける\(\infty\)は、数ではなく単なる記号です。ただしこの記号を用いるのは、

\[ \begin{aligned}\lim_{p \to \infty} \|x\|_p= \|x\|_\infty \end{aligned} \]

が成り立つからです。幾何学的には、\(D_p\)で\(p\)を大きくしていくと膨らんでいき、\(D_\infty\)に近づいていきそうな感じがしました。詳しくは、後に証明します。

 

同値なノルム

これまでにいくつかの\(p\)ノルムを紹介してきましたが、これらは極限や収束に関しては「同じ」性質を持っています。

1次元的な数に対して収束を考えたように、ベクトルに対してもノルムを使って収束を定義できます。ベクトルの列\((x[k])_k\)が\(a\)に収束するとは、

\[ \begin{aligned}\lim_{k \to \infty} \|x[k]-a\|_2=0\end{aligned} \]

としましょう。

例えば、\(\lim_{k \to \infty} \|(2^{\frac{1}{k}},\frac{1}{k^2})-(1,0)\|_2=0\)です。

2ノルムによる収束は、\(x[k]\)の各成分が\(a\)の各成分に収束すること(絶対値ノルムによる収束)や、成分の差の絶対値の最大値が0に収束すること(最大値ノルムによる収束)と同値になります。その理屈を説明するのが、ノルム同値という考え方です。

 

\(p\)ノルムの大小関係については、

\[ \begin{aligned}\frac{1}{N}\|x\| _1 \leq \|x\|_\infty \leq \|x\|_2 \leq \|x\|_1\end{aligned} \]

が成り立ちます。

一般に、2つのノルム\(\|\cdot\|_a,\|\cdot\|_b\)が同値である(equivalent)とは、定数\(C_1,C_2\)で次を満たすものが存在することです。すべての\(x\)に対し、

\[ \begin{aligned}C_1 \|x\|_a \leq \|x\|_b \leq C_2 \|x\|_a\end{aligned} \]

が成り立つ。

つまり、絶対値ノルム、ユークリッドノルム、最大値ノルムは同値です。確かめてみましょう。

まず、最大値の性質より

\[ \begin{aligned} \frac{1}{N}\|x\| _1 &=\frac{1}{N}\sum_{i=1} ^N |x_i| \\& \leq \frac{1}{N}\sum_{i=1} ^N  \max_{j=1,\dots,N}|x_j| \\ &=\frac{1}{N}N \|x\|_\infty \\ &= \|x\|_\infty\end{aligned} \]

が成り立ちます。

\[ \begin{aligned}   \|x\|_\infty &=( \max_{i=1,\dots,N}|x_i|^2) ^\frac{1}{2} \\ & \leq (\sum _{i=1}^N |x_i|^2 )^\frac{1}{2} \\ &= \|x\|_2 \end{aligned} \]

ここで和を取るところの不等式が成り立つのは、\(i\)すべての和を取れば、最大値となる成分をひとつは含んでいるからです。

絶対値の三角不等式\(|x+y|\leq |x|+|y|\)を使えば、

\[ \begin{aligned} \|x\|_2 &= (\sum_{i=1}^N |x_i|^2)^\frac{1}{2} \\& \leq(\sum_{i=1}^N |x_i|^2 + \sum_{i\neq j}^N |x_i||x_j|)^\frac{1}{2}  \\&= ((\sum_{i=1}^N |x_i|)^2 )^\frac{1}{2}\\&= \|x\|_1\end{aligned} \]

と示せました。

 

同値なノルムについては、収束する点列の極限も等しくなります。例えば、

\[ \begin{aligned}\lim_{k \to \infty} \|x[k]-a\|_2=0\end{aligned} \]

ならば、ノルムの同値性から

\[ \begin{aligned}C_1 \|x[k]-a\|_2 \leq \|x[k]-a\|_1 \leq C_2\|x[k]-a\|_2\end{aligned} \]

が成り立ちます。\(C_1,C_2\)は\(k\)に依存していないことに注意して、\(k\to \infty\)の極限を取れば、はさみうちの原理から

\[ \begin{aligned}\lim _{k\to \infty} \|x[k]-a\|_1 =0\end{aligned} \]

です。1ノルムでなく、他のノルムでも同様。

 

最大値ノルムでは、\(\infty\)という記号を使いました。これは数ではないですが、なぜこの記号を使うかと言えば、

\[ \begin{aligned}\lim _{p \to \infty}\|x\|_p = \|x\|_\infty\end{aligned} \]

が成り立つからです。さきほどの不等式評価と同様にして、

\[ \begin{aligned} \|x\|_p & \leq(\sum_{i=1}^N \max_{j} |x_j|)^{\frac{1}{p}} \\&= N^{\frac{1}{p}} \|x\|_\infty \end{aligned} \]

\[ \begin{aligned} \|x\|_\infty &= (\max_{i} |x_i|^p)^\frac{1}{p}\\& \leq \|x\|_p  \end{aligned} \]

なので、\(p\to \infty\)とすれば、\(N^\frac{1}{p}\to N^0=1\)で、はさみうちの原理から結論が言えます。

 

今回は、\(p\)として\(p \geq 1\)という条件をつけました。\(p<1\)のときを考えることが少ないのは、そのときはノルムの定義を満たさないからです。

例えば、\(p=\frac{1}{2}\)のとき、\((1,0),(0,4)\)を考えると、

\[ \begin{aligned}\|(1,4)\|_{\frac{1}{2}}=(1+2)^2=9 \end{aligned} \]

\[ \begin{aligned}\|(1,0)\|_{\frac{1}{2}}=(1)^2 =1\end{aligned} \]

\[ \begin{aligned}\|(0,4)\|_{\frac{1}{2}}=(2)^2=4 \end{aligned} \]

となり、三角不等式\(\|x+y\| \leq \|x\|+\|y\|\)を満たしません。

\[ \begin{aligned}\|(1,4)\|_\frac{1}{2}> \|(1,0)\|_\frac{1}{2}+\|(0,4)\|_\frac{1}{2} \end{aligned} \]

\(p<1,p \geq 1\)でノルムであるかどうかは変わります。それは\(f(x)= x^p\)のグラフが、\(p<1\)のときに上に凸で、\(p \geq 1\)のときに下に凸であることに対応したものです。

 

数列、関数のpノルム

今回はユークリッド空間の\(p\)ノルムを紹介してきました。それは、数列や関数の\(p\)ノルム

\[ \begin{aligned}\|x\|_{\ell ^p} =(\sum _{i=1} ^\infty |x_i|^p)^\frac{1}{p}\end{aligned} \]

\[ \begin{aligned}\|x\|_{\ell ^\infty} =\sup_{i \in \mathbb{N}}|x_i|\end{aligned} \]

\[ \begin{aligned}\|f\|_{L^p}= (\int_U |f(x)|^p)^\frac{1}{p}\end{aligned} \]

\[ \begin{aligned}\|f\|_{L^\infty} = \sup _{x\in U} |f(x)|\end{aligned} \]

の特殊なケースと言えます。

参考:距離空間とは:関数空間、ノルム、内積を例に

\(\sup\)は上限と呼ばれるもので、無限個の要素に対しては最大値が存在しないかも知れないので、置き換えています。上限を使ったノルムは、上限ノルム、supノルムと呼ばれるものです。

特に、関数の上限ノルム(一様ノルム)と積分ノルム(pノルム)は同値ではないことは有名です。関数空間では、考えるノルムによって、収束の意味が変わりうるのです。こうした問題は、詳しくは関数解析学で扱うことになるでしょう。

有限次元のノルム空間では、すべてのノルムが同値となることが知られています。今回紹介した\(p\)ノルムに限らず、どんなノルムを使っても収束に関する概念は等しいのです。使いやすいノルムを使って議論すれば良いということになります。

 

以上、pノルム、絶対値ノルム、最大値ノルムとはどういうものか、同値なノルムという考え方を紹介してきました。

ノルムといえばユークリッドノルムと思っている人もいるかもしれませんが、一般的なノルムの枠組みでは、さまざまな「測り方」を考えることができます。

数列や関数ではさまざまなノルムを考えることになりますが、その前段階として、数ベクトルのpノルムを知っておくと良いでしょう。

木村すらいむ(@kimu3_slime)でした。ではでは。

 

明解演習 線形代数 (明解演習シリーズ)
平治, 小寺(著)
共立出版 (1982-07-09T00:00:01Z)
5つ星のうち4.0
¥788 (中古品)

 

世界標準MIT教科書 ストラング:線形代数イントロダクション
ギルバート ストラング(著), 松崎 公紀(翻訳), 新妻 弘(翻訳)
近代科学社 (2015-12-22T00:00:01Z)
5つ星のうち4.6
¥14,721 (コレクター商品)

 

基礎数学1線型代数入門

基礎数学1線型代数入門

posted with AmaQuick at 2021.05.20
齋藤正彦(著)
東京大学出版会 (2019-03-08T00:00:00.000Z)
5つ星のうち4.3
¥1,870

 

こちらもおすすめ

ユークリッド空間R^Nの内積、ノルム、距離について解説

距離空間とは:関数空間、ノルム、内積を例に

距離空間とは:関数空間、ノルム、内積を例に