2変数の確率変数の期待値とは：和と積の性質、証明

どうも、木村（@kimu3_slime）です。

今回は、2変数の確率変数の期待値とは何か、和と積の性質、その証明について紹介します。

\[E(X+Y)=E(X)+E(Y)\]

\[E(XY)=E(X)E(Y)\]

2変数の確率変数の期待値
和の性質：加法性
- 離散確率変数のとき
- 連続確率変数のとき
積の性質
こちらもおすすめ

2変数の確率変数の期待値

2つの確率変数\(X,Y\)があって、その和\(X+Y\)や積\(XY\)の期待値について考えたいとしましょう。

一般に、\(g\)を連続関数として、\(g(X,Y)\)の期待値（expectation）、平均（mean）は

\[E(g(X,Y))= \sum_{y} \sum _x g(x,y) f(x,y)\]

\[E(g(X,Y))= \int_{-\infty}^\infty \int_{-\infty}^\infty g(x,y) f(x,y)dxdy\]

と定義されます。前者は確率変数が離散的、後者は連続的なときです。

ここで、\(f\)は\(X,Y\)の同時確率（質量・密度）関数です。

例えば、\(X+Y\)の期待値ならば\(g(x,y)=x+y\)、\(X,Y\)の期待値ならば\(g(x,y)=xy\)に対応します。

1変数の確率変数\(X\)を使った変数\(g(X)\)の期待値の定義は

\[E(g(X))= \sum_{x} g(x) f(x)\]

\[E(g(X))= \int_{-\infty}^\infty g(x) f(x)dx\]

でした（離散・連続）。2変数の定義は、これを一般化した形と言えます。

和の性質：加法性

2変数の期待値について基本的な性質は、加法性

\[E(X+Y)=E(X)+E(Y)\]

です。

\(g(x,y)=x+y\)となっていることに注意して、これを証明しましょう。

離散確率変数のとき

期待値の定義と、和の線形性から

\[\begin{aligned} &E(X+Y)\\&= \sum_{y} \sum _x (x+y) f(x,y)\\&= \sum_{y}( \sum _x x f(x,y)+y\sum _x f(x,y))\\ &= \sum _x x (\sum_{y} f(x,y))+ \sum_{y} y(\sum _x f(x,y))\\&= \sum_x xf_X(x) + \sum_{y} yf_Y(y) \\&= E(X)+E(Y)\end{aligned}\]

となります。

\(X\)の確率質量関数を\(f_X\)と表し、\(X,Y\)の\(X\)に関する周辺確率質量関数が\(f_X(x) =\sum _y f(x,y) \)という関係にあることに注意しましょう。\(Y\)についても同様です。

和を取っている範囲・変数に気をつけて、\(\sum_x xf(x,y)= x\sum_x f(x,y)\)のようなおかしな計算にならないようにしましょう。

連続確率変数のとき

期待値の定義と、積分の線形性から

\[\begin{aligned} &E(X+Y)\\&= \int_{-\infty}^\infty \int_{-\infty}^\infty (x+y) f(x,y)dxdy\\&= \int_{-\infty}^\infty ( \int_{-\infty}^\infty x f(x,y) dx+y\int_{-\infty}^\infty f(x,y) dx) dy\\ &= \int_{-\infty}^\infty x (\int_{-\infty}^\infty f(x,y)dy)dx+ \int_{-\infty}^\infty y(\int_{-\infty}^\infty f(x,y)dx) dy\\&= \int_{-\infty}^\infty xf_X(x)dx + \int_{-\infty}^\infty yf_Y(y)dy \\&= E(X)+E(Y)\end{aligned}\]

となります。途中で積分の順序交換をしています。

\(X\)の確率密度関数を\(f_X\)と表し、\(X,Y\)の\(X\)に関する周辺確率密度関数が\(f_X(x) =\int_{-\infty}^\infty f(x,y) dy\)という関係にあることに注意しましょう。\(Y\)についても同様です。

積の性質

期待値の積については、もし確率変数\(X,Y\)が互いに独立ならば

\[E(XY)=E(X)E(Y)\]

が成り立ちます。\(g(x,y)=xy\)のケースですね。

独立であるときには、確率（質量・密度）関数について\(f(x,y)=f_X(x)f_Y(y)\)という関係が成り立つことを思い出しましょう。

離散確率変数のとき

和の線形性から、

\[\begin{aligned} &E(XY)\\&= \sum_{y} \sum _x xy f(x,y)\\&= \sum_{y} \sum _x xy f_X(x)f_Y(y)\\ &= \sum_{y}(yf_Y(y) \sum _x x f_X(x)) \\&= (\sum_{y}yf_Y(y) )(\sum _x x f_X(x) )\\&= E(X)E(Y)\end{aligned}\]

となります。

連続確率変数のとき

和の線形性から、

\[\begin{aligned} &E(XY)\\&= \int_{-\infty}^\infty \int_{-\infty}^\infty xy f(x,y)dxdy\\&= \int_{-\infty}^\infty\int_{-\infty}^\infty xy f_X(x)f_Y(y) dx dy\\ &=\int_{-\infty}^\infty(yf_Y(y) \int_{-\infty}^\infty x f_X(x) dx)dy \\&= (\int_{-\infty}^\infty yf_Y(y) dy)(\int_{-\infty}^\infty x f_X(x) dx) \\&= E(X)E(Y)\end{aligned}\]

となります。

独立でないとき

確率変数が独立でないとき、積の性質は成り立つとは限りません。

例として、\(\Omega =[0,1]\times[0,1]\)

\[f_{X,Y}(x,y) = \begin{cases}x+y & ((x,y)\in \Omega)\\0 & (それ以外)\end{cases}\]

\[f_{X}(x) = \begin{cases}x+\frac{1}{2} & (x\in [0,1])\\0 & (それ以外)\end{cases}\]

\[f_{Y}(y) = \begin{cases}y+\frac{1}{2} & (y\in [0,1])\\0 & (それ以外)\end{cases}\]

となる連続確率変数\(X,Y\)を考えましょう。この確率変数は独立ではありません。

期待値を計算すると、

\[\begin{aligned}& E(X+Y)\\ &= \int_0^1 \int_0^1 (x+y)(x+y)dxdy\\ &=\int_0^1 [\frac{1}{3}x^3 +x^2 y +xy^2]_{x=0}^{x=1} dy \\ &= \int _0^1 (\frac{1}{3}+y+y^2)dy \\&= [\frac{1}{3}y+\frac{1}{2}y^2 +\frac{1}{3}y^3]_0^1\\&= \frac{7}{6}\end{aligned}\]

\[\begin{aligned} &E(X) \\ &= \int_0^1 x(x+\frac{1}{2})dx\\&=[\frac{1}{3}x^3 +\frac{1}{4}x^2 ]_0^1 \\&= \frac{7}{12}\end{aligned}\]

\[\begin{aligned} E(Y) = \frac{7}{12}\end{aligned}\]

なので、\(E(XY)\neq E(X)E(Y)\)となっています。

以上、2変数の確率変数の期待値とは何か、和と積の性質、その証明について紹介してきました。

期待値の加法性は、繰り返す試行の期待値、例えばベルヌーイ分布の期待値から二項分布の期待値を求めるのに使えます。積については、独立性の条件が必要であることに注意しましょう。

木村すらいむ（@kimu3_slime）でした。ではでは。