条件付き期待値の定義と基本性質の証明

確率変数 $X,Y$ の同時確率（密度）関数を $$\begin{array}{r}f(x,y)\end{array}$$ 確率変数 $X,Y$ の周辺確率（密度）関数を $$\begin{array}{r}g\left(x\right)h\left(y\right)\end{array}$$ それぞれの条件付き確率（密度）関数を $$\begin{array}{r}g\left(x\right|y)h\left(y\right|x)\end{array}$$ それぞれの変数の任意の関数を $$\begin{array}{r}k\left(x\right)l\left(y\right)\end{array}$$ 2変数の任意の関数を $$\begin{array}{r}m(x,y)\end{array}$$ とし、ここでは、連続型の場合について考える。

（I）確率変数の独立性の定義式より、 $$\begin{array}{c}g\left(x\right|y)=g\left(x\right)\\ h\left(y\right|x)=h\left(y\right)\end{array}$$ 条件付き期待値の定義式より、 $$\begin{array}{c}E\left(X\right|y)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}x\cdot g\left(x\right|y)dx={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}x\cdot g\left(x\right)dx=E\left(X\right)\\ E\left(Y\right|x)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}y\cdot h\left(y\right|x)dy={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}y\cdot h\left(y\right)dy=E\left(Y\right)\end{array}$$ $◼$

（II）期待値の定義式 $E\left\{l\left(Y\right)\right\}={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}l\left(y\right)\cdot h\left(y\right)dy$ より、$l\left(Y\right)=E\left(X\right|y)$ とすると、 $$\begin{array}{r}E\left[E\left(X\right|y)\right]={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}E\left(X\right|y)\cdot h\left(y\right)dy\end{array}$$ 条件付き期待値の定義式 $E\left(X\right|y)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}x\cdot g\left(x\right|y)dx$ より、 $$\begin{array}{r}E\left[E\left(X\right|y)\right]={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}x\cdot g\left(x\right|y)\cdot h\left(y\right)dxdy\end{array}$$ 条件付き確率密度関数の定義式の変形 $f(x,y)=g\left(x\right|y)\cdot h\left(y\right)$ より、 $$\begin{array}{r}E\left[E\left(X\right|y)\right]={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}x\cdot f(x,y)dxdy\end{array}$$ 多次元確率変数の期待値の定義式 $E\left(X\right)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}x\cdot f(x,y)dxdy$ より、 $$\begin{array}{r}E\left(X\right)=E\left[E\left(X\right|y)\right]\end{array}$$ $◼$

（III）期待値の定義式 $E\left\{l\left(Y\right)\right\}={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}l\left(y\right)\cdot h\left(y\right)dy$ より、$l\left(Y\right)=E\left\{m(X,y)\right|y\}$ とすると、 $$\begin{array}{r}E\left[E\left\{m(X,y)\right|y\}\right]={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}E\left\{m(X,y)\right|y\}\cdot h\left(y\right)dy\end{array}$$ 条件付き期待値の定義式 $E\left(k\left(X\right)\right|y)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}k\left(x\right)\cdot g\left(x\right|y)dx$ より、$k\left(X\right)=m(X,y)$ とすると、 $$\begin{array}{r}E\left[E\left\{m(X,y)\right|y\}\right]={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}m(x,y)\cdot g\left(x\right|y)dx\cdot h\left(y\right)dxdy\end{array}$$ 条件付き確率密度関数の定義式 $g\left(x\right|y)=\frac{f(x,y)}{h\left(y\right)}$ より、 $$\begin{array}{rl}E\left[E\left\{m(X,y)\right|y\}\right]& ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}m(x,y)\cdot \frac{f(x,y)}{h\left(y\right)}\cdot h\left(y\right)dxdy\\ & ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}m(x,y)\cdot f(x,y)dxdy\end{array}$$ 多次元確率変数の期待値の定義式 $E\left\{g(X,Y)\right\}={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}g(x,y)\cdot f(x,y)dxdy$ より、 $$\begin{array}{r}E\left[E\left\{m(X,y)\right|y\}\right]=E\left\{m(X,Y)\right\}\end{array}$$ $◼$