本稿では、条件付き期待値の定義を紹介しその基本性質を証明しています。いわゆる「期待値の繰り返し公式」の証明です。
なお、閲覧にあたっては、以下の点にご注意ください。
- スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。
条件付き期待値
確率変数 $X,Y$ に対し、$Y=y$ を与えたときの $X$ の条件付き確率（密度）関数を $g \left(\ x\ \middle|\ y\ \right)$ としたとき、 \begin{align} E \left(\ X\ \middle|\ Y=y\ \right)= \left\{\begin{matrix}\sum_{x=-\infty}^{\infty}{x \cdot g \left(\ x\ \middle|\ y\ \right)}&\mathrm{\mathrm{Discrete}}\\\int_{-\infty}^{\infty}{x \cdot g \left(\ x\ \middle|\ y\ \right)dx}&\mathrm{\mathrm{Continuous}}\\\end{matrix}\right. \end{align} を $Y=y$ を与えたときの $X$ の条件付き期待値 conditional expected value という。 なお、条件付き期待値を \begin{align} E \left(\ X\ \middle|\ y\ \right) \end{align} と書くこともある。
一般に、確率変数 $X$ の関数 $h \left(X\right)$ の条件付き期待値は、 \begin{align} E \left\{\ h \left(X\right)\ \middle|\ y\ \right\}= \left\{\begin{matrix}\sum_{x=-\infty}^{\infty}{h \left(x\right) \cdot g \left(\ x\ \middle|\ y\ \right)}&\mathrm{\mathrm{Discrete}}\\\int_{-\infty}^{\infty}{h \left(x\right) \cdot g \left(\ x\ \middle|\ y\ \right)dx}&\mathrm{\mathrm{Continuous}}\\\end{matrix}\right. \end{align} で与えられる。 条件付き期待値 $E \left(\ X\ \middle|\ y\ \right)$ は、確率変数 $Y$ の関数であり、それ自体確率変数であると言える。
【定理】条件付き期待値の基本性質
【定理】
条件付き期待値の基本性質
Basic Properties of Conditional Expected Value
（I）独立な確率変数の条件付き期待値
確率変数 $X,Y$ が互いに独立のとき、
\begin{gather}
E \left(\ X\ \middle|\ Y=y\ \right)=E \left(X\right)\\
E \left(\ Y\ \middle|\ X=x\ \right)=E \left(Y\right)
\end{gather}
が成り立つ。
（II）期待値の繰り返し公式
『確率変数 $X$ の期待値』は、『「$Y=y$ を与えたときの $X$ の条件付き期待値」の期待値』に等しい、すなわち、
\begin{align}
E \left(X\right)=E \left[E \left(X\middle| y\right)\right]
\end{align}
が成り立つ。
（III）期待値の繰り返し公式の一般化
確率変数 $X,Y$ の任意の関数 $m \left(X,Y\right)$ の期待値は、『「$Y=y$ を与えたときの $m \left(X,y\right)$ （$X$ の関数）の条件付き期待値」の期待値』、あるいは、『「$X=x$ を与えたときの $m \left(x,Y\right)$ （$Y$ の関数）の条件付き期待値」の期待値』に等しい、すなわち、
\begin{align}
E \left[m \left(X,Y\right)\right]=E \left[E \left\{m \left(X,y\right)\middle| y\right\}\right]=E \left[E \left\{m \left(x,Y\right)\middle| x\right\}\right]
\end{align}
が成り立つ。
証明
確率変数 $X,Y$ の同時確率（密度）関数を \begin{align} f \left(x,y\right) \end{align} 確率変数 $X,Y$ の周辺確率（密度）関数を \begin{align} g \left(x\right) \quad h \left(y\right) \end{align} それぞれの条件付き確率（密度）関数を \begin{align} g \left(\ x\ \middle|\ y\ \right) \quad h \left(\ y\ \middle|\ x\ \right) \end{align} それぞれの変数の任意の関数を \begin{align} k \left(x\right) \quad l \left(y\right) \end{align} 2変数の任意の関数を \begin{align} m \left(x,y\right) \end{align} とし、ここでは、連続型の場合について考える。
（I）確率変数の独立性の定義式より、 \begin{gather} g \left(\ x\ \middle|\ y\ \right)=g \left(x\right)\\ h \left(\ y\ \middle|\ x\ \right)=h \left(y\right) \end{gather} 条件付き期待値の定義式より、 \begin{gather} E \left(\ X\ \middle|\ y\ \right)=\int_{-\infty}^{\infty}{x \cdot g \left(\ x\ \middle|\ y\ \right)dx}=\int_{-\infty}^{\infty}{x \cdot g \left(x\right)dx}=E \left(X\right)\\ E \left(\ Y\ \middle|\ x\ \right)=\int_{-\infty}^{\infty}{y \cdot h \left(\ y\ \middle|\ x\ \right)dy}=\int_{-\infty}^{\infty}{y \cdot h \left(y\right)dy}=E \left(Y\right) \end{gather} $\blacksquare$
（II）期待値の定義式 $E \left\{l \left(Y\right)\right\}=\int_{-\infty}^{\infty}{l \left(y\right) \cdot h \left(y\right)dy}$ より、$l \left(Y\right)=E \left(\ X\ \middle|\ y\ \right)$ とすると、 \begin{align} E \left[E \left(\ X\ \middle|\ y\ \right)\right]=\int_{-\infty}^{\infty}{E \left(\ X\ \middle|\ y\ \right) \cdot h \left(y\right)dy} \end{align} 条件付き期待値の定義式 $E \left(\ X\ \middle|\ y\ \right)=\int_{-\infty}^{\infty}{x \cdot g \left(\ x\ \middle|\ y\ \right)dx}$ より、 \begin{align} E \left[E \left(\ X\ \middle|\ y\ \right)\right]=\int_{-\infty}^{\infty}{\int_{-\infty}^{\infty}{x \cdot g \left(\ x\ \middle|\ y\ \right)} \cdot h \left(y\right)dxdy} \end{align} 条件付き確率密度関数の定義式の変形 $f \left(x,y\right)=g \left(x\middle| y\right) \cdot h \left(y\right)$ より、 \begin{align} E \left[E \left(\ X\ \middle|\ y\ \right)\right]=\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}{x \cdot f \left(x,y\right)dxdy} \end{align} 多次元確率変数の期待値の定義式 $E \left(X\right)=\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}{x \cdot f \left(x,y\right)dxdy}$ より、 \begin{align} E \left(X\right)=E \left[E \left(\ X\ \middle|\ y\ \right)\right] \end{align} $\blacksquare$
（III）期待値の定義式 $E \left\{l \left(Y\right)\right\}=\int_{-\infty}^{\infty}{l \left(y\right) \cdot h \left(y\right)dy}$ より、$l \left(Y\right)=E \left\{m \left(X,y\right)\middle| y\right\}$ とすると、 \begin{align} E \left[E \left\{m \left(X,y\right)\middle| y\right\}\right]=\int_{-\infty}^{\infty}{E \left\{m \left(X,y\right)\middle| y\right\} \cdot h \left(y\right)dy} \end{align} 条件付き期待値の定義式 $E \left(\ k \left(X\right)\ \middle|\ y\ \right)=\int_{-\infty}^{\infty}{k \left(x\right) \cdot g \left(\ x\ \middle|\ y\ \right)dx}$ より、$k \left(X\right)=m \left(X,y\right)$ とすると、 \begin{align} E \left[E \left\{m \left(X,y\right)\middle| y\right\}\right]=\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}{m \left(x,y\right) \cdot g \left(\ x\ \middle|\ y\ \right)dx \cdot h \left(y\right)dxdy} \end{align} 条件付き確率密度関数の定義式 $g \left(x\middle| y\right)=\frac{f \left(x,y\right)}{h \left(y\right)}$ より、 \begin{align} E \left[E \left\{m \left(X,y\right)\middle| y\right\}\right]&=\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}{m \left(x,y\right) \cdot \frac{f \left(x,y\right)}{h \left(y\right)} \cdot h \left(y\right)dxdy}\\ &=\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}{m \left(x,y\right) \cdot f \left(x,y\right)dxdy} \end{align} 多次元確率変数の期待値の定義式 $E \left\{g \left(X,Y\right)\right\}=\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}{g \left(x,y\right) \cdot f \left(x,y\right)dxdy}$ より、 \begin{align} E \left[E \left\{m \left(X,y\right)\middle| y\right\}\right]=E \left\{m \left(X,Y\right)\right\} \end{align} $\blacksquare$
参考文献
- 野田 一雄, 宮岡 悦良 著. 入門・演習数理統計. 共立出版, 1990, p.91-92
- 竹村 彰通 著. 現代数理統計学. 創文社, 1991, p.51-52
- 久保川 達也 著, 新井 仁之, 小林 俊行, 斎藤 毅, 吉田 朋広 編. 現代数理統計学の基礎. 共立出版, 2017, p.59-60
- 黒木 学 著. 数理統計学：統計的推論の基礎. 共立出版, 2020, p.63-64
0 件のコメント:
コメントを投稿