本稿では、条件付き分散の定義を紹介し、その基本性質を証明しています。分散の公式を条件付きに拡張したものといわゆる「全分散の法則」の証明です。
なお、閲覧にあたっては、以下の点にご注意ください。
- スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。
条件付き分散
確率変数 $X,Y$ に対し、$Y=y$ を与えたときの $X$ の分散 \begin{align} V \left(\ X\ \middle|\ y\ \right)=E \left[ \left. \left\{X-E \left(\ X\ \middle|\ y\ \right)\right\}^2\right|y\right] \end{align} を $Y=y$ を与えたときの $X$ の条件付き分散 conditional variance という。
【公式】条件付き分散の公式
【公式】
条件付き分散の公式
Conditional Variance Formula
確率変数 $X,Y$ に対し、$Y=y$ を与えたときの $X$ の条件付き分散について、 \begin{align} V \left(X\middle| y\right)=E \left(X^2\middle| y\right)- \left\{E \left(X\middle| y\right)\right\}^2 \end{align} が成り立つ。
導出
条件付き分散の定義式を変形すると、 \begin{align} V \left(X\middle| y\right)&=E \left[ \left.X^2-2XE \left(X\middle|y\right)+ \left\{E \left(X\middle|y\right)\right\}^2\right|y\right]\\ &=E \left[ \left.X^2\right|y\right]-2E \left(X\middle| y\right)E \left(X\middle| y\right)+E \left[ \left. \left\{E \left(X\middle|y\right)\right\}^2\right|y\right]\\ &=E \left[ \left.X^2\right|y\right]-2 \left\{E \left(X\middle|y\right)\right\}^2+ \left\{E \left(X\middle|y\right)\right\}^2\\ &=E \left[ \left.X^2\right|y\right]- \left\{E \left(X\middle|\ y\ \right)\right\}^2 \end{align} $\blacksquare$
【定理】条件付き分散の基本性質（全分散の法則）
【定理】
条件付き分散の基本性質（全分散の法則）
Basic Property of Conditional Variance (Law of total variance)
確率変数 $X,Y$ について、「確率変数 $X$ の分散」は、 「$Y=y$ を与えたときの $X$ の条件付き分散の期待値」 と 「$Y=y$ を与えたときの $X$ の条件付き期待値の分散」 の和に等しい、 すなわち、 \begin{align} V \left(X\right)=E \left[V \left(X\middle| y\right)\right]+V \left[E \left(X\middle| y\right)\right] \end{align} が成り立つ。
証明
（i）$Y=y$ を与えたときの $X$ の条件付き分散の期待値
条件付き分散の公式 $V \left(X\middle| y\right)=E \left(X^2\middle| y\right)- \left\{E \left(X\middle|\ y\ \right)\right\}^2$ より、
\begin{align}
E \left[V \left(X\middle| y\right)\right]&=E \left[E \left(X^2\middle| y\right)- \left\{E \left(X\middle| y\right)\right\}^2\right]\\
&=E \left[E \left(X^2\middle| y\right)\right]-E \left[ \left\{E \left(X\middle| y\right)\right\}^2\right]
\end{align}
期待値の繰り返し公式 $E \left[m \left(X,Y\right)\right]=E \left[E \left\{m \left(X,y\right)\middle| y\right\}\right]$ より、$m \left(X,Y\right)=X^2$ とすると、
\begin{align}
E \left[V \left(X\middle| y\right)\right]&=E \left[E \left(X^2\middle| y\right)- \left\{E \left(X\middle| y\right)\right\}^2\right]\\
&=E \left[X^2\right]-E \left[ \left\{E \left(X\middle| y\right)\right\}^2\right]\tag{1}
\end{align}
（ii）$Y=y$ を与えたときの $X$ の条件付き期待値の分散
分散の公式 $V \left\{g \left(Y\right)\right\}=E \left[ \left\{g \left(Y\right)\right\}^2\right]- \left[E \left\{g \left(Y\right)\right\}\right]^2$ より、$g \left(Y\right)=E \left(X\middle| y\right)$ とすると、
\begin{align}
V \left[E \left(X\middle| y\right)\right]=E \left[ \left\{E \left(X\middle| y\right)\right\}^2\right]- \left\{E \left[E \left(X\middle| y\right)\right]\right\}^2
\end{align}
期待値の繰り返し公式 $E \left(X\right)=E \left[E \left(X\middle| y\right)\right]$ より、
\begin{align}
V \left[E \left(X\middle| y\right)\right]=E \left[ \left\{E \left(X\middle| y\right)\right\}^2\right]- \left\{E \left(X\right)\right\}^2\tag{2}
\end{align}
式 $ \left(1\right), \left(2\right)$ の和を求めると、
\begin{align}
E \left[V \left(X\middle| y\right)\right]+V \left[E \left(X\middle| y\right)\right]=E \left[X^2\right]- \left\{E \left(X\right)\right\}^2
\end{align}
分散の公式より、
\begin{align}
V \left(X\right)=E \left[V \left(X\middle| y\right)\right]+V \left[E \left(X\middle| y\right)\right]
\end{align}
$\blacksquare$
参考文献
- 野田 一雄, 宮岡 悦良 著. 入門・演習数理統計. 共立出版, 1990, p.92-93
- 竹村 彰通 著. 現代数理統計学. 創文社, 1991, p.52-53
- 久保川 達也 著, 新井 仁之, 小林 俊行, 斎藤 毅, 吉田 朋広 編. 現代数理統計学の基礎. 共立出版, 2017, p.66
- 黒木 学 著. 数理統計学：統計的推論の基礎. 共立出版, 2020, p.64-65
0 件のコメント:
コメントを投稿