条件付き確率分布の特性値-あるノマドの知の旅路～数学・統計学への道

条件付き確率分布の特性値

公開日： 2023/03/14

本稿では、条件付き確率分布の特性値についてまとめています。条件付き期待値、条件付き分散、条件付き共分散の定義や条件付き期待値の基本性質、条件付き分散の公式、全分散の法則、条件付き共分散の公式、全共分散の法則の紹介が含まれます。

なお、閲覧にあたっては、以下の点にご注意ください。

スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。

1.条件付き期待値
- 1.1.条件付き期待値の基本性質
2.条件付き分散
- 2.1.条件付き分散の公式
- 2.2.全分散の法則
3.条件付き共分散
- 3.1.条件付き共分散の公式
- 3.2.全共分散の法則
4.参考文献
5.関連記事

条件付き期待値

確率変数 $X, Y$ に対し、 $Y = y$ を与えたときの $X$ の条件付き確率（密度）関数を $g (x | y)$ としたとき、 $\begin{array}{r} E (X | Y = y) = {\begin{array}{c} \sum_{x = - \infty}^{\infty} x \cdot g (x | y) & Discrete \\ \int_{- \infty}^{\infty} x \cdot g (x | y) d x & Continuous \end{array} \end{array}$ を $Y = y$ を与えたときの $X$ の条件付き期待値 conditional expected value という。なお、条件付き期待値を $\begin{array}{r} E (X | y) \end{array}$ と書くこともある。

一般に、確率変数 $X$ の関数 $h (X)$ の条件付き期待値は、 $\begin{array}{r} E {h (X) | y} = {\begin{array}{c} \sum_{x = - \infty}^{\infty} h (x) \cdot g (x | y) & Discrete \\ \int_{- \infty}^{\infty} h (x) \cdot g (x | y) d x & Continuous \end{array} \end{array}$ で与えられる。条件付き期待値 $E (X | y)$ は、確率変数 $Y$ の関数であり、それ自体確率変数であると言える。

条件付き期待値の基本性質

【定理】
条件付き期待値の基本性質
Basic Properties of Conditional Expected Value

（I）独立な確率変数の条件付き期待値
確率変数 $X, Y$ が互いに独立のとき、 $\begin{matrix} E (X | Y = y) = E (X) \\ E (Y | X = x) = E (Y) \end{matrix}$ が成り立つ。

（II）期待値の繰り返し公式
『確率変数 $X$ の期待値』は、『「 $Y = y$ を与えたときの $X$ の条件付き期待値」の期待値』に等しい、すなわち、 $\begin{array}{r} E (X) = E [E (X | y)] \end{array}$ が成り立つ。

（III）期待値の繰り返し公式の一般化
確率変数 $X, Y$ の任意の関数 $m (X, Y)$ の期待値は、『「 $Y = y$ を与えたときの $m (X, y)$ （ $X$ の関数）の条件付き期待値」の期待値』、あるいは、『「 $X = x$ を与えたときの $m (x, Y)$ （ $Y$ の関数）の条件付き期待値」の期待値』に等しい、すなわち、 $\begin{array}{r} E [m (X, Y)] = E [E {m (X, y) | y}] = E [E {m (x, Y) | x}] \end{array}$ が成り立つ。

条件付き分散

確率変数 $X, Y$ に対し、 $Y = y$ を与えたときの $X$ の分散 $\begin{array}{r} V (X | y) = E [{X - E (X | y)}^{2} | y] \end{array}$ を $Y = y$ を与えたときの $X$ の条件付き分散 conditional variance という。

条件付き分散の公式

【公式】
条件付き分散の公式
Conditional Variance Formula

確率変数 $X, Y$ に対し、 $Y = y$ を与えたときの $X$ の条件付き分散について、 $\begin{array}{r} V (X | y) = E (X^{2} | y) - {E (X | y)}^{2} \end{array}$ が成り立つ。

全分散の法則

【定理】
条件付き分散の基本性質（全分散の法則）
Basic Property of Conditional Variance (Law of total variance)

確率変数 $X, Y$ について、「確率変数 $X$ の分散」は、「 $Y = y$ を与えたときの $X$ の条件付き分散の期待値」と「 $Y = y$ を与えたときの $X$ の条件付き期待値の分散」の和に等しい、すなわち、 $\begin{array}{r} V (X) = E [V (X | y)] + V [E (X | y)] \end{array}$ が成り立つ。

条件付き共分散

確率変数 $X, Y, Z$ に対し、 $Z = z$ を与えたときの $X, Y$ の共分散 $\begin{array}{r} Cov (X, Y | z) = E [{X - E (X | z) | z} {Y - E (Y | z) | z}] \end{array}$ を $Z = z$ を与えたときの $X, Y$ の条件付き共分散 conditional covariance という。

条件付き共分散の公式

【公式】
条件付き共分散の公式
Conditional Covariance Formula

$Z = z$ を与えたときの $X, Y$ の条件付き共分散は、 $\begin{array}{r} Cov (X, Y | z) = E (X Y | z) - E (X | z) E (Y | z) \end{array}$ で与えられる。

全共分散の法則

【定理】
条件付き共分散の基本性質（全共分散の法則）
Basic Property of Conditional Covariance (Law of Total Covariance)

確率変数 $X, Y, Z$ について、 $X$ と $Y$ の共分散は、「 $Z = z$ を与えたときの $X, Y$ の条件付き共分散の期待値」と「 $Z = x$ を与えたときの $X, Y$ の条件付き期待値の共分散」の和に等しい、すなわち、 $\begin{array}{r} Cov (X, Y) = E [Cov (X, Y | z)] + Cov [E (X | z), E (Y | z)] \end{array}$ が成り立つ。

参考文献

野田一雄, 宮岡悦良著. 入門・演習数理統計. 共立出版, 1990, p.91-95
竹村彰通著. 現代数理統計学. 創文社, 1991, p.51-55
東京大学教養学部統計学教室編. 基礎統計学 1 統計学入門. 東京大学出版会, 1991, p.142-145
久保川達也著, 新井仁之, 小林俊行, 斎藤毅, 吉田朋広編. 現代数理統計学の基礎. 共立出版, 2017, p.65-68
黒木学著. 数理統計学：統計的推論の基礎. 共立出版, 2020, p.48-50

条件付き確率分布の特性値