多変量正規分布の定義と概要

本稿では、多変量正規分布と二変量正規分布の定義と概要についてまとめています。同時確率密度関数であることの証明、二変量が無相関ならば独立であることの証明、期待値ベクトルと分散・共分散行列、モーメント母関数の紹介が含まれます。

なお、閲覧にあたっては、以下の点にご注意ください。

• スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。

 

多変量正規分布

同時確率密度関数

$k$ 次元ベクトル $$\begin{array}{r}\mathit{\mu }=\left\{\begin{array}{c}{\mu }_1\\ {\mu }_2\\ ⋮\\ {\mu }_k\end{array}\right\}\end{array}$$ $k$ 次正値対称行列 $$\begin{array}{c}\mathbf{\Sigma }=\left\{\begin{array}{cccc}{\sigma }_1^2& {\sigma }_{12}& \cdots & {\sigma }_{1k}\\ {\sigma }_{21}& {\sigma }_2^2& \cdots & {\sigma }_{2k}\\ ⋮& ⋮& \ddots & ⋮\\ {\sigma }_{k1}& {\sigma }_{k2}& \cdots & {\sigma }_k^2\end{array}\right\}\\ {\sigma }_{ij}={\sigma }_{ji}i,j=\{1,2,\cdots ,k\}i\ne j\end{array}$$ を用いて、 $k$ 次元確率変数ベクトル $$\begin{array}{r}\mathit{X}=\{X_1,X_2,X_3,\cdots ,X_k\}\end{array}$$ の同時確率密度関数が $$\begin{array}{c}f\left(\mathit{x}\right)=\frac{1}{{\left(2\pi \right)}^{\frac{k}{2}}\cdot {\left|\mathbf{\Sigma }\right|}^{\frac{1}{2}}}\exp \{-\frac{1}{2}{(\mathit{x}-\mathit{u})}^{\mathit{T}}{\mathbf{\Sigma }}^{-\mathbf{1}}(\mathit{x}-\mathit{u})\}\end{array}$$ ${\mathit{A}}^T$ は転置行列、${\mathit{A}}^{-1}$ は逆行列、$\left|\mathbf{\Sigma }\right|$ は行列式を表す。 で与えられるとき、 $\mathit{X}$ は、 期待値ベクトル $\mathit{\mu }$、分散・共分散行列 $\mathbf{\Sigma }$ の $k$ 次元正規分布 または、単に多変量正規分布 multivariate normal distribution に従うという。

略記法

また、$k$ 次元正規分布は、 $$\begin{array}{r}\mathrm{N}(\mathit{\mu },\mathbf{\Sigma })\end{array}$$ または、次元を明示して、 $$\begin{array}{r}{\mathrm{N}}_k(\mathit{\mu },\mathbf{\Sigma })\end{array}$$ と略記されることがある。

 

二変量正規分布

同時確率密度関数

多変量正規分布において、$k=2$ の場合を二変量正規分布 bivariate normal distribution と呼び、確率変数ベクトル $X,Y$ に対し、期待値ベクトルと分散・共分散行列を $$\begin{array}{r}\mathit{\mu }=\left(\begin{array}{c}{\mu }_X\\ {\mu }_Y\end{array}\right)\mathbf{\Sigma }=\left(\begin{array}{cc}{\sigma }_X^2& {\sigma }_{XY}\\ {\sigma }_{YX}& {\sigma }_Y^2\end{array}\right)\end{array}$$ $X,Y$ の共分散と相関係数を $$\begin{array}{r}\mathrm{Cov}(X,Y)={\sigma }_{XY}={\sigma }_{YX}\rho \end{array}$$ とすると、 同時確率密度関数は、 $$\begin{array}{c}\begin{array}{cc}f(x,y)=\frac{1}{2\pi {\sigma }_X{\sigma }_Y\sqrt{1-{\rho }^2}}\exp \{-\frac{1}{2(1-{\rho }^2)}Q(x,y)\}& \begin{array}{c}-\mathrm{\infty }<x<\mathrm{\infty }\\ -\mathrm{\infty }<y<\mathrm{\infty }\end{array}\end{array}\\ Q(x,y)={\left(\frac{x-{\mu }_X}{{\sigma }_x}\right)}^2-2\rho \cdot \frac{(x-{\mu }_X)(y-{\mu }_Y)}{{\sigma }_X{\sigma }_Y}+{\left(\frac{y-{\mu }_Y}{{\sigma }_Y}\right)}^2\end{array}$$ で与えられる。

 

同時確率密度関数であることの証明

 

【定理】二変量正規分布の性質

 

証明：無相関ならば独立であることの証明

 

重要事項のまとめ

略記法

$$\begin{array}{r}\mathrm{N}(\mathit{\mu },\mathbf{\Sigma })\end{array}$$

パラメータ

$$\begin{array}{c}-\mathrm{\infty }<{\mu }_i<\mathrm{\infty }\\ 0<{\sigma }_i^2\end{array}$$

同時密度確率関数

$$\begin{array}{c}f\left(\mathit{x}\right)=\frac{1}{{\left(2\pi \right)}^{\frac{k}{2}}\cdot {\left|\mathbf{\Sigma }\right|}^{\frac{1}{2}}}\exp \{-\frac{1}{2}{(\mathit{x}-\mathit{u})}^{\mathit{T}}{\mathbf{\Sigma }}^{-\mathbf{1}}(\mathit{x}-\mathit{u})\}\end{array}$$

期待値ベクトルと分散・共分散行列

$$\begin{array}{c}E\left(\mathit{X}\right)=\mathit{\mu }=\left\{\begin{array}{c}{\mu }_1\\ {\mu }_2\\ ⋮\\ {\mu }_k\end{array}\right\}\\ \mathbf{\Sigma }=\left\{\begin{array}{cccc}{\sigma }_1^2& {\sigma }_{12}& \cdots & {\sigma }_{1k}\\ {\sigma }_{21}& {\sigma }_2^2& \cdots & {\sigma }_{2k}\\ ⋮& ⋮& \ddots & ⋮\\ {\sigma }_{k1}& {\sigma }_{k2}& \cdots & {\sigma }_k^2\end{array}\right\}\end{array}$$

モーメント母関数

$$\begin{array}{r}{M}_{\mathit{X}}\left(\mathit{\theta }\right)=\exp ({\mathit{\mu }}^{\mathit{T}}\mathit{\theta }+\frac{1}{2}{\mathit{\theta }}^{\mathit{T}}\mathbf{\Sigma }\mathit{\theta })\end{array}$$

 

参考文献

• 野田 一雄, 宮岡 悦良 著. 入門・演習数理統計. 共立出版, 1990, p.156-157
• 黒木 学 著. 数理統計学：統計的推論の基礎. 共立出版, 2020, p.103-107

関連記事

• 二変量正規分布のモーメント母関数
• 二変量正規分布の期待値・分散・共分散
• 二変量正規分布の周辺確率分布と条件付き分布