共分散と相関係数

確率変数 $X,Y$ の共分散は、 $$\begin{array}{r}\mathrm{Cov}(X,Y)=E\left(XY\right)-E\left(X\right)E\left(Y\right)\end{array}$$ で与えられる。

$a,b,c,d$ を実数、かつ $a\ne 0,c\ne 0$ として、確率変数 $X,Y$ を $$\begin{array}{c}W=aX+b\\ Z=cY+d\end{array}$$ と線形変換するとき、 変換後の確率変数同士の共分散は、 $$\begin{array}{r}\mathrm{Cov}(aX+b,cY+d)=ac\cdot \mathrm{Cov}(X,Y)\end{array}$$ となる。

3つの確率変数 $X,Y,Z$ の共分散について、$X,Z$ の共分散と $Y,Z$ の共分散をそれぞれ $$\begin{array}{r}\mathrm{Cov}(X,Z)\mathrm{Cov}(Y,Z)\end{array}$$ とすると、 $X+Y$ と $Z$ の共分散について、分配法則 $$\begin{array}{r}\mathrm{Cov}(X+Y,Z)=\mathrm{Cov}(X,Z)+\mathrm{Cov}(Y,Z)\end{array}$$ が成り立つ。

（I）2次元確率変数 $X,Y$ それぞれの分散と共分散を $$\begin{array}{r}V\left(X\right)V\left(Y\right)\mathrm{Cov}(X,Y)\end{array}$$ とするとき、 2変数の和、あるいは差の分散は、 $$\begin{array}{c}V(X+Y)=V\left(X\right)+V\left(Y\right)+2\mathrm{Cov}(X,Y)\\ V(X-Y)=V\left(X\right)+V\left(Y\right)-2\mathrm{Cov}(X,Y)\end{array}$$ で与えられる。

（II）$n$ 次元確率変数 $X_1,X_2,\cdots ,X_n$ の分散が存在するとき、$n$ 変数の和の分散は、 $$\begin{array}{c}V\left(\sum _{i=1}^n{X}_i\right)=\sum _{i=1}^{n}V\left(X_i\right)+2\sum \sum _{i<j}\mathrm{Cov}(X_i,X_j)\end{array}$$ で与えられる。

確率変数 $X,Y$ が独立であれば、2変数は無相関である、すなわち、 $$\begin{array}{r}f(x,y)=g\left(x\right)\cdot h\left(y\right)\Rightarrow {\rho }_{XY}=0\end{array}$$ となる。

$a,b,c,d$ を実数、かつ $a\ne 0,c\ne 0$ として、2つの確率変数 $X,Y$ を $$\begin{array}{c}U=aX+b\\ V=cY+d\end{array}$$ というかたちに線形変換するとき、 $X,Y$ の相関係数と $U,V$ の相関係数をそれぞれ、${\rho }_{XY},{\rho }_{UV}$ とするとき、 $$\begin{array}{r}{\rho }_{XY}=\frac{ac}{\left|a\right|\left|c\right|}{\rho }_{UV}\end{array}$$ が成り立つ。

確率変数 $X,Y$ の相関係数は、-1以上、1以下の値しか取らない、すなわち、 $$\begin{array}{r}-1\le {\rho }_{XY}\le 1\end{array}$$ となる。