共分散と相関係数

確率変数 $X,Y$ の共分散は、 \begin{align} \mathrm{Cov} \left(X,Y\right)=E \left(XY\right)-E \left(X\right)E \left(Y\right) \end{align} で与えられる。

$a,b,c,d$ を実数、かつ $a \neq 0,c \neq 0$ として、確率変数 $X,Y$ を \begin{gather} W=aX+b\\ Z=cY+d \end{gather} と線形変換するとき、 変換後の確率変数同士の共分散は、 \begin{align} \mathrm{Cov} \left(aX+b,cY+d\right)=ac \cdot \mathrm{Cov} \left(X,Y\right) \end{align} となる。

3つの確率変数 $X,Y,Z$ の共分散について、$X,Z$ の共分散と $Y,Z$ の共分散をそれぞれ \begin{align} \mathrm{Cov} \left(X,Z\right) \quad \mathrm{Cov} \left(Y,Z\right) \end{align} とすると、 $X+Y$ と $Z$ の共分散について、分配法則 \begin{align} \mathrm{Cov} \left(X+Y,Z\right)=\mathrm{Cov} \left(X,Z\right)+\mathrm{Cov} \left(Y,Z\right) \end{align} が成り立つ。

（I）2次元確率変数 $X,Y$ それぞれの分散と共分散を \begin{align} V \left(X\right) \quad V \left(Y\right) \quad \mathrm{Cov} \left(X,Y\right) \end{align} とするとき、 2変数の和、あるいは差の分散は、 \begin{gather} V \left(X+Y\right)=V \left(X\right)+V \left(Y\right)+2\mathrm{Cov} \left(X,Y\right)\\ V \left(X-Y\right)=V \left(X\right)+V \left(Y\right)-2\mathrm{Cov} \left(X,Y\right) \end{gather} で与えられる。

（II）$n$ 次元確率変数 $X_1,X_2, \cdots ,X_n$ の分散が存在するとき、$n$ 変数の和の分散は、 \begin{gather} V \left(\sum_{i=1}^{n}X_i\right)=\sum_{i=1}^{n}V \left(X_i\right)+2\sum\sum_{i \lt j}{\mathrm{Cov} \left(X_i,X_j\right)}\\ \end{gather} で与えられる。

確率変数 $X,Y$ が独立であれば、2変数は無相関である、すなわち、 \begin{align} f \left(x,y\right)=g \left(x\right) \cdot h \left(y\right)\Rightarrow\rho_{XY}=0 \end{align} となる。

$a,b,c,d$ を実数、かつ $a \neq 0,c \neq 0$ として、2つの確率変数 $X,Y$ を \begin{gather} U=aX+b\\ V=cY+d \end{gather} というかたちに線形変換するとき、 $X,Y$ の相関係数と $U,V$ の相関係数をそれぞれ、$\rho_{XY},\rho_{UV}$ とするとき、 \begin{align} \rho_{XY}=\frac{ac}{ \left|a\right| \left|c\right|}\rho_{UV} \end{align} が成り立つ。

確率変数 $X,Y$ の相関係数は、-1以上、1以下の値しか取らない、すなわち、 \begin{align} -1 \le \rho_{XY} \le 1 \end{align} となる。