相関係数の定義と基本性質の証明

独立なときの期待値の性質より、 \begin{align} E \left(XY\right)=E \left(X\right) \cdot E \left(Y\right) \end{align} 共分散の公式 $\mathrm{Cov} \left(X,Y\right)=E \left(XY\right)-E \left(X\right)E \left(Y\right)$ より、 \begin{align} \mathrm{Cov} \left(X,Y\right)=E \left(XY\right)-E \left(X\right)E \left(Y\right)=0 \end{align} 相関係数の定義式 $\rho_{XY}=\frac{\mathrm{Cov} \left(X,Y\right)}{\sigma_X\sigma_Y}$ より、 \begin{align} \rho_{XY}=\frac{0}{\sigma_X\sigma_Y}=0 \end{align} $\blacksquare$

共分散の定義式 $\mathrm{Cov} \left(X,Y\right)=E \left[ \left\{X-E \left(X\right)\right\} \left\{Y-E \left(Y\right)\right\}\right]$ より、 \begin{align} \mathrm{Cov} \left(U,V\right)&=E \left[ \left\{aX+b-E \left(aX+b\right)\right\} \left\{cY+d-E \left(cY+d\right)\right\}\right]\\ &=E \left[ \left\{aX+b-aE \left(X\right)-b\right\} \left\{cY+d-cE \left(Y\right)-d\right\}\right]\\ &=E \left[ \left\{aX-aE \left(X\right)\right\} \left\{cY-cE \left(Y\right)\right\}\right]\\ &=E \left[a \left\{X-E \left(X\right)\right\} \cdot c \left\{Y-cE \left(Y\right)\right\}\right]\\ &=acE \left[ \left\{X-E \left(X\right)\right\} \cdot \left\{Y-cE \left(Y\right)\right\}\right]\\ &=ac \cdot \mathrm{Cov} \left(X,Y\right) \end{align} 分散の性質 $V \left(aX+b\right)=a^2V \left(X\right)$ より、確率変数 $X,Y,U,V$ の標準偏差をそれぞれ $\sigma_X,\sigma_Y,\sigma_U,\sigma_V$ とすると、 \begin{gather} \sigma_U^2=V \left(aX+b\right)=a^2\sigma_X^2\Rightarrow\sigma_U= \left|a\right|\sigma_X\\ \sigma_V^2=V \left(cY+d\right)=c^2\sigma_Y^2\Rightarrow\sigma_V= \left|c\right|\sigma_Y \end{gather} 相関係数の定義式 $\rho_{XY}=\frac{\mathrm{Cov} \left(X,Y\right)}{\sigma_X\sigma_Y}$ より、 \begin{align} \rho_{UV}&=\frac{\mathrm{Cov} \left(U,V\right)}{\sigma_U\sigma_V}\\ &=\frac{ac}{ \left|a\right| \left|c\right|} \cdot \frac{\mathrm{Cov} \left(X,Y\right)}{\sigma_X\sigma_Y} \end{align} 相関係数の定義式 $\rho_{XY}=\frac{\mathrm{Cov} \left(X,Y\right)}{\sigma_X\sigma_Y}$ より、 \begin{align} \rho_{XY}=\frac{ac}{ \left|a\right| \left|c\right|}\rho_{UV} \end{align} $\blacksquare$

コーシー・シュワルツの不等式 $ \left\{E \left(UV\right)\right\}^2 \le E \left(U^2\right)E \left(V^2\right)$ において、 \begin{gather} U=X-E \left(X\right)\\ V=Y-E \left(Y\right) \end{gather} とすると、 \begin{align} \left[E \left[ \left\{X-E \left(X\right)\right\} \left\{Y-E \left(Y\right)\right\}\right]\right]^2 \le E \left[ \left\{X-E \left(X\right)\right\}^2\right]E \left[ \left\{X-E \left(X\right)\right\}^2\right] \end{align} 共分散と分散の定義式より、 \begin{gather} \left[\mathrm{Cov} \left(X,Y\right)\right]^2 \le \sigma_X^2\sigma_Y^2\\ \left[\frac{\mathrm{Cov} \left(X,Y\right)}{\sigma_X\sigma_Y}\right]^2 \le 1 \end{gather} 相関係数の定義式 $\rho_{XY}=\frac{\mathrm{Cov} \left(X,Y\right)}{\sigma_X\sigma_Y}$ より、 \begin{gather} \rho_{XY}^2 \le 1\\ -1 \le \rho_{XY} \le 1 \end{gather} $\blacksquare$