正規分布の標本平均と標本分散の独立性の証明

$\mathit{X}=\{X_1,X_2,\cdots ,X_n\}$ の同時確率密度関数は、 $$\begin{array}{rl}f\left(\mathit{x}\right)& =\prod _{i=1}^n\frac{1}{\sqrt{2\pi }}\exp (-\frac{x_i^2}{2})\\ & ={\left(\frac{1}{\sqrt{2\pi }}\right)}^n\exp (-\frac{1}{2}\sum _{i=1}^n{x}_i^2)\\ & ={\left(\frac{1}{\sqrt{2\pi }}\right)}^n{e}^{-\frac{1}{2}(x_1^2+x_2^2+\cdots +x_n^2)}\end{array}$$ 行列を用いて表すと、 $$\begin{array}{r}f\left(\mathit{x}\right)={\left(\frac{1}{\sqrt{2\pi }}\right)}^n\exp (-\frac{1}{2}{\mathit{x}}^{\mathit{t}}\mathit{x})\end{array}$$ ここで、任意の直交行列 $\mathit{T}$ を用いた変数変換 $$\begin{array}{c}\mathit{x}=\mathit{T}\mathit{y}\end{array}$$ を考えると、 変数変換後の同時確率密度関数の公式 $$\begin{array}{r}g\left(\mathit{y}\right)=f\left({\mathit{A}}^{-\mathbf{1}}\mathit{y}\right)\left|\mathit{A}\right|\end{array}$$ より、 $\mathit{y}=\{y_1,y_2,\cdots ,y_n\}$ の同時確率密度関数は、 $$\begin{array}{r}g\left(\mathit{y}\right)=f\left({\mathit{T}}^{-\mathbf{1}}\mathit{y}\right)\left|\mathit{T}\right|\end{array}$$ ここで、直交行列の逆行列はその行列の転置行列であることから、 $$\begin{array}{r}{\mathit{T}}^{-\mathbf{1}}={\mathit{T}}^{\mathit{t}}\end{array}$$ また、 $$\begin{array}{r}\left|\mathit{I}\right|=\left|{\mathit{T}}^{\mathit{t}}\mathit{T}\right|={\left|\mathit{T}\right|}^{\mathbf{2}}=1\end{array}$$ したがって、 $$\begin{array}{rl}g\left(\mathit{y}\right)& =f\left({\mathit{T}}^{\mathit{t}}\mathit{y}\right)\\ & ={\left(\frac{1}{\sqrt{2\pi }}\right)}^n\exp (-\frac{1}{2}{\left({\mathit{T}}^{\mathit{t}}\mathit{y}\right)}^{\mathit{t}}\left({\mathit{T}}^{\mathit{t}}\mathit{y}\right))\\ & ={\left(\frac{1}{\sqrt{2\pi }}\right)}^n\exp (-\frac{1}{2}{\mathit{y}}^{\mathit{t}}\mathit{T}{\mathit{T}}^{\mathit{t}}\mathit{y})\\ & ={\left(\frac{1}{\sqrt{2\pi }}\right)}^n\exp (-\frac{1}{2}{\mathit{y}}^{\mathit{t}}\mathit{I}\mathit{y})\\ & ={\left(\frac{1}{\sqrt{2\pi }}\right)}^n\exp (-\frac{1}{2}{\mathit{y}}^{\mathit{t}}\mathit{y})\\ & ={\left(\frac{1}{\sqrt{2\pi }}\right)}^n{e}^{-\frac{1}{2}(y_1^2+y_2^2+\cdots +y_n^2)}\end{array}$$ これは、標準正規分布の同時確率密度関数であり、独立性の定義を満たしているため、 $$\begin{array}{r}\mathit{Y}=\{Y_1,Y_2,\cdots ,Y_n\}\end{array}$$ は互いに独立に 標準正規分布 $$\begin{array}{r}{Y}_i\sim \mathrm{N}(0,1)\end{array}$$ に従う。 $◼$

$Z_i=\frac{X_i-\mu }{\sigma }$ と標準化すると、正規分布の標準化の性質より、 $$\begin{array}{r}{Z}_i\sim \mathrm{N}(0,1)\end{array}$$ また、証明したい命題は、
（i）$\overline{Z}$ と $\sum _{i=1}^n{(Z_i-\overline{Z})}^2$ は互いに独立である。 （ii） $$\begin{array}{r}\sum _{i=1}^n{(Z_i-\overline{Z})}^2\sim {\chi }^2(n-1)\end{array}$$ と書き直すことができる（上記と同義である）。 ここで、$\mathit{H}$ を最初の行が $(\frac{1}{\sqrt{n}},\frac{1}{\sqrt{n}},\cdots ,\frac{1}{\sqrt{n}})$ であるような直交行列、例えば、 $$\begin{array}{r}\mathit{H}=\left(\begin{array}{ccccc}\frac{1}{\sqrt{n}}& \frac{1}{\sqrt{n}}& \frac{1}{\sqrt{n}}& \cdots & \frac{1}{\sqrt{n}}\\ -\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& \cdots & 0\\ -\frac{1}{\sqrt{2\cdot 3}}& -\frac{1}{\sqrt{2\cdot 3}}& \frac{2}{\sqrt{2\cdot 3}}& \cdots & 0\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ -\frac{1}{\sqrt{n(n-1)}}& -\frac{1}{\sqrt{n(n-1)}}& -\frac{1}{\sqrt{n(n-1)}}& \cdots & -\frac{n-1}{\sqrt{n(n-1)}}\end{array}\right)\end{array}$$ として、 $$\begin{array}{c}\mathit{Y}=\mathit{H}\mathit{Z}\end{array}$$ と変数変換すると、 独立正規標本の直交変換の性質より、 $$\begin{array}{r}{Y}_i\sim \mathrm{N}(0,1)\end{array}$$ また、変数変換の中身を計算すると、 $$\begin{array}{c}{Y}_1=\frac{1}{\sqrt{n}}\sum _{i=1}^n{Z}_i=\frac{n}{\sqrt{n}}\cdot \frac{1}{n}\sum _{i=1}^n{Z}_i=\sqrt{n}\overline{Z}\\ Y_1^2=n{\overline{Z}}^2\end{array}$$ ここで、恒等式 $$\begin{array}{r}\sum _{i=1}^n{Z}_i^2=n{\overline{Z}}^2+\sum _{i=1}^n{(Z_i-\overline{Z})}^2\end{array}$$ より、 直交変換 $\mathit{Y}=\mathit{H}\mathit{Z}$ によって、 $$\begin{array}{r}{Z}_1^2+Z_2^2+\cdots +Z_n^2=n{\overline{Z}}^2+\sum _{i=1}^n{(Z_i-\overline{Z})}^2\\ \Rightarrow Y_1^2+Y_2^2+\cdots +Y_n^2=Y_1^2+\sum _{i=1}^n{(Z_i-\overline{Z})}^2\end{array}$$ と変数変換される。 したがって、 $$\begin{array}{r}\sum _{i=1}^n{(Z_i-\overline{Z})}^2=Y_2^2+\cdots +Y_n^2=\sum _{i=2}^n{Y}_i^2\end{array}$$ ところで、$Y_i$ は互いに独立であるから、その関数である $Y_1^2$ と $Y_2^2+\cdots +Y_n^2$ もまた、互いに独立である。 したがって、 $n{\overline{Z}}^2$ と $\sum _{i=1}^n{(Z_i-\overline{Z})}^2$ は、互いに独立で、 これらの関数である $\overline{Z}$ と $S^2=\frac{1}{n}\sum _{i=1}^n{(Z_i-\overline{Z})}^2$ は、互いに独立である。 また、${\chi }^2$分布の定義より、 $$\begin{array}{r}\sum _{i=1}^n{(Z_i-\overline{Z})}^2\sim {\chi }^2(n-1)\end{array}$$ $◼$