統計検定 1級 2017年 統計数理 問1 標本平均の分布の特性値

本稿には、2017年に実施された統計検定1級『統計数理』 問1の自作解答案を掲載しています。なお、閲覧にあたっては、以下の点にご注意ください。

〔1〕標本平均と標本（不偏）分散

（i）標本平均の期待値
期待値の性質 $E\left(\sum _{i=1}^{n}a{X}_i\right)=a\sum _{i=1}^{n}E\left(X_i\right)$ より、 $$\begin{array}{rl}E\left(\overline{X}\right)& =E\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)\\ & =\frac{1}{n}\sum _{i=1}^{n}E\left(X_i\right)\\ & =\frac{1}{n}\cdot n\mu \\ & =\mu \end{array}$$

（ii）標本平均の分散
確率変数が互いに独立な時、分散の性質 $V\left(\sum _{i=1}^{n}a{X}_i\right)=a^2\sum _{i=1}^{n}V\left(X_i\right)$ より、 $$\begin{array}{rl}V\left(\overline{X}\right)& =V\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)\\ & =\frac{1}{n^2}\sum _{i=1}^{n}V\left(X_i\right)\\ & =\frac{1}{n^2}\cdot n{\sigma }^2\\ & =\frac{{\sigma }^2}{n}\end{array}$$

（iii）標本分散の期待値
標本分散の期待値を取ると、 $$\begin{array}{rl}E\left(T^2\right)& =E\left\{\frac{1}{n}\sum _{i=1}^n{(X_i-\mu )}^2\right\}\\ & =\frac{1}{n}E\left\{\sum _{i=1}^n(X_i^2-2\mu X_i+{\mu }^2)\right\}\\ & =\frac{1}{n}\{E\left(\sum _{i=1}^n{X}_i^2\right)-2\mu E\left(\sum _{i=1}^n{X}_i\right)+n{\mu }^2\}\\ & =\frac{1}{n}\sum _{i=1}^{n}E\left(X_i^2\right)-\frac{1}{n}2\mu \cdot n\mu +n{\mu }^2\\ & =\frac{1}{n}\sum _{i=1}^{n}E\left(X_i^2\right)-n{\mu }^2\end{array}$$ 分散の公式の変形 $E\left(X^2\right)=V\left(X\right)+{\left\{E\left(X\right)\right\}}^2$ より、 $$\begin{array}{r}E\left(X_i^2\right)={\sigma }^2+{\mu }^2\end{array}$$ したがって、 $$\begin{array}{rl}E\left(T^2\right)& =\frac{1}{n}\cdot n({\sigma }^2+{\mu }^2)-n{\mu }^2\\ & ={\sigma }^2+n{\mu }^2-n{\mu }^2\\ & ={\sigma }^2\end{array}$$ よって、$E\left(\hat{\theta }\right)=\theta$ が成り立つので、$T^2$ は ${\sigma }^2$ の不偏推定量である。

（iv）標本不偏分散の期待値
標本不偏分散の期待値を取ると、 $$\begin{array}{rl}E\left(S^2\right)& =E\left\{\frac{1}{n-1}\sum _{i=1}^n{(X_i-\overline{X})}^2\right\}\\ & =\frac{1}{n-1}E\left\{\sum _{i=1}^n(X_i^2-2\overline{X}{X}_i+{\overline{X}}^2)\right\}\\ & =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-2\overline{X}\sum _{i=1}^n{X}_i+\sum _{i=1}^n{\overline{X}}^2)\\ & =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-2\overline{X}\sum _{i=1}^n{X}_i+n{\overline{X}}^2)\end{array}$$ ここで、標本平均の定義式より、 $$\begin{array}{r}\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i\iff \sum _{i=1}^n{X}_i=n\overline{X}\end{array}$$ したがって、 $$\begin{array}{rl}E\left(S^2\right)& =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-2\overline{X}\cdot n\overline{X}+n{\overline{X}}^2)\\ & =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-n{\overline{X}}^2)\\ & =\frac{1}{n-1}\{E\left(\sum _{i=1}^n{X}_i^2\right)-nE\left({\overline{X}}^2\right)\}\\ & =\frac{1}{n-1}\{\sum _{i=1}^{n}E\left(X_i^2\right)-nE\left({\overline{X}}^2\right)\}\end{array}$$ 分散の公式の変形 $E\left({\overline{X}}^2\right)=V\left(\overline{X}\right)+{\left\{E\left(\overline{X}\right)\right\}}^2$ より、 $$\begin{array}{r}E\left({\overline{X}}^2\right)=\frac{{\sigma }^2}{n}+{\mu }^2\end{array}$$ したがって、 $$\begin{array}{rl}E\left(S^2\right)& =\frac{1}{n-1}\{n({\sigma }^2+{\mu }^2)-n(\frac{{\sigma }^2}{n}+{\mu }^2)\}\\ & =\frac{1}{n-1}(n{\sigma }^2+n{\mu }^2-{\sigma }^2-n{\mu }^2)\\ & =\frac{1}{n-1}(n-1){\sigma }^2\\ & ={\sigma }^2\end{array}$$ よって、$E\left(\hat{\theta }\right)=\theta$ が成り立つので、$S^2$ は ${\sigma }^2$ の不偏推定量である。 $◼$

〔2〕標本平均の分布の歪度

$$\begin{array}{rl}{(\overline{X}-\mu )}^3& ={(\frac{1}{n}\sum _{i=1}^n{X}_i-\mu )}^3\\ & ={(\frac{1}{n}\sum _{i=1}^n{X}_i-\frac{1}{n}\sum _{i=1}^n\mu )}^3\\ & =\frac{1}{n^3}{\left\{\sum _{i=1}^n(X_i-\mu )\right\}}^3\\ & =\frac{1}{n^3}{\{(X_1-\mu )+\cdots +(X_n-\mu )\}}^3\end{array}$$ ここで多項定理より、 $$\begin{array}{rl}{(\overline{X}-\mu )}^3& =\frac{1}{n^3}\{\frac{3!}{3!0!0!}\sum _{i=1}^n{(X_i-\mu )}^3+\frac{3!}{2!1!0!}\sum _{i\ne j}{(X_i-\mu )}^2(X_j-\mu )+\frac{3!}{1!1!1!}\sum _{i\ne j\ne k}(X_i-\mu )(X_j-\mu )(X_k-\mu )\}\\ & =\frac{1}{n^3}\{\sum _{i=1}^n{(X_i-\mu )}^3+3\sum _{i\ne j}{(X_i-\mu )}^2(X_j-\mu )+6\sum _{i\ne j\ne k}(X_i-\mu )(X_j-\mu )(X_k-\mu )\}\end{array}$$ 両辺の期待値を取ると、独立な確率変数の期待値の性質 $E\left(XYZ\right)=E\left(X\right)E\left(Y\right)E\left(Z\right)$ より、 $$\begin{array}{rl}E\left[{(\overline{X}-\mu )}^3\right]=& \frac{1}{n^3}\sum _{i=1}^{n}E{(X_i-\mu )}^3\\ & +\frac{3}{n^3}\sum _{i\ne j}E{(X_i-\mu )}^2\cdot E(X_j-\mu )\\ & +\frac{6}{n^3}\sum _{i\ne j\ne k}E(X_i-\mu )E(X_j-\mu )E(X_k-\mu )\end{array}$$ ここで、期待値周りの1次モーメントの性質 $E(X_i-\mu )=0$ より、 $$\begin{array}{rl}E\left[{(\overline{X}-\mu )}^3\right]& =\frac{1}{n^3}\sum _{i=1}^{n}E{(X_i-\mu )}^3+0+0\\ & =\frac{1}{n^3}\sum _{i=1}^{n}E{(X_i-\mu )}^3\end{array}$$ $E\left[{(X-\mu )}^3\right]={\beta }_1{\sigma }^3$ より、 $$\begin{array}{rl}E\left[{(\overline{X}-\mu )}^3\right]& =\frac{1}{n^3}\cdot n{\beta }_1{\sigma }^3\\ & =\frac{{\beta }_1{\sigma }^3}{n^2}\end{array}$$ 歪度の定義式より、 $$\begin{array}{r}{\overline{\beta }}_1=\frac{E\left[{(\overline{X}-\mu )}^3\right]}{{\sigma }_{\overline{X}}^3}\end{array}$$ 〔1〕の結果 ${\sigma }_{\overline{X}}=\frac{\sigma }{\sqrt{n}}$ より、 $$\begin{array}{rl}{\overline{\beta }}_1& =\frac{\frac{{\beta }_1{\sigma }^3}{n^2}}{{\left(\frac{\sigma }{\sqrt{n}}\right)}^3}\\ & ={\beta }_1\cdot \frac{{\sigma }^3}{n^2}\cdot \frac{n\sqrt{n}}{{\sigma }^3}\\ & =\frac{{\beta }_1}{\sqrt{n}}\end{array}$$ $◼$

〔3〕標本平均の分布の尖度

〔2〕と同様に、 $$\begin{array}{rl}{(\overline{X}-\mu )}^4& ={(\frac{1}{n}\sum _{i=1}^n{X}_i-\mu )}^4\\ & ={(\frac{1}{n}\sum _{i=1}^n{X}_i-\frac{1}{n}\sum _{i=1}^n\mu )}^4\\ & =\frac{1}{n^4}{\left\{\sum _{i=1}^n(X_i-\mu )\right\}}^4\\ & =\frac{1}{n^4}{\{(X_1-\mu )+(X_2-\mu )+\cdots +(X_n-\mu )\}}^4\end{array}$$ ここで多項定理より、 $$\begin{array}{rl}{(\overline{X}-\mu )}^4=\frac{1}{n^4}& \{\frac{4!}{4!0!0!0!}\sum _{i=1}^n{(X_i-\mu )}^4\\ & +\frac{4!}{3!1!0!0!}\sum _{i\ne j}{(X_i-\mu )}^3(X_j-\mu )\\ & +\frac{4!}{2!2!0!0!}\sum _{i\ne j}{(X_i-\mu )}^2{(X_j-\mu )}^2\\ & +\frac{4!}{2!1!1!0!}\sum _{i\ne j\ne k}{(X_i-\mu )}^2(X_j-\mu )(X_k-\mu )\\ & +\frac{4!}{1!1!1!1!}\sum _{i\ne j\ne k\ne l}(X_i-\mu )(X_j-\mu )(X_k-\mu )(X_l-\mu )\}\end{array}$$ $$\begin{array}{rl}{(\overline{X}-\mu )}^4=\frac{1}{n^4}& \{\sum _{i=1}^n{(X_i-\mu )}^4\\ & +4\sum _{i\ne j}{(X_i-\mu )}^3(X_j-\mu )\\ & +6\sum _{i\ne j}{(X_i-\mu )}^2{(X_j-\mu )}^2\\ & +12\sum _{i\ne j\ne k}{(X_i-\mu )}^2(X_j-\mu )(X_k-\mu )\\ & +24\sum _{i\ne j\ne k\ne l}(X_i-\mu )(X_j-\mu )(X_k-\mu )(X_l-\mu )\}\end{array}$$ 両辺の期待値を取ると、 $$\begin{array}{rl}E\left[{(\overline{X}-\mu )}^4\right]=\frac{1}{n^4}& \{\sum _{i=1}^{n}E\left[{(X_i-\mu )}^4\right]\\ & +4\sum _{i\ne j}E\left[{(X_i-\mu )}^3\right]E(X_j-\mu )\\ & +6\sum _{i\ne j}E\left[{(X_i-\mu )}^2\right]E\left[{(X_j-\mu )}^2\right]\\ & +12\sum _{i\ne j\ne k}E\left[{(X_i-\mu )}^2\right]E(X_j-\mu )E(X_k-\mu )\\ & +24\sum _{i\ne j\ne k\ne l}E(X_i-\mu )E(X_j-\mu )E(X_k-\mu )E(X_l-\mu )\}\end{array}$$ 期待値周りの1次モーメントの性質 $E(X_i-\mu )=0$ より、 $$\begin{array}{r}E\left[{(\overline{X}-\mu )}^4\right]=\frac{1}{n^4}\{\sum _{i=1}^{n}E\left[{(X_i-\mu )}^4\right]+6\sum _{i\ne j}E\left[{(X_i-\mu )}^2\right]E\left[{(X_j-\mu )}^2\right]\}\end{array}$$ 分散の定義式 $V\left(X\right)=E\left[{(X-\mu )}^2\right]$ より、 $$\begin{array}{rl}E\left[{(\overline{X}-\mu )}^4\right]& =\frac{1}{n^4}\{\sum _{i=1}^{n}E\left[{(X_i-\mu )}^4\right]+6\sum _{i\ne j}V\left(X_i\right)V\left(X_j\right)\}\\ & =\frac{1}{n^4}\{nE\left[{(X-\mu )}^4\right]+6\sum _{i\ne j}V\left(X_i\right)V\left(X_j\right)\}\end{array}$$ ここで右辺第2項 $\sum _{i\ne j}V\left(X_i\right)V\left(X_j\right)$ について、 1番目の添え字 $i$ の選び方が $n$ 通り
2番目の添え字 $j$ の選び方が $n-1$ 通り そして、添え字の入れ替えによる重複を考慮すると全部で ${\displaystyle \frac{n(n-1)}{2}}$ 通り あるので $$\begin{array}{rl}E\left[{(\overline{X}-\mu )}^4\right]& =\frac{1}{n^4}\{n({\beta }_2+3){\sigma }^4+\frac{6n(n-1)}{2}{\sigma }^4\}\\ & =\frac{{\sigma }^4}{n^3}({\beta }_2+3+3n-3)\\ & =\frac{{\sigma }^4}{n^3}({\beta }_2+3n)\end{array}$$ 歪度の定義式より、 $$\begin{array}{rl}{\overline{\beta }}_2& =\frac{E\left[{(\overline{X}-\mu )}^4\right]}{{\left\{V\left(\overline{X}\right)\right\}}^4}-3\\ & =\frac{{\sigma }^4}{n^3}({\beta }_2+3n)\frac{1}{{\left(\frac{\sigma }{\sqrt{n}}\right)}^4}-3\\ & =\frac{{\sigma }^4}{n^3}\cdot \frac{n^2}{{\sigma }^4}({\beta }_2+3n)-3\\ & =\frac{{\beta }_2+3n-3n}{n}\\ & =\frac{{\beta }_2}{n}\end{array}$$ $◼$

〔4〕標本分布の漸近的性質

〔2〕〔3〕の結果より、$n\to \mathrm{\infty }$ のときの極限を取ると、 $$\begin{array}{c}\underset{n\to \mathrm{\infty }}{lim}{\overline{\beta }}_1=\underset{n\to \mathrm{\infty }}{lim}\frac{{\beta }_1}{\sqrt{n}}=0\\ \underset{n\to \mathrm{\infty }}{lim}{\overline{\beta }}_2=\underset{n\to \mathrm{\infty }}{lim}\frac{{\beta }_2}{n}=0\end{array}$$ したがって、サンプルサイズ $n$ が十分大きいとき、尖度も歪度も0に近づく。このことは、中心極限定理により、標本平均の分布が正規分布に収束することの一側面であると考えられる（正規分布の尖度・歪度はともに0）。 $◼$

〔5〕正規分布の母分散の最尤推定量

（i）最尤推定量
尤度関数 $L\left(\mathit{\theta }\right)$ を求めると、 $$\begin{array}{rl}L(\mu ,{\sigma }^2)& =\prod _{i=1}^n\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{{(x_i-\mu )}^2}{2{\sigma }^2}}\\ & ={\left(\frac{1}{\sqrt{2\pi {\sigma }^2}}\right)}^n\cdot \exp \{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{(x_i-\mu )}^2\}\\ & ={\left(\frac{1}{2\pi {\sigma }^2}\right)}^{\frac{n}{2}}\cdot \exp \{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{(x_i-\mu )}^2\}\end{array}$$ 対数尤度関数 $l\left(\mathit{\theta }\right)=\log L\left(\mathit{\theta }\right)$ を求めると、 $$\begin{array}{rl}l(\mu ,{\sigma }^2)& =\log [{\left(\frac{1}{2\pi {\sigma }^2}\right)}^{\frac{n}{2}}\cdot \exp \{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{(x_i-\mu )}^2\}]\\ & =-\frac{n}{2}\log 2\pi {\sigma }^2-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{(x_i-\mu )}^2\\ & =-\frac{n}{2}(\log 2\pi +\log {\sigma }^2)-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{(x_i-\mu )}^2\\ & =-\frac{n}{2}(\log 2\pi +\log {\sigma }^2)-\frac{1}{2{\sigma }^2}(\sum _{i=1}^n{x}_i^2-2\mu \sum _{i=1}^n{x}_i+n{\mu }^2)\end{array}$$

（i）母平均が既知のとき
パラメータ ${\sigma }^2$ に関するスコア関数 $S\left(\theta \right)=\frac{\partial }{\partial {\sigma }^2}\log L\left(\mathit{\theta }\right)$ を求めると、 $$\begin{array}{r}S\left({\sigma }^2\right)=-\frac{n}{2{\sigma }^2}+\frac{1}{2{\sigma }^4}\sum _{i=1}^n{(x_i-\mu )}^2\end{array}$$ 尤度方程式 $S\left(\theta \right)=0$ を解くと、 $$\begin{array}{c}0=-\frac{n}{2{\hat{\sigma }}^2}+\frac{1}{2{\hat{\sigma }}^4}\sum _{i=1}^n{(x_i-\mu )}^2\\ 0=n{\hat{\sigma }}^2+\sum _{i=1}^n{(x_i-\mu )}^2\\ {\hat{\sigma }}^2=\frac{1}{n}\sum _{i=1}^n{(x_i-\mu )}^2\\ {\hat{\sigma }}^2=T^2\end{array}$$

（ii）母平均が未知のとき
母平均の最尤推定量 $\hat{\mu }=\overline{x}$ で置換すると、 $$\begin{array}{rl}{\hat{\sigma }}^2& =\frac{1}{n}\sum _{i=1}^n{(x_i-\overline{x})}^2\\ & =\frac{n}{n-1}{S}^2\end{array}$$ $◼$

関連記事

• 確率分布の特性値
• 標本平均の期待値と分散
• 標本分散の期待値と分散
• 中心極限定理