統計検定 1級 2017年 統計数理 問1 標本平均の分布の特性値

本稿には、2017年に実施された統計検定1級『統計数理』 問1の自作解答案を掲載しています。なお、閲覧にあたっては、以下の点にご注意ください。

〔1〕標本平均と標本（不偏）分散

（i）標本平均の期待値
期待値の性質 $E \left(\sum_{i=1}^{n}{aX_i}\right)=a\sum_{i=1}^{n}E \left(X_i\right)$ より、 \begin{align} E \left(\bar{X}\right)&=E \left(\frac{1}{n}\sum_{i=1}^{n}X_i\right)\\ &=\frac{1}{n}\sum_{i=1}^{n}E \left(X_i\right)\\ &=\frac{1}{n} \cdot n\mu\\ &=\mu \end{align}

（ii）標本平均の分散
確率変数が互いに独立な時、分散の性質 $V \left(\sum_{i=1}^{n}{aX_i}\right)=a^2\sum_{i=1}^{n}V \left(X_i\right)$ より、 \begin{align} V \left(\bar{X}\right)&=V \left(\frac{1}{n}\sum_{i=1}^{n}X_i\right)\\ &=\frac{1}{n^2}\sum_{i=1}^{n}V \left(X_i\right)\\ &=\frac{1}{n^2} \cdot n\sigma^2\\ &=\frac{\sigma^2}{n} \end{align}

（iii）標本分散の期待値
標本分散の期待値を取ると、 \begin{align} E \left(T^2\right)&=E \left\{\frac{1}{n}\sum_{i=1}^{n} \left(X_i-\mu\right)^2\right\}\\ &=\frac{1}{n}E \left\{\sum_{i=1}^{n} \left(X_i^2-2\mu X_i+\mu^2\right)\right\}\\ &=\frac{1}{n} \left\{E \left(\sum_{i=1}^{n}X_i^2\right)-2\mu E \left(\sum_{i=1}^{n}X_i\right)+n\mu^2\right\}\\ &=\frac{1}{n}\sum_{i=1}^{n}E \left(X_i^2\right)-\frac{1}{n}2\mu \cdot n\mu+n\mu^2\\ &=\frac{1}{n}\sum_{i=1}^{n}E \left(X_i^2\right)-n\mu^2 \end{align} 分散の公式の変形 $E \left(X^2\right)=V \left(X\right)+ \left\{E \left(X\right)\right\}^2$ より、 \begin{align} E \left(X_i^2\right)=\sigma^2+\mu^2 \end{align} したがって、 \begin{align} E \left(T^2\right)&=\frac{1}{n} \cdot n \left(\sigma^2+\mu^2\right)-n\mu^2\\ &=\sigma^2+n\mu^2-n\mu^2\\ &=\sigma^2 \end{align} よって、$E \left(\hat{\theta}\right)=\theta$ が成り立つので、$T^2$ は $\sigma^2$ の不偏推定量である。

（iv）標本不偏分散の期待値
標本不偏分散の期待値を取ると、 \begin{align} E \left(S^2\right)&=E \left\{\frac{1}{n-1}\sum_{i=1}^{n} \left(X_i-\bar{X}\right)^2\right\}\\ &=\frac{1}{n-1}E \left\{\sum_{i=1}^{n} \left(X_i^2-2\bar{X}X_i+{\bar{X}}^2\right)\right\}\\ &=\frac{1}{n-1}E \left(\sum_{i=1}^{n}X_i^2-2\bar{X}\sum_{i=1}^{n}X_i+\sum_{i=1}^{n}{\bar{X}}^2\right)\\ &=\frac{1}{n-1}E \left(\sum_{i=1}^{n}X_i^2-2\bar{X}\sum_{i=1}^{n}X_i+n{\bar{X}}^2\right) \end{align} ここで、標本平均の定義式より、 \begin{align} \bar{X}=\frac{1}{n}\sum_{i=1}^{n}X_i\Leftrightarrow\sum_{i=1}^{n}X_i=n\bar{X} \end{align} したがって、 \begin{align} E \left(S^2\right)&=\frac{1}{n-1}E \left(\sum_{i=1}^{n}X_i^2-2\bar{X} \cdot n\bar{X}+n{\bar{X}}^2\right)\\ &=\frac{1}{n-1}E \left(\sum_{i=1}^{n}X_i^2-n{\bar{X}}^2\right)\\ &=\frac{1}{n-1} \left\{E \left(\sum_{i=1}^{n}X_i^2\right)-nE \left({\bar{X}}^2\right)\right\}\\ &=\frac{1}{n-1} \left\{\sum_{i=1}^{n}E \left(X_i^2\right)-nE \left({\bar{X}}^2\right)\right\} \end{align} 分散の公式の変形 $E \left({\bar{X}}^2\right)=V \left(\bar{X}\right)+ \left\{E \left(\bar{X}\right)\right\}^2$ より、 \begin{align} E \left({\bar{X}}^2\right)=\frac{\sigma^2}{n}+\mu^2 \end{align} したがって、 \begin{align} E \left(S^2\right)&=\frac{1}{n-1} \left\{n \left(\sigma^2+\mu^2\right)-n \left(\frac{\sigma^2}{n}+\mu^2\right)\right\}\\ &=\frac{1}{n-1} \left(n\sigma^2+n\mu^2-\sigma^2-n\mu^2\right)\\ &=\frac{1}{n-1} \left(n-1\right)\sigma^2\\ &=\sigma^2 \end{align} よって、$E \left(\hat{\theta}\right)=\theta$ が成り立つので、$S^2$ は $\sigma^2$ の不偏推定量である。 $\blacksquare$

〔2〕標本平均の分布の歪度

\begin{align} \left(\bar{X}-\mu\right)^3&= \left(\frac{1}{n}\sum_{i=1}^{n}X_i-\mu\right)^3\\ &= \left(\frac{1}{n}\sum_{i=1}^{n}X_i-\frac{1}{n}\sum_{i=1}^{n}\mu\right)^3\\ &=\frac{1}{n^3} \left\{\sum_{i=1}^{n} \left(X_i-\mu\right)\right\}^3\\ &=\frac{1}{n^3} \left\{ \left(X_1-\mu\right)+ \cdots + \left(X_n-\mu\right)\right\}^3\\ \end{align} ここで多項定理より、 \begin{align} \left(\bar{X}-\mu\right)^3&=\frac{1}{n^3} \left\{\frac{3!}{3!0!0!}\sum_{i=1}^{n} \left(X_i-\mu\right)^3+\frac{3!}{2!1!0!}\sum_{i \neq j}{ \left(X_i-\mu\right)^2 \left(X_j-\mu\right)}+\frac{3!}{1!1!1!}\sum_{i \neq j \neq k} \left(X_i-\mu\right) \left(X_j-\mu\right) \left(X_k-\mu\right)\right\}\\ &=\frac{1}{n^3} \left\{\sum_{i=1}^{n} \left(X_i-\mu\right)^3+3\sum_{i \neq j}{ \left(X_i-\mu\right)^2 \left(X_j-\mu\right)}+6\sum_{i \neq j \neq k} \left(X_i-\mu\right) \left(X_j-\mu\right) \left(X_k-\mu\right)\right\} \end{align} 両辺の期待値を取ると、独立な確率変数の期待値の性質 $E \left(XYZ\right)=E \left(X\right)E \left(Y\right)E \left(Z\right)$ より、 \begin{align} E \left[ \left(\bar{X}-\mu\right)^3\right]=&\frac{1}{n^3}\sum_{i=1}^{n}{E \left(X_i-\mu\right)^3}\\ &+\frac{3}{n^3}\sum_{i \neq j}{E \left(X_i-\mu\right)^2 \cdot E \left(X_j-\mu\right)}\\ &+\frac{6}{n^3}\sum_{i \neq j \neq k} E \left(X_i-\mu\right)E \left(X_j-\mu\right)E \left(X_k-\mu\right) \end{align} ここで、期待値周りの1次モーメントの性質 $E \left(X_i-\mu\right)=0$ より、 \begin{align} E \left[ \left(\bar{X}-\mu\right)^3\right]&=\frac{1}{n^3}\sum_{i=1}^{n}{E \left(X_i-\mu\right)^3}+0+0\\ &=\frac{1}{n^3}\sum_{i=1}^{n}{E \left(X_i-\mu\right)^3}\\ \end{align} $E \left[ \left(X-\mu\right)^3\right]=\beta_1\sigma^3$ より、 \begin{align} E \left[ \left(\bar{X}-\mu\right)^3\right]&=\frac{1}{n^3} \cdot n\beta_1\sigma^3\\ &=\frac{\beta_1\sigma^3}{n^2}\\ \end{align} 歪度の定義式より、 \begin{align} {\bar{\beta}}_1=\frac{E \left[ \left(\bar{X}-\mu\right)^3\right]}{\sigma_{\bar{X}}^3} \end{align} 〔1〕の結果 $\sigma_{\bar{X}}=\frac{\sigma}{\sqrt n}$ より、 \begin{align} {\bar{\beta}}_1&=\frac{\frac{\beta_1\sigma^3}{n^2}}{ \left(\frac{\sigma}{\sqrt n}\right)^3}\\ &=\beta_1 \cdot \frac{\sigma^3}{n^2} \cdot \frac{n\sqrt n}{\sigma^3}\\ &=\frac{\beta_1}{\sqrt n} \end{align} $\blacksquare$

〔3〕標本平均の分布の尖度

〔2〕と同様に、 \begin{align} \left(\bar{X}-\mu\right)^4&= \left(\frac{1}{n}\sum_{i=1}^{n}X_i-\mu\right)^4\\ &= \left(\frac{1}{n}\sum_{i=1}^{n}X_i-\frac{1}{n}\sum_{i=1}^{n}\mu\right)^4\\ &=\frac{1}{n^4} \left\{\sum_{i=1}^{n} \left(X_i-\mu\right)\right\}^4\\ &=\frac{1}{n^4} \left\{ \left(X_1-\mu\right)+ \left(X_2-\mu\right)+ \cdots + \left(X_n-\mu\right)\right\}^4 \end{align} ここで多項定理より、 \begin{align} \left(\bar{X}-\mu\right)^4=\frac{1}{n^4}& \left\{\frac{4!}{4!0!0!0!}\sum_{i=1}^{n} \left(X_i-\mu\right)^4\right.\\ &+\frac{4!}{3!1!0!0!}\sum_{i \neq j}{ \left(X_i-\mu\right)^3 \left(X_j-\mu\right)}\\ &+\frac{4!}{2!2!0!0!}\sum_{i \neq j}{ \left(X_i-\mu\right)^2 \left(X_j-\mu\right)^2}\\ &+\frac{4!}{2!1!1!0!}\sum_{i \neq j \neq k}{ \left(X_i-\mu\right)^2 \left(X_j-\mu\right) \left(X_k-\mu\right)}\\ &+ \left.\frac{4!}{1!1!1!1!}\sum_{i \neq j \neq k \neq l} \left(X_i-\mu\right) \left(X_j-\mu\right) \left(X_k-\mu\right) \left(X_l-\mu\right)\right\} \end{align} \begin{align} \left(\bar{X}-\mu\right)^4=\frac{1}{n^4}& \left\{\sum_{i=1}^{n} \left(X_i-\mu\right)^4\right.\\ &+4\sum_{i \neq j}{ \left(X_i-\mu\right)^3 \left(X_j-\mu\right)}\\ &+6\sum_{i \neq j}{ \left(X_i-\mu\right)^2 \left(X_j-\mu\right)^2}\\ &+12\sum_{i \neq j \neq k}{ \left(X_i-\mu\right)^2 \left(X_j-\mu\right) \left(X_k-\mu\right)}\\ &+ \left.24\sum_{i \neq j \neq k \neq l} \left(X_i-\mu\right) \left(X_j-\mu\right) \left(X_k-\mu\right) \left(X_l-\mu\right)\right\} \end{align} 両辺の期待値を取ると、 \begin{align} E \left[ \left(\bar{X}-\mu\right)^4\right]=\frac{1}{n^4}& \left\{\sum_{i=1}^{n}E \left[ \left(X_i-\mu\right)^4\right]\right.\\ &+4\sum_{i \neq j} E \left[ \left(X_i-\mu\right)^3\right]E \left(X_j-\mu\right)\\ &+6\sum_{i \neq j} E \left[ \left(X_i-\mu\right)^2\right]E \left[ \left(X_j-\mu\right)^2\right]\\ &+12\sum_{i \neq j \neq k} E \left[ \left(X_i-\mu\right)^2\right]E \left(X_j-\mu\right)E \left(X_k-\mu\right)\\ &+ \left.24\sum_{i \neq j \neq k \neq l} E \left(X_i-\mu\right)E \left(X_j-\mu\right)E \left(X_k-\mu\right)E \left(X_l-\mu\right)\right\} \end{align} 期待値周りの1次モーメントの性質 $E \left(X_i-\mu\right)=0$ より、 \begin{align} E \left[ \left(\bar{X}-\mu\right)^4\right]=\frac{1}{n^4} \left\{\sum_{i=1}^{n}E \left[ \left(X_i-\mu\right)^4\right]+6\sum_{i \neq j} E \left[ \left(X_i-\mu\right)^2\right]E \left[ \left(X_j-\mu\right)^2\right]\right\} \end{align} 分散の定義式 $V \left(X\right)=E \left[ \left(X-\mu\right)^2\right]$ より、 \begin{align} E \left[ \left(\bar{X}-\mu\right)^4\right]&=\frac{1}{n^4} \left\{\sum_{i=1}^{n}E \left[ \left(X_i-\mu\right)^4\right]+6\sum_{i \neq j} V \left(X_i\right)V \left(X_j\right)\right\}\\ &=\frac{1}{n^4} \left\{nE \left[ \left(X-\mu\right)^4\right]+6\sum_{i \neq j} V \left(X_i\right)V \left(X_j\right)\right\} \end{align} ここで右辺第2項 $\sum_{i \neq j} V \left(X_i\right)V \left(X_j\right)$ について、 1番目の添え字 $i$ の選び方が $n$ 通り
2番目の添え字 $j$ の選び方が $n-1$ 通り そして、添え字の入れ替えによる重複を考慮すると全部で $\displaystyle\frac{n \left(n-1\right)}{2}$ 通り あるので \begin{align} E \left[ \left(\bar{X}-\mu\right)^4\right]&=\frac{1}{n^4} \left\{n \left(\beta_2+3\right)\sigma^4+\frac{6n \left(n-1\right)}{2}\sigma^4\right\}\\ &=\frac{\sigma^4}{n^3} \left(\beta_2+3+3n-3\right)\\ &=\frac{\sigma^4}{n^3} \left(\beta_2+3n\right) \end{align} 歪度の定義式より、 \begin{align} {\bar{\beta}}_2&=\frac{E \left[ \left(\bar{X}-\mu\right)^4\right]}{ \left\{V \left(\bar{X}\right)\right\}^4}-3\\ &=\frac{\sigma^4}{n^3} \left(\beta_2+3n\right)\frac{1}{ \left(\frac{\sigma}{\sqrt n}\right)^4}-3\\ &=\frac{\sigma^4}{n^3} \cdot \frac{n^2}{\sigma^4} \left(\beta_2+3n\right)-3\\ &=\frac{\beta_2+3n-3n}{n}\\ &=\frac{\beta_2}{n} \end{align} $\blacksquare$

〔4〕標本分布の漸近的性質

〔2〕〔3〕の結果より、$n\rightarrow\infty$ のときの極限を取ると、 \begin{gather} \lim_{n\rightarrow\infty}{{\bar{\beta}}_1}=\lim_{n\rightarrow\infty}{\frac{\beta_1}{\sqrt n}}=0\\ \lim_{n\rightarrow\infty}{{\bar{\beta}}_2}=\lim_{n\rightarrow\infty}{\frac{\beta_2}{n}}=0 \end{gather} したがって、サンプルサイズ $n$ が十分大きいとき、尖度も歪度も0に近づく。このことは、中心極限定理により、標本平均の分布が正規分布に収束することの一側面であると考えられる（正規分布の尖度・歪度はともに0）。 $\blacksquare$

〔5〕正規分布の母分散の最尤推定量

（i）最尤推定量
尤度関数 $L \left(\boldsymbol{\theta}\right)$ を求めると、 \begin{align} L \left(\mu,\sigma^2\right)&=\prod_{i=1}^{n}{\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{ \left(x_i-\mu\right)^2}{2\sigma^2}}}\\ &= \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n \cdot \mathrm{exp} \left\{-\frac{1}{2\sigma^2}\sum_{i=1}^{n} \left(x_i-\mu\right)^2\right\}\\ &= \left(\frac{1}{2\pi\sigma^2}\right)^\frac{n}{2} \cdot \mathrm{exp} \left\{-\frac{1}{2\sigma^2}\sum_{i=1}^{n} \left(x_i-\mu\right)^2\right\} \end{align} 対数尤度関数 $l \left(\boldsymbol{\theta}\right)=\log{L \left(\boldsymbol{\theta}\right)}$ を求めると、 \begin{align} l \left(\mu,\sigma^2\right)&=\log{ \left[ \left(\frac{1}{2\pi\sigma^2}\right)^\frac{n}{2} \cdot \mathrm{exp} \left\{-\frac{1}{2\sigma^2}\sum_{i=1}^{n} \left(x_i-\mu\right)^2\right\}\right]}\\ &=-\frac{n}{2}\log{2\pi\sigma^2}-\frac{1}{2\sigma^2}\sum_{i=1}^{n} \left(x_i-\mu\right)^2\\ &=-\frac{n}{2} \left(\log{2\pi}+\log{\sigma^2}\right)-\frac{1}{2\sigma^2}\sum_{i=1}^{n} \left(x_i-\mu\right)^2\\ &=-\frac{n}{2} \left(\log{2\pi}+\log{\sigma^2}\right)-\frac{1}{2\sigma^2} \left(\sum_{i=1}^{n}x_i^2-2\mu\sum_{i=1}^{n}x_i+n\mu^2\right) \end{align}

（i）母平均が既知のとき
パラメータ $\sigma^2$ に関するスコア関数 $S \left(\theta\right)=\frac{\partial}{\partial\sigma^2}\log{L \left(\boldsymbol{\theta}\right)}$ を求めると、 \begin{align} S \left(\sigma^2\right)=-\frac{n}{2\sigma^2}+\frac{1}{2\sigma^4}\sum_{i=1}^{n} \left(x_i-\mu\right)^2 \end{align} 尤度方程式 $S \left(\theta\right)=0$ を解くと、 \begin{gather} 0=-\frac{n}{2{\hat{\sigma}}^2}+\frac{1}{2{\hat{\sigma}}^4}\sum_{i=1}^{n} \left(x_i-\mu\right)^2\\ 0=n{\hat{\sigma}}^2+\sum_{i=1}^{n} \left(x_i-\mu\right)^2\\ {\hat{\sigma}}^2=\frac{1}{n}\sum_{i=1}^{n} \left(x_i-\mu\right)^2\\ {\hat{\sigma}}^2=T^2 \end{gather}

（ii）母平均が未知のとき
母平均の最尤推定量 $\hat{\mu}=\bar{x}$ で置換すると、 \begin{align} {\hat{\sigma}}^2&=\frac{1}{n}\sum_{i=1}^{n} \left(x_i-\bar{x}\right)^2\\ &=\frac{n}{n-1}S^2 \end{align} $\blacksquare$

関連記事

• 確率分布の特性値
• 標本平均の期待値と分散
• 標本分散の期待値と分散
• 中心極限定理