統計検定 1級 2015年 統計数理 問1 標本モーメント

本稿には、2015年に実施された統計検定1級『統計数理』 問1の自作解答案を掲載しています。なお、閲覧にあたっては、以下の点にご注意ください。

〔1〕標本平均の2次モーメント

（i）標本平均の期待値
期待値の性質 $E\left(\sum _{i=1}^{n}a{X}_i\right)=a\sum _{i=1}^{n}E\left(X_i\right)$ より、 $$\begin{array}{rl}E\left(\overline{X}\right)& =E\left[\frac{1}{n}\sum _{i=1}^n{X}_i\right]\\ & =\frac{1}{n}\sum _{i=1}^{n}E\left(X_i\right)\\ & =\frac{1}{n}\cdot n\mu \\ & =\mu \end{array}$$ $◼$ （ii）標本平均の分散
分散の性質 $V\left(\sum _{i=1}^{n}a{X}_i\right)=a^2\sum _{i=1}^{n}V\left(X_i\right)$ より、 $$\begin{array}{rl}V\left(\overline{X}\right)& =V\left[\frac{1}{n}\sum _{i=1}^n{X}_i\right]\\ & =\frac{1}{n^2}\sum _{i=1}^{n}V\left(X_i\right)\\ & =\frac{1}{n^2}\cdot n{\sigma }^2\\ & =\frac{{\sigma }^2}{n}\end{array}$$ 分散の公式の変形 $E\left(X^2\right)=V\left(X\right)+{\left\{E\left(X\right)\right\}}^2$ より、 $$\begin{array}{r}E\left({\overline{X}}^2\right)=\frac{{\sigma }^2}{n}+{\mu }^2\end{array}$$ $◼$

〔2〕標本不偏分散の不偏性の証明

標本不偏分散の定義式を変形すると、 $$\begin{array}{rl}{S}^2& =\frac{1}{n-1}\sum _{i=1}^n(X_i^2-2X_i\overline{X}+{\overline{X}}^2)\\ & =\frac{1}{n-1}(\sum _{i=1}^n{X}_i^2-2\overline{X}\sum _{i=1}^n{X}_i+n{\overline{X}}^2)\end{array}$$ 標本平均の定義式より、 $$\begin{array}{r}\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i\iff \sum _{i=1}^n{X}_i=n\overline{X}\end{array}$$ よって、 $$\begin{array}{rl}{S}^2& =\frac{1}{n-1}(\sum _{i=1}^n{X}_i^2-2n{\overline{X}}^2+n{\overline{X}}^2)\\ & =\frac{1}{n-1}(\sum _{i=1}^n{X}_i^2-n{\overline{X}}^2)\end{array}$$ 両辺の期待値を取ると、 $$\begin{array}{rl}E\left(S^2\right)& =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-n{\overline{X}}^2)\\ & =\frac{1}{n-1}\{\sum _{i=1}^{n}E\left(X_i^2\right)-nE\left({\overline{X}}^2\right)\}\\ & =\frac{1}{n-1}\{nE\left(X_i^2\right)-n(\frac{{\sigma }^2}{n}+{\mu }^2)\}\\ & =\frac{1}{n-1}\{nE\left(X_i^2\right)-({\sigma }^2+n{\mu }^2)\}\end{array}$$ 分散の公式の変形 $E\left(X^2\right)=V\left(X\right)+{\left\{E\left(X\right)\right\}}^2$ より、 $$\begin{array}{r}E\left(X_i^2\right)={\sigma }^2+{\mu }^2\end{array}$$ したがって、 $$\begin{array}{rl}E\left(S^2\right)& =\frac{1}{n-1}\{n({\sigma }^2+{\mu }^2)-{\sigma }^2-n{\mu }^2\}\\ & =\frac{n-1}{n-1}{\sigma }^2\\ & ={\sigma }^2\end{array}$$ したがって、不偏推定量の定義 $E\left(\hat{\theta }\right)=\theta$ を満たすため、$S^2$ は母分散 ${\sigma }^2$ の不偏推定量である。 $◼$

〔3〕標本平均の平均まわりのモーメント

正規分布の標本平均が従う分布は、 $$\begin{array}{r}\overline{X}\sim \mathrm{N}(\mu ,\frac{{\sigma }^2}{n})\end{array}$$ 正規分布のモーメント母関数の公式より、 $$\begin{array}{r}{M}_{\overline{X}}\left(\theta \right)=e^{\mu \theta +\frac{{\sigma }^2}{2n}{\theta }^2}\end{array}$$ モーメント母関数の性質 $M_{aX+b}\left(\theta \right)=e^{b\theta }{M}_X\left(a\theta \right)$ より、 $$\begin{array}{rl}{M}_{\overline{X}-\mu }\left(\theta \right)& =e^{-\mu \theta }\cdot e^{\mu \theta +\frac{{\sigma }^2}{2n}{\theta }^2}\\ & =e^{\frac{{\sigma }^2}{2n}{\theta }^2}\end{array}$$ これをマクローリン展開すると、 $$\begin{array}{rl}{M}_{\overline{X}-\mu }\left(\theta \right)& =1+\frac{{\sigma }^2}{2n}{\theta }^2+\frac{1}{2}\cdot {\left(\frac{{\sigma }^2{\theta }^2}{2n}\right)}^2+\frac{1}{3!}\cdot {\left(\frac{{\sigma }^2{\theta }^2}{2n}\right)}^3+\cdots \\ & =1+\frac{{\sigma }^2}{2n}{\theta }^2+\frac{1}{2}\cdot \frac{{\sigma }^4}{4n^2}{\theta }^4+\frac{1}{3!}\cdot \frac{{\sigma }^6}{8n^3}{\theta }^6+\cdots \\ & =\sum _{l=0}^{\mathrm{\infty }}\frac{1}{l!}\cdot {\left(\frac{{\sigma }^2}{2n}\right)}^l{\theta }^{2l}\end{array}$$ モーメント母関数の $k$ 階微分を求めると、
（i）$k$ が奇数 $k=2m-1$ のとき
$$\begin{array}{r}{M}_{\overline{X}-\mu }^{\left(k\right)}\left(\theta \right)=\sum _{l=0}^{\mathrm{\infty }}\frac{2l(2l-1)\cdots (2l-k+1)}{l!}\cdot {\left(\frac{{\sigma }^2}{2n}\right)}^l{\theta }^{2l-k}\end{array}$$ モーメント母関数と $k$ 次モーメントの関係より、 $$\begin{array}{r}{M}_{\overline{X}-\mu }^{\left(k\right)}\left(0\right)=E\left[{(\overline{X}-\mu )}^k\right]=0\end{array}$$ （ii）$k$ が偶数 $k=2m$ のとき $$\begin{array}{r}{M}_{\overline{X}-\mu }^{\left(k\right)}\left(\theta \right)=\frac{\left(2m\right)!}{m!}{\left(\frac{{\sigma }^2}{2n}\right)}^m+\sum _{l=m}^{\mathrm{\infty }}\frac{2l(2l-1)\cdots (2l-2m+1)}{l!}\cdot {\left(\frac{{\sigma }^2}{2n}\right)}^l{\theta }^{2l-2m}\end{array}$$ モーメント母関数と $k$ 次モーメントの関係より、 $$\begin{array}{r}{M}_{\overline{X}-\mu }^{\left(k\right)}\left(0\right)=E\left[{(\overline{X}-\mu )}^k\right]=\frac{\left(2m\right)!}{m!}{\left(\frac{{\sigma }^2}{2n}\right)}^m\end{array}$$ $◼$

〔4〕標本不偏分散の一致性

正規分布の標本不偏分散の性質より、 $$\begin{array}{r}\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)\end{array}$$ ${\chi }^2$分布の分散の公式より、 $$\begin{array}{c}V\left[\frac{(n-1)S^2}{{\sigma }^2}\right]=2(n-1)\\ V\left(S^2\right)=\frac{{\sigma }^4}{{(n-1)}^2}\cdot 2(n-1)=\frac{2{\sigma }^4}{n-1}\end{array}$$ チェビシェフの不等式より、任意の正の数 $0<\epsilon$ に対して、 $$\begin{array}{r}P(|S^2-{\sigma }^2|\ge \epsilon )\le \frac{V\left(S^2\right)}{{\epsilon }^2}=\frac{2{\sigma }^4}{{\epsilon }^2(n-1)}\end{array}$$ 両辺の $n\to \mathrm{\infty }$ のときの極限を取ると、 $$\begin{array}{r}\underset{n\to \mathrm{\infty }}{lim}P(|S^2-{\sigma }^2|\ge \epsilon )=\underset{n\to \mathrm{\infty }}{lim}\frac{2{\sigma }^4}{{\epsilon }^2(n-1)}=0\end{array}$$ したがって、一致性の定義を満たすため、$S^2$ は ${\sigma }^2$ の一致推定量である。 $◼$

〔5〕平均二乗誤差

問題文の定義式を変形していくと、 $$\begin{array}{rl}\mathrm{MSE}\left[c{S}^2\right]& =E\left[{(c{S}^2-{\sigma }^2)}^2\right]\\ & =E[c^2{S}^4-2c{S}^2{\sigma }^2+{\sigma }^4]\\ & =c^{2}E\left[S^4\right]-2c{\sigma }^{2}E\left[S^2\right]+{\sigma }^4\\ & =c^{2}E\left[S^4\right]-2c{\sigma }^4+{\sigma }^4\\ & =c^2[V\left[S^2\right]+{\left\{E\left[S^2\right]\right\}}^2]-2c{\sigma }^4+{\sigma }^4\\ & =c^2(\frac{2{\sigma }^4}{n-1}+{\sigma }^4)-2c{\sigma }^4+{\sigma }^4\\ & =(\frac{2c^2}{n-1}+c^2-2c+1){\sigma }^4\\ & =\{\frac{2c^2}{n-1}+{(c-1)}^2\}{\sigma }^4\end{array}$$ ここで、$f\left(c\right)=\mathrm{MSE}\left[c{S}^2\right]$ とおいて、1階微分を求めると、 $$\begin{array}{rl}{f}^{\prime }\left(c\right)& =\{\frac{4c}{n-1}+2(c-1)\}{\sigma }^4\\ & =(n-1)\{4c+2(n-1)(c-1)\}{\sigma }^4\\ & =(n-1)(4c+2cn-2n-2c+2){\sigma }^4\\ & =(n-1)(2cn+2c-2n+2){\sigma }^4\\ & =2(n-1)\{c(n+1)-(n-1)\}{\sigma }^4\end{array}$$ 最小値は極値であると考えられるので、 $$\begin{array}{c}2(n-1)\{c(n+1)-(n-1)\}{\sigma }^4=0\\ c=\frac{n-1}{n+1}\end{array}$$ このときの $\mathrm{MSE}\left[c{S}^2\right]$ の値は、 $$\begin{array}{rl}\mathrm{MSE}\left[c{S}^2\right]& =\{\frac{2}{n-1}{\left(\frac{n-1}{n+1}\right)}^2+{(\frac{n-1}{n+1}-1)}^2\}{\sigma }^4\\ & =\{\frac{2(n-1)}{{(n+1)}^2}+\frac{4}{{(n+1)}^2}\}{\sigma }^4\\ & =\frac{2(n+1)}{{(n+1)}^2}{\sigma }^4\\ & =\frac{2}{n+1}{\sigma }^4\end{array}$$ $◼$

関連記事

• 正規分布のモーメント母関数
• 正規分布の期待値・分散と中心モーメント
• 推定量の評価
• 期待値の基本性質
• 分散の基本性質
• 標本分散の期待値と分散
• 正規分布の標本分布