統計検定 1級 2018年 統計数理 問1 正規分布の標準偏差の推定

本稿には、2018年に実施された統計検定1級『統計数理』 問1の自作解答案を掲載しています。なお、閲覧にあたっては、以下の点にご注意ください。

〔1〕標本不偏分散の不偏性の証明

（i）標本平均の期待値
期待値の性質 $E\left(\sum _{i=1}^{n}a{X}_i\right)=a\sum _{i=1}^{n}E\left(X_i\right)$ より、 $$\begin{array}{rl}E\left(\overline{X}\right)& =E\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)\\ & =\frac{1}{n}\sum _{i=1}^{n}E\left(X_i\right)\\ & =\frac{1}{n}\cdot n\mu \\ & =\mu \end{array}$$

（ii）標本平均の分散
確率変数が互いに独立な時、分散の性質 $V\left(\sum _{i=1}^{n}a{X}_i\right)=a^2\sum _{i=1}^{n}V\left(X_i\right)$ より、 $$\begin{array}{rl}V\left(\overline{X}\right)& =V\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)\\ & =\frac{1}{n^2}\sum _{i=1}^{n}V\left(X_i\right)\\ & =\frac{1}{n^2}\cdot n{\sigma }^2\\ & =\frac{{\sigma }^2}{n}\end{array}$$

（iii）標本不偏分散の期待値
標本不偏分散の期待値を取ると、 $$\begin{array}{rl}E\left(S^2\right)& =E\left\{\frac{1}{n-1}\sum _{i=1}^n{(X_i-\overline{X})}^2\right\}\\ & =\frac{1}{n-1}E\left\{\sum _{i=1}^n(X_i^2-2\overline{X}{X}_i+{\overline{X}}^2)\right\}\\ & =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-2\overline{X}\sum _{i=1}^n{X}_i+\sum _{i=1}^n{\overline{X}}^2)\\ & =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-2\overline{X}\sum _{i=1}^n{X}_i+n{\overline{X}}^2)\end{array}$$ ここで、標本平均の定義式より、 $$\begin{array}{r}\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i\iff \sum _{i=1}^n{X}_i=n\overline{X}\end{array}$$ したがって、 $$\begin{array}{rl}E\left(S^2\right)& =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-2\overline{X}\cdot n\overline{X}+n{\overline{X}}^2)\\ & =\frac{1}{n-1}E(\sum _{i=1}^n{X}_i^2-n{\overline{X}}^2)\\ & =\frac{1}{n-1}\{E\left(\sum _{i=1}^n{X}_i^2\right)-nE\left({\overline{X}}^2\right)\}\\ & =\frac{1}{n-1}\{\sum _{i=1}^{n}E\left(X_i^2\right)-nE\left({\overline{X}}^2\right)\}\end{array}$$ 分散の公式の変形 $E\left({\overline{X}}^2\right)=V\left(\overline{X}\right)+{\left\{E\left(\overline{X}\right)\right\}}^2$ より、 $$\begin{array}{r}E\left({\overline{X}}^2\right)=\frac{{\sigma }^2}{n}+{\mu }^2\end{array}$$ したがって、 $$\begin{array}{rl}E\left(S^2\right)& =\frac{1}{n-1}\{n({\sigma }^2+{\mu }^2)-n(\frac{{\sigma }^2}{n}+{\mu }^2)\}\\ & =\frac{1}{n-1}(n{\sigma }^2+n{\mu }^2-{\sigma }^2-n{\mu }^2)\\ & =\frac{1}{n-1}(n-1){\sigma }^2\\ & ={\sigma }^2\end{array}$$ よって、$E\left(\hat{\theta }\right)=\theta$ が成り立つので、$S^2$ は ${\sigma }^2$ の不偏推定量である。 $◼$

〔2〕カイ2乗分布の期待値と分散

（i）期待値
期待値の定義式 $E\left(Y\right)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}y\cdot f\left(y\right)dy$ より、 $$\begin{array}{rl}E\left(Y\right)& ={\int }_0^{\mathrm{\infty }}y\cdot \frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{y}^{\frac{n-1}{2}-1}\cdot e^{-\frac{y}{2}}dy\\ & =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{y}^{\frac{n-1}{2}}\cdot e^{-\frac{y}{2}}dy\end{array}$$ ここで、以下のように変数変換すると、 $$\begin{array}{c}t=\frac{y}{2}\iff y=2t\\ \frac{dy}{dt}=2\Rightarrow dy=2dt\\ y:0\to \mathrm{\infty }\Rightarrow t:0\to \mathrm{\infty }\end{array}$$ となるので、 置換積分法により、 $$\begin{array}{rl}E\left(Y\right)& =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{\left(2t\right)}^{\frac{n-1}{2}}\cdot e^{-t}\cdot 2dt\\ & =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\cdot 2^{\frac{n-1}{2}+1}{\int }_0^{\mathrm{\infty }}{t}^{\frac{n-1}{2}}\cdot e^{-t}dt\\ & =\frac{2}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{t}^{\frac{n+1}{2}-1}\cdot e^{-t}dt\end{array}$$ ガンマ関数の定義式 $\mathrm{\Gamma }\left(\alpha \right)={\int }_0^{\mathrm{\infty }}{x}^{\alpha -1}\cdot e^{-x}dx$ より、$\alpha =\frac{n+1}{2}$ とすると、 $$\begin{array}{r}E\left(Y\right)=\frac{2}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\cdot \mathrm{\Gamma }\left(\frac{n+1}{2}\right)\end{array}$$ ガンマ関数の性質 $\mathrm{\Gamma }(\alpha +1)=\alpha \mathrm{\Gamma }\left(\alpha \right)$ より、$\alpha =\frac{n-1}{2}$ とすると、 $$\begin{array}{rl}E\left(Y\right)& =\frac{2}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\cdot \frac{n-1}{2}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)\\ & =n-1\end{array}$$

（ii）分散
2乗の期待値の定義式 $E\left(Y^2\right)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{y}^2\cdot f\left(y\right)dy$ より、 $$\begin{array}{rl}E\left(Y^2\right)& ={\int }_0^{\mathrm{\infty }}{y}^2\cdot \frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{y}^{\frac{n-1}{2}-1}\cdot e^{-\frac{y}{2}}dy\\ & =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{y}^{\frac{n-1}{2}+1}\cdot e^{-\frac{y}{2}}dy\end{array}$$ （i）と同様の変数変換をすると、置換積分法により、 $$\begin{array}{rl}E\left(Y^2\right)& =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{\left(2t\right)}^{\frac{n-1}{2}+1}\cdot e^{-t}\cdot 2dt\\ & =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\cdot 2^{\frac{n-1}{2}+2}{\int }_0^{\mathrm{\infty }}{t}^{\frac{n-1}{2}+1}\cdot e^{-t}dt\\ & =\frac{4}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{t}^{\frac{n+3}{2}-1}\cdot e^{-t}dt\end{array}$$ ガンマ関数の定義式 $\mathrm{\Gamma }\left(\alpha \right)={\int }_0^{\mathrm{\infty }}{x}^{\alpha -1}\cdot e^{-x}dx$ より、$\alpha =\frac{n+3}{2}$ とすると、 $$\begin{array}{r}E\left(Y^2\right)=\frac{4}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\cdot \mathrm{\Gamma }\left(\frac{n+3}{2}\right)\end{array}$$ ガンマ関数の性質 $\mathrm{\Gamma }(\alpha +2)=\alpha (\alpha +1)\mathrm{\Gamma }\left(\alpha \right)$ より、$\alpha =\frac{n-1}{2}$ とすると、 $$\begin{array}{rl}E\left(Y^2\right)& =\frac{4}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\cdot \frac{n-1}{2}\cdot \frac{n+1}{2}\mathrm{\Gamma }\left(\frac{n-1}{2}\right)\\ & =(n+1)(n-1)\end{array}$$ 分散の公式 $V\left(Y\right)=E\left(Y^2\right)-{\left\{E\left(Y\right)\right\}}^2$ より、 $$\begin{array}{rl}V\left(Y\right)& =(n+1)(n-1)-{(n-1)}^2\\ & =(n-1)\{(n+1)-(n-1)\}\\ & =2(n-1)\end{array}$$ ここで、 $$\begin{array}{r}Y=\sum _{i=1}^n{\left(\frac{X_i-\overline{X}}{\sigma }\right)}^2=\frac{(n-1)S^2}{{\sigma }^2}\end{array}$$ とすると、 正規分布の標本不偏分散の性質より、 $$\begin{array}{r}Y\sim {\chi }^2(n-1)\end{array}$$ このとき、 $$\begin{array}{r}{S}^2=\frac{{\sigma }^2}{n-1}Y\end{array}$$ 両辺の分散を取ると、 $$\begin{array}{rl}V\left(S^2\right)& =V\left(\frac{{\sigma }^2}{n-1}Y\right)\\ & =\frac{{\sigma }^4}{{(n-1)}^2}V\left(Y\right)\\ & =\frac{{\sigma }^4}{{(n-1)}^2}2(n-1)\\ & =\frac{2{\sigma }^4}{n-1}\end{array}$$ $◼$

〔3〕正規分布の標本標準偏差の期待値

期待値の定義式 $E\left(\sqrt{Y}\right)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}\sqrt{y}\cdot f\left(y\right)dy$ より、 $$\begin{array}{rl}E\left(\sqrt{Y}\right)& ={\int }_0^{\mathrm{\infty }}\sqrt{y}\cdot \frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{y}^{\frac{n-1}{2}-1}\cdot e^{-\frac{y}{2}}dy\\ & =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{y}^{\frac{n}{2}-1}{e}^{-\frac{y}{2}}dy\end{array}$$ 〔2〕と同様の変数変換を行うと、置換積分法により、 $$\begin{array}{rl}E\left(\sqrt{Y}\right)& =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{\left(2t\right)}^{\frac{n}{2}-1}\cdot e^{-t}\cdot 2dt\\ & =\frac{1}{2^{\frac{n-1}{2}}\cdot \mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\cdot 2^{\frac{n}{2}}{\int }_0^{\mathrm{\infty }}{t}^{\frac{n}{2}-1}\cdot e^{-t}dt\\ & =\frac{\sqrt{2}}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}{\int }_0^{\mathrm{\infty }}{t}^{\frac{n}{2}-1}\cdot e^{-t}dt\end{array}$$ ガンマ関数の定義式 $\mathrm{\Gamma }\left(\alpha \right)={\int }_0^{\mathrm{\infty }}{x}^{\alpha -1}\cdot e^{-x}dx$ より、$\alpha =\frac{n}{2}$ とすると、 $$\begin{array}{r}E\left(\sqrt{Y}\right)=\frac{\sqrt{2}}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\cdot \mathrm{\Gamma }\left(\frac{n}{2}\right)\end{array}$$ また、 $$\begin{array}{r}\sqrt{Y}=\frac{\sqrt{n-1}}{\sigma }S\iff S=\frac{\sigma }{\sqrt{n-1}}\sqrt{Y}\end{array}$$ したがって、 $$\begin{array}{rl}E\left(S\right)& =E\left(\frac{\sigma }{\sqrt{n-1}}\sqrt{Y}\right)\\ & =\frac{\sigma }{\sqrt{n-1}}E\left(\sqrt{Y}\right)\\ & =\frac{\sqrt{2}}{\sqrt{n-1}}\frac{\mathrm{\Gamma }\left(\frac{n}{2}\right)}{\mathrm{\Gamma }\left(\frac{n-1}{2}\right)}\sigma \end{array}$$ $◼$

〔4〕正規分布の標本標準偏差のバイアス

スターリングの公式より、 $$\begin{array}{c}\mathrm{\Gamma }\left(\frac{n-1}{2}\right)\cong \sqrt{2\pi }\cdot \exp (-\frac{n-1}{2})\cdot {\left(\frac{n-1}{2}\right)}^{\frac{n-1}{2}-\frac{1}{2}}\\ \mathrm{\Gamma }\left(\frac{n}{2}\right)\cong \sqrt{2\pi }\cdot \exp (-\frac{n}{2})\cdot {\left(\frac{n}{2}\right)}^{\frac{n}{2}-\frac{1}{2}}\end{array}$$ したがって、 $$\begin{array}{rl}E\left(S\right)& \cong \sigma \cdot \frac{\sqrt{2}}{\sqrt{n-1}}\cdot \frac{\sqrt{2\pi }}{\sqrt{2\pi }}\cdot {\left(\frac{\frac{n}{2}}{\frac{n-1}{2}}\right)}^{\frac{n-1}{2}}\cdot \frac{\sqrt{n-1}}{\sqrt{2}}\cdot \exp (-\frac{n}{2}+\frac{n-1}{2})\\ & \cong \sigma \cdot {\left(\frac{n}{n-1}\right)}^{\frac{n-1}{2}}\exp (-\frac{1}{2})\\ & \cong \sigma \cdot {(1+\frac{1}{n-1})}^{\frac{n-1}{2}}\cdot \exp (-\frac{1}{2})\\ \frac{E\left(S\right)}{\sigma }& \cong {(1+\frac{1}{n-1})}^{\frac{n-1}{2}}\cdot \exp (-\frac{1}{2})\end{array}$$ 両辺の対数を取ると、 $$\begin{array}{r}\log \frac{E\left(S\right)}{\sigma }=-\frac{1}{2}+\frac{n-1}{2}\log (1+\frac{1}{n-1})\end{array}$$ ここで、対数関数のマクローリン展開 $\log (1+x)=x-\frac{x^2}{2}+\frac{x^3}{3}-\cdots$ より、 $$\begin{array}{rl}\log \frac{E\left(S\right)}{\sigma }& =-\frac{1}{2}+\frac{n-1}{2}(\frac{1}{n-1}-\frac{1}{2{(n-1)}^2}+\frac{1}{3{(n-1)}^3}-\cdots )\\ & =-\frac{1}{2}+\frac{1}{2}-\frac{1}{4(n-1)}+\frac{1}{6{(n-1)}^2}-\cdots \\ & \cong -\frac{1}{4n}+o\left(\frac{1}{n}\right)\end{array}$$ よって $$\begin{array}{r}E\left(S\right)=\sigma \cdot \exp (-\frac{1}{4n})\end{array}$$ ここで、$x\to 0$ のとき、$1+x\cong e^x$ が成り立つので、 $$\begin{array}{r}E\left(S\right)\cong \sigma \cdot (1-\frac{1}{4n})\end{array}$$ よって、 $$\begin{array}{r}E\left(S\right)-\sigma =\sigma -\frac{\sigma }{4n}-\sigma =-\frac{\sigma }{4n}\end{array}$$ $◼$

関連記事

• カイ2乗分布の期待値・分散と最頻値
• 推定量の評価
• 標本平均の期待値と分散
• 標本分散の期待値と分散
• 正規分布の母標準偏差の不偏推定量