統計検定 1級 2018年 統計数理 問1 正規分布の標準偏差の推定

本稿には、2018年に実施された統計検定1級『統計数理』 問1の自作解答案を掲載しています。なお、閲覧にあたっては、以下の点にご注意ください。

〔1〕標本不偏分散の不偏性の証明

（i）標本平均の期待値
期待値の性質 $E \left(\sum_{i=1}^{n}{aX_i}\right)=a\sum_{i=1}^{n}E \left(X_i\right)$ より、 \begin{align} E \left(\bar{X}\right)&=E \left(\frac{1}{n}\sum_{i=1}^{n}X_i\right)\\ &=\frac{1}{n}\sum_{i=1}^{n}E \left(X_i\right)\\ &=\frac{1}{n} \cdot n\mu\\ &=\mu \end{align}

（ii）標本平均の分散
確率変数が互いに独立な時、分散の性質 $V \left(\sum_{i=1}^{n}{aX_i}\right)=a^2\sum_{i=1}^{n}V \left(X_i\right)$ より、 \begin{align} V \left(\bar{X}\right)&=V \left(\frac{1}{n}\sum_{i=1}^{n}X_i\right)\\ &=\frac{1}{n^2}\sum_{i=1}^{n}V \left(X_i\right)\\ &=\frac{1}{n^2} \cdot n\sigma^2\\ &=\frac{\sigma^2}{n} \end{align}

（iii）標本不偏分散の期待値
標本不偏分散の期待値を取ると、 \begin{align} E \left(S^2\right)&=E \left\{\frac{1}{n-1}\sum_{i=1}^{n} \left(X_i-\bar{X}\right)^2\right\}\\ &=\frac{1}{n-1}E \left\{\sum_{i=1}^{n} \left(X_i^2-2\bar{X}X_i+{\bar{X}}^2\right)\right\}\\ &=\frac{1}{n-1}E \left(\sum_{i=1}^{n}X_i^2-2\bar{X}\sum_{i=1}^{n}X_i+\sum_{i=1}^{n}{\bar{X}}^2\right)\\ &=\frac{1}{n-1}E \left(\sum_{i=1}^{n}X_i^2-2\bar{X}\sum_{i=1}^{n}X_i+n{\bar{X}}^2\right) \end{align} ここで、標本平均の定義式より、 \begin{align} \bar{X}=\frac{1}{n}\sum_{i=1}^{n}X_i\Leftrightarrow\sum_{i=1}^{n}X_i=n\bar{X} \end{align} したがって、 \begin{align} E \left(S^2\right)&=\frac{1}{n-1}E \left(\sum_{i=1}^{n}X_i^2-2\bar{X} \cdot n\bar{X}+n{\bar{X}}^2\right)\\ &=\frac{1}{n-1}E \left(\sum_{i=1}^{n}X_i^2-n{\bar{X}}^2\right)\\ &=\frac{1}{n-1} \left\{E \left(\sum_{i=1}^{n}X_i^2\right)-nE \left({\bar{X}}^2\right)\right\}\\ &=\frac{1}{n-1} \left\{\sum_{i=1}^{n}E \left(X_i^2\right)-nE \left({\bar{X}}^2\right)\right\} \end{align} 分散の公式の変形 $E \left({\bar{X}}^2\right)=V \left(\bar{X}\right)+ \left\{E \left(\bar{X}\right)\right\}^2$ より、 \begin{align} E \left({\bar{X}}^2\right)=\frac{\sigma^2}{n}+\mu^2 \end{align} したがって、 \begin{align} E \left(S^2\right)&=\frac{1}{n-1} \left\{n \left(\sigma^2+\mu^2\right)-n \left(\frac{\sigma^2}{n}+\mu^2\right)\right\}\\ &=\frac{1}{n-1} \left(n\sigma^2+n\mu^2-\sigma^2-n\mu^2\right)\\ &=\frac{1}{n-1} \left(n-1\right)\sigma^2\\ &=\sigma^2 \end{align} よって、$E \left(\hat{\theta}\right)=\theta$ が成り立つので、$S^2$ は $\sigma^2$ の不偏推定量である。 $\blacksquare$

〔2〕カイ2乗分布の期待値と分散

（i）期待値
期待値の定義式 $E \left(Y\right)=\int_{-\infty}^{\infty}{y \cdot f \left(y\right)dy}$ より、 \begin{align} E \left(Y\right)&=\int_{0}^{\infty}{y \cdot \frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}y^{\frac{n-1}{2}-1} \cdot e^{-\frac{y}{2}}dy}\\ &=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{y^\frac{n-1}{2} \cdot e^{-\frac{y}{2}}dy} \end{align} ここで、以下のように変数変換すると、 \begin{gather} t=\frac{y}{2}\Leftrightarrow y=2t\\ \frac{dy}{dt}=2\Rightarrow dy=2dt\\ y:0\rightarrow\infty \quad \Rightarrow \quad t:0\rightarrow\infty \end{gather} となるので、 置換積分法により、 \begin{align} E \left(Y\right)&=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{ \left(2t\right)^\frac{n-1}{2} \cdot e^{-t} \cdot 2dt}\\ &=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)} \cdot 2^{\frac{n-1}{2}+1}\int_{0}^{\infty}{t^\frac{n-1}{2} \cdot e^{-t}dt}\\ &=\frac{2}{\Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{t^{\frac{n+1}{2}-1} \cdot e^{-t}dt} \end{align} ガンマ関数の定義式 $\Gamma \left(\alpha\right)=\int_{0}^{\infty}{x^{\alpha-1} \cdot e^{-x}dx}$ より、$\alpha=\frac{n+1}{2}$ とすると、 \begin{align} E \left(Y\right)=\frac{2}{\Gamma \left(\frac{n-1}{2}\right)} \cdot \Gamma \left(\frac{n+1}{2}\right) \end{align} ガンマ関数の性質 $\Gamma \left(\alpha+1\right)=\alpha\Gamma \left(\alpha\right)$ より、$\alpha=\frac{n-1}{2}$ とすると、 \begin{align} E \left(Y\right)&=\frac{2}{\Gamma \left(\frac{n-1}{2}\right)} \cdot \frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)\\ &=n-1 \end{align}

（ii）分散
2乗の期待値の定義式 $E \left(Y^2\right)=\int_{-\infty}^{\infty}{y^2 \cdot f \left(y\right)dy}$ より、 \begin{align} E \left(Y^2\right)&=\int_{0}^{\infty}{y^2 \cdot \frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}y^{\frac{n-1}{2}-1} \cdot e^{-\frac{y}{2}}dy}\\ &=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{y^{\frac{n-1}{2}+1} \cdot e^{-\frac{y}{2}}dy} \end{align} （i）と同様の変数変換をすると、置換積分法により、 \begin{align} E \left(Y^2\right)&=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{ \left(2t\right)^{\frac{n-1}{2}+1} \cdot e^{-t} \cdot 2dt}\\ &=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)} \cdot 2^{\frac{n-1}{2}+2}\int_{0}^{\infty}{t^{\frac{n-1}{2}+1} \cdot e^{-t}dt}\\ &=\frac{4}{\Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{t^{\frac{n+3}{2}-1} \cdot e^{-t}dt} \end{align} ガンマ関数の定義式 $\Gamma \left(\alpha\right)=\int_{0}^{\infty}{x^{\alpha-1} \cdot e^{-x}dx}$ より、$\alpha=\frac{n+3}{2}$ とすると、 \begin{align} E \left(Y^2\right)=\frac{4}{\Gamma \left(\frac{n-1}{2}\right)} \cdot \Gamma \left(\frac{n+3}{2}\right) \end{align} ガンマ関数の性質 $\Gamma \left(\alpha+2\right)=\alpha \left(\alpha+1\right)\Gamma \left(\alpha\right)$ より、$\alpha=\frac{n-1}{2}$ とすると、 \begin{align} E \left(Y^2\right)&=\frac{4}{\Gamma \left(\frac{n-1}{2}\right)} \cdot \frac{n-1}{2} \cdot \frac{n+1}{2}\Gamma \left(\frac{n-1}{2}\right)\\ &= \left(n+1\right) \left(n-1\right) \end{align} 分散の公式 $V \left(Y\right)=E \left(Y^2\right)- \left\{E \left(Y\right)\right\}^2$ より、 \begin{align} V \left(Y\right)&= \left(n+1\right) \left(n-1\right)- \left(n-1\right)^2\\ &= \left(n-1\right) \left\{ \left(n+1\right)- \left(n-1\right)\right\}\\ &=2 \left(n-1\right) \end{align} ここで、 \begin{align} Y=\sum_{i=1}^{n} \left(\frac{X_i-\bar{X}}{\sigma}\right)^2=\frac{ \left(n-1\right)S^2}{\sigma^2} \end{align} とすると、 正規分布の標本不偏分散の性質より、 \begin{align} Y \sim \chi^2 \left(n-1\right) \end{align} このとき、 \begin{align} S^2=\frac{\sigma^2}{n-1}Y \end{align} 両辺の分散を取ると、 \begin{align} V \left(S^2\right)&=V \left(\frac{\sigma^2}{n-1}Y\right)\\ &=\frac{\sigma^4}{ \left(n-1\right)^2}V \left(Y\right)\\ &=\frac{\sigma^4}{ \left(n-1\right)^2}2 \left(n-1\right)\\ &=\frac{2\sigma^4}{n-1} \end{align} $\blacksquare$

〔3〕正規分布の標本標準偏差の期待値

期待値の定義式 $E \left(\sqrt Y\right)=\int_{-\infty}^{\infty}{\sqrt y \cdot f \left(y\right)dy}$ より、 \begin{align} E \left(\sqrt Y\right)&=\int_{0}^{\infty}{\sqrt y \cdot \frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}y^{\frac{n-1}{2}-1} \cdot e^{-\frac{y}{2}}dy}\\ &=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{y^{\frac{n}{2}-1}e^{-\frac{y}{2}}dy} \end{align} 〔2〕と同様の変数変換を行うと、置換積分法により、 \begin{align} E \left(\sqrt Y\right)&=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{ \left(2t\right)^{\frac{n}{2}-1} \cdot e^{-t} \cdot 2dt}\\ &=\frac{1}{2^\frac{n-1}{2} \cdot \Gamma \left(\frac{n-1}{2}\right)} \cdot 2^\frac{n}{2}\int_{0}^{\infty}{t^{\frac{n}{2}-1} \cdot e^{-t}dt}\\ &=\frac{\sqrt2}{\Gamma \left(\frac{n-1}{2}\right)}\int_{0}^{\infty}{t^{\frac{n}{2}-1} \cdot e^{-t}dt} \end{align} ガンマ関数の定義式 $\Gamma \left(\alpha\right)=\int_{0}^{\infty}{x^{\alpha-1} \cdot e^{-x}dx}$ より、$\alpha=\frac{n}{2}$ とすると、 \begin{align} E \left(\sqrt Y\right)=\frac{\sqrt2}{\Gamma \left(\frac{n-1}{2}\right)} \cdot \Gamma \left(\frac{n}{2}\right) \end{align} また、 \begin{align} \sqrt Y=\frac{\sqrt{n-1}}{\sigma}S\Leftrightarrow S=\frac{\sigma}{\sqrt{n-1}}\sqrt Y \end{align} したがって、 \begin{align} E \left(S\right)&=E \left(\frac{\sigma}{\sqrt{n-1}}\sqrt Y\right)\\ &=\frac{\sigma}{\sqrt{n-1}}E \left(\sqrt Y\right)\\ &=\frac{\sqrt2}{\sqrt{n-1}}\frac{\Gamma \left(\frac{n}{2}\right)}{\Gamma \left(\frac{n-1}{2}\right)}\sigma \end{align} $\blacksquare$

〔4〕正規分布の標本標準偏差のバイアス

スターリングの公式より、 \begin{gather} \Gamma \left(\frac{n-1}{2}\right)\cong\sqrt{2\pi} \cdot \mathrm{exp} \left(-\frac{n-1}{2}\right) \cdot \left(\frac{n-1}{2}\right)^{\frac{n-1}{2}-\frac{1}{2}}\\ \Gamma \left(\frac{n}{2}\right)\cong\sqrt{2\pi} \cdot \mathrm{exp} \left(-\frac{n}{2}\right) \cdot \left(\frac{n}{2}\right)^{\frac{n}{2}-\frac{1}{2}} \end{gather} したがって、 \begin{align} E \left(S\right)&\cong\sigma \cdot \frac{\sqrt2}{\sqrt{n-1}} \cdot \frac{\sqrt{2\pi}}{\sqrt{2\pi}} \cdot \left(\frac{\frac{n}{2}}{\frac{n-1}{2}}\right)^\frac{n-1}{2} \cdot \frac{\sqrt{n-1}}{\sqrt2} \cdot \mathrm{exp} \left(-\frac{n}{2}+\frac{n-1}{2}\right)\\ &\cong\sigma \cdot \left(\frac{n}{n-1}\right)^\frac{n-1}{2}\mathrm{exp} \left(-\frac{1}{2}\right)\\ &\cong\sigma \cdot \left(1+\frac{1}{n-1}\right)^\frac{n-1}{2} \cdot \mathrm{exp} \left(-\frac{1}{2}\right)\\ \frac{E \left(S\right)}{\sigma}&\cong \left(1+\frac{1}{n-1}\right)^\frac{n-1}{2} \cdot \mathrm{exp} \left(-\frac{1}{2}\right) \end{align} 両辺の対数を取ると、 \begin{align} \log{\frac{E \left(S\right)}{\sigma}}=-\frac{1}{2}+\frac{n-1}{2}\log{ \left(1+\frac{1}{n-1}\right)} \end{align} ここで、対数関数のマクローリン展開 $\log{ \left(1+x\right)}=x-\frac{x^2}{2}+\frac{x^3}{3}- \cdots $ より、 \begin{align} \log{\frac{E \left(S\right)}{\sigma}}&=-\frac{1}{2}+\frac{n-1}{2} \left(\frac{1}{n-1}-\frac{1}{2 \left(n-1\right)^2}+\frac{1}{3 \left(n-1\right)^3}- \cdots \right)\\ &=-\frac{1}{2}+\frac{1}{2}-\frac{1}{4 \left(n-1\right)}+\frac{1}{6 \left(n-1\right)^2}- \cdots \\ &\cong-\frac{1}{4n}+o \left(\frac{1}{n}\right) \end{align} よって \begin{align} E \left(S\right)=\sigma \cdot \exp \left(-\frac{1}{4n}\right) \end{align} ここで、$x\rightarrow0$ のとき、$1+x\cong e^x$ が成り立つので、 \begin{align} E \left(S\right)\cong\sigma \cdot \left(1-\frac{1}{4n}\right) \end{align} よって、 \begin{align} E \left(S\right)-\sigma=\sigma-\frac{\sigma}{4n}-\sigma=-\frac{\sigma}{4n} \end{align} $\blacksquare$

関連記事

• カイ2乗分布の期待値・分散と最頻値
• 推定量の評価
• 標本平均の期待値と分散
• 標本分散の期待値と分散
• 正規分布の母標準偏差の不偏推定量