統計検定 1級 2013年 統計数理 問5 尤度比検定と適合度検定

本稿には、2013年に実施された統計検定1級『統計数理』 問5の自作解答案を掲載しています。なお、閲覧にあたっては、以下の点にご注意ください。

〔1〕多項分布の尤度関数

多項分布の確率関数は、 $$\begin{array}{r}f\left(x\right)=\frac{n!}{x_1!\cdots x_m!}{p}_1^{x_1}\cdots p_m^{x_m}\end{array}$$ したがって、観測値 $\mathit{x}=\{x_1,x_2,\cdots ,x_m\}$ が観測されたときのパラメータ $\mathit{\theta }=\{{\theta }_1,{\theta }_2,\cdots ,{\theta }_m\}$ の尤度関数は、 $$\begin{array}{r}L\left(\mathit{\theta }\right)=\frac{n!}{x_1!\cdots x_m!}{\theta }_1^{x_1}\cdots {\theta }_m^{x_m}\end{array}$$ $◼$

〔2〕検定統計量の漸近分布

（a）帰無仮説の下での各パラメータの最尤推定量は、${\theta }_1={\theta }_{10},\cdots ,{\theta }_m={\theta }_{m0}$ なので、このときの尤度は、 $$\begin{array}{rl}{L}_0\left(\mathit{\theta }\right)& =L\left(\mathit{\theta }\right|H_0)\\ & =\frac{n!}{x_1!\cdots x_m!}{\theta }_{10}^{x_1}\cdots {\theta }_{m0}^{x_m}\end{array}$$ 対立仮説として、 ${\theta }_1,{\theta }_2,\cdots ,{\theta }_m$ のうち、少なくとも1つが、帰無仮説が想定している値と異なる という仮説を考えると、 このときの最尤推定量は、 $$\begin{array}{r}{\theta }_1=\frac{x_1}{n},\cdots ,{\theta }_m=\frac{x_m}{n}\end{array}$$ 対立仮説の尤度は、 $$\begin{array}{rl}{L}_1\left(\mathit{\theta }\right)& =L\left(\mathit{\theta }\right|H_1)\\ & =\frac{n!}{x_1!\cdots x_m!}{\theta }_1^{x_1}\cdots {\theta }_m^{x_m}\\ & =\frac{n!}{x_1!\cdots x_m!}{\left(\frac{x_1}{n}\right)}^{x_1}\cdots {\left(\frac{x_m}{n}\right)}^{x_m}\end{array}$$ したがって、尤度比は、 $$\begin{array}{rl}\lambda & =\frac{L_0\left(\theta \right)}{L_1\left(\theta \right)}\\ & =\frac{\frac{n!}{x_1!\cdots x_m!}{\theta }_{10}^{x_1}\cdots {\theta }_{m0}^{x_m}}{\frac{n!}{x_1!\cdots x_m!}{\left(\frac{x_1}{n}\right)}^{x_1}\cdots {\left(\frac{x_m}{n}\right)}^{x_m}}\\ & ={\left(\frac{n{\theta }_{10}}{x_1}\right)}^{x_1}\cdots {\left(\frac{n{\theta }_{m0}}{x_m}\right)}^{x_m}\\ & =\prod _{i=1}^m{\left(\frac{n{\theta }_{i0}}{x_i}\right)}^{x_i}\end{array}$$ よって、求める検定統計量 $\mathrm{\Lambda }=-2\log \lambda$ は、 $$\begin{array}{r}\mathrm{\Lambda }=2\sum _{i=1}^m{x}_i\log \frac{x_i}{n{\theta }_{i0}}\end{array}$$ 帰無仮説の下で自由に値を取れるパラメータは $q=0$ 個
対立仮説の下で自由に値を取れるパラメータは $r=m-1$ 個 よって、検定統計量の自由度は、 $$\begin{array}{r}r-q=m-1-0=m-1\end{array}$$ したがって、帰無仮説の下で、$\mathrm{\Lambda }$ は、漸近的に $$\begin{array}{r}\mathrm{\Lambda }\sim {\chi }^2(m-1)\end{array}$$ $◼$ （b）帰無仮説の下での各カテゴリーの期待度数は、 $$\begin{array}{r}E\left(X_i\right)=n{\theta }_{i0}\end{array}$$ 適合度検定の検定統計量の定義より、 $$\begin{array}{r}{\chi }^2=\sum _{i=1}^m\frac{{(n{\theta }_{i0}-x_i)}^2}{n{\theta }_{i0}}\end{array}$$ 帰無仮説の下で未知のパラメータ数は0 個なので、自由度は、 $$\begin{array}{r}m-1-0=m-1\end{array}$$ したがって、 $$\begin{array}{r}{\chi }^2\sim {\chi }^2(m-1)\end{array}$$ $◼$

〔3〕二項分布の正規近似による検定と適合度検定

（I）二項分布の正規近似による検定
（i）対立仮説における分布
二項分布のパラメータの最尤推定量は、 $$\begin{array}{r}\hat{p}=\frac{x}{n}\end{array}$$ 二項分布の期待値と分散は、 $$\begin{array}{r}E\left(X\right)=npV\left(X\right)=np(1-p)\end{array}$$ 二項分布の正規近似（中心極限定理）により、 $$\begin{array}{r}X\sim \mathrm{N}\{np,np(1-p)\}\end{array}$$ 線形変換の性質より、標本比率 $\hat{p}$ について、 $$\begin{array}{r}\hat{p}\sim \mathrm{N}\{p,\frac{p(1-p)}{n}\}\end{array}$$ （ii）帰無仮説における分布
帰無仮説 $H_0:p=p_0$ における標本比率の分布は、 $$\begin{array}{r}\hat{p}\sim \mathrm{N}\{p_0,\frac{p_0(1-p_0)}{n}\}\end{array}$$ 帰無仮説において、標本比率 $\hat{p}$ を標準化した値を $$\begin{array}{r}{Z}_0=\frac{\sqrt{n}(\hat{p}-p_0)}{\sqrt{p_0(1-p_0)}}\end{array}$$ とすると、 標準化変換の性質より、 $$\begin{array}{r}{Z}_0\sim N(0,1)\end{array}$$ ${\chi }^2$分布の定義より、 $$\begin{array}{}\text{(1)}& {\chi }^2=\frac{n{(\hat{p}-p_0)}^2}{p_0(1-p_0)}\sim {\chi }^2\left(1\right)\end{array}$$

（II）適合度検定統計量
〔2〕（b）において、$m=2$ のとき、帰無仮説の下で、 $$\begin{array}{c}{X}_1=X\\ X_2=n-X\\ {\theta }_1=p_0\\ {\theta }_2=1-p_0\end{array}$$ 検定統計量を求めると、 $$\begin{array}{rl}{\chi }^2& =\frac{{(n{p}_0-X)}^2}{n{p}_0}+\frac{{\{n(1-p_0)-(n-X)\}}^2}{n(1-p_0)}\\ & =\frac{{(X-n{p}_0)}^2}{n{p}_0(1-p_0)}\\ & =\frac{n{(\frac{X}{n}-p_0)}^2}{p_0(1-p_0)}\\ \text{(2)}& & =\frac{n{(\hat{p}-p_0)}^2}{p_0(1-p_0)}\sim {\chi }^2\left(1\right)\end{array}$$ したがって、式 $(1),(2)$ より、二項分布の正規近似による検定と $m=2$ のときの適合度検定は実質的に等しい検定方法である。 $◼$

〔4〕尤度比検定と適合度検定が漸近的に等しいことの証明

尤度比検定統計量を変形すると、 $$\begin{array}{rl}\mathrm{\Lambda }& =2\sum _{i=1}^m{x}_i\log \frac{x_i}{n{\theta }_{i0}}\\ & =2\sum _{i=1}^m(x_i-n{\theta }_{i0}+n{\theta }_{i0})\log \frac{x_i-n{\theta }_{i0}+n{\theta }_{i0}}{n{\theta }_{i0}}\\ & =2\sum _{i=1}^m(x_i-n{\theta }_{i0}+n{\theta }_{i0})\log (1+\frac{x_i-n{\theta }_{i0}}{n{\theta }_{i0}})\end{array}$$ ここで、$\log (1+x)$ を2次の項まででマクローリン展開すると、 $$\begin{array}{r}\log (1+x)\cong x-\frac{1}{2}{x}^2\end{array}$$ したがって、尤度比検定統計量は近似的に、 $$\begin{array}{rl}\mathrm{\Lambda }& \cong 2\sum _{i=1}^m(x_i-n{\theta }_{i0}+n{\theta }_{i0})\{\frac{x_i-n{\theta }_{i0}}{n{\theta }_{i0}}-\frac{1}{2}{\left(\frac{x_i-n{\theta }_{i0}}{n{\theta }_{i0}}\right)}^2\}\\ & \cong 2\sum _{i=1}^m\{\frac{{(x_i-n{\theta }_{i0})}^2}{n{\theta }_{i0}}-\frac{1}{2}\frac{{(x_i-n{\theta }_{i0})}^3}{{\left(n{\theta }_{i0}\right)}^2}\}+\{(x_i-n{\theta }_{i0})-\frac{1}{2}\frac{{(x_i-n{\theta }_{i0})}^3}{n{\theta }_{i0}}\}\\ \text{(3)}& & \cong \sum _{i=1}^m\frac{{(x_i-n{\theta }_{i0})}^2}{n{\theta }_{i0}}+\sum _{i=1}^m\{-\frac{{(x_i-n{\theta }_{i0})}^3}{{\left(n{\theta }_{i0}\right)}^2}+2(x_i-n{\theta }_{i0})\}\end{array}$$ ここで、多項分布の仮定より、 $$\begin{array}{rl}\sum _{i=1}^m(x_i-n{\theta }_{i0})& =\sum _{i=1}^m{x}_i-n\sum _{i=1}^m{\theta }_{i0}\\ & =n-n\cdot 1\\ & =0\end{array}$$ また、 $$\begin{array}{r}\sum _{i=1}^m\frac{{(x_i-n{\theta }_{i0})}^3}{{\left(n{\theta }_{i0}\right)}^2}=\sum _{i=1}^m\{\frac{{(x_i-n{\theta }_{i0})}^2}{n{\theta }_{i0}}\cdot \frac{{\hat{\theta }}_i-{\theta }_{i0}}{{\theta }_{i0}}\}\end{array}$$ 帰無仮説 $H_0:{\theta }_1={\theta }_{10},\cdots ,{\theta }_m={\theta }_{m0}$ の下で、最尤推定量が一致推定量であることから、 $$\begin{array}{r}\underset{n\to \mathrm{\infty }}{lim}\left|\frac{{\hat{\theta }}_i-{\theta }_{i0}}{{\theta }_{i0}}\right|=0\end{array}$$ したがって、 $$\begin{array}{c}\underset{n\to \mathrm{\infty }}{lim}\sum _{i=1}^m\frac{{(x_i-n{\theta }_{i0})}^3}{{\left(n{\theta }_{i0}\right)}^2}=0\end{array}$$ よって、式 $(3)$ より、 $$\begin{array}{r}\mathrm{\Lambda }\cong \sum _{i=1}^m\frac{{(x_i-n{\theta }_{i0})}^2}{n{\theta }_{i0}}={\chi }^2\end{array}$$ したがって、〔2〕における（a）および（b）の検定法は、漸近的に同等の検定方法である。 $◼$

関連記事

• 多項分布の定義と概要
• 最尤推定法とモーメント法
• 尤度比検定
• 大標本における母比率に関する検定