尤度比検定

本稿では、数理統計学における尤度比検定についてまとめています。

なお、閲覧にあたっては、以下の点にご注意ください。

尤度比検定

統計モデル $$\begin{array}{c}\{f(\mathit{x}:\theta ):\theta \in \mathrm{\Theta }\subset {\mathit{R}}^k\}\end{array}$$ からの無作為標本を $$\begin{array}{c}\mathit{X}=\{X_1,X_2,\cdots ,X_n\}\end{array}$$ とする。 帰無仮説と対立仮説を $$\begin{array}{c}{H}_0:\theta \in {\mathrm{\Theta }}_0{H}_1:\theta \in {\mathrm{\Theta }}_1\end{array}$$ とする。

まず、尤度比 likelihood ratio を $$\begin{array}{c}\lambda \left(\mathit{x}\right)=\frac{{\sup }_{\theta \in {\mathrm{\Theta }}_0}L(\theta :\mathit{x})}{{\sup }_{\theta \in \mathrm{\Theta }}L(\theta :\mathit{x})}\end{array}$$ ただし、$L(\theta :\mathit{x})$ は無作為標本の尤度関数 で定義する。

この尤度比が $$\begin{array}{c}\lambda \left(\mathit{x}\right)<c\end{array}$$ ならば、 帰無仮説を棄却するという検定を尤度比検定 likelihood ratio test という。$c$ は定数で検定の大きさにより決まり、 $$\begin{array}{c}{\sup }_{\theta \in {\mathrm{\Theta }}_0}P[\lambda \left(\mathit{x}\right)<c]=\alpha \end{array}$$ を満たす。

尤度比の分子は帰無仮説の下で最尤推定値を尤度関数に代入したもので、分母は（全パラメータ空間での）最尤推定値を代入したものである。そのため、一般に $$\begin{array}{c}0\le \lambda \left(\mathit{x}\right)\le 1\end{array}$$ 大まかにいうと、尤度比は帰無仮説の下でもっともらしいと思われるパラメータの値と、全パラメータ空間でもっともらしいと思われるパラメータの値に対しての（尤度関数による）比較である。

尤度比検定の棄却域は、 $$\begin{array}{c}\{\mathit{x}:\lambda \left(\mathit{x}\right)<c\}\end{array}$$ であるが、 実際には、増加関数 $h\left(y\right)$ で、$h\left[\lambda \left(\mathit{x}\right)\right]$ の分布が簡単であったり、良く知られているものであるときは、$h\left[\lambda \left(\mathit{x}\right)\right]$ を検定統計量として用い、棄却域 $$\begin{array}{c}\{\mathit{x}:h\left[\lambda \left(\mathit{x}\right)\right]<c_0\}\end{array}$$ を考える。

尤度比検定の手順は、一般に次のようになる。 （i）パラメータ $\theta$ の最尤推定量 $\hat{\theta }$ を求める。
（ii）パラメータ空間を ${\mathrm{\Theta }}_0$ に限って、パラメータの最尤推定量 ${\hat{\theta }}_0$ を求める。
（iii） $$\begin{array}{c}\lambda \left(\mathit{x}\right)=\frac{L({\hat{\theta }}_0:\mathit{x})}{L(\hat{\theta }:\mathit{x})}\end{array}$$ を計算する。 （iv） 棄却域 $C$ は $$\begin{array}{c}P\left(C\right)=\alpha \\ C=\{\mathit{x}:\lambda \left(\mathit{x}\right)<c\}\end{array}$$ で与えられる。 $\lambda \left(\mathit{x}\right)$ が棄却域 $C$ に入っていれば、 $$\begin{array}{c}{H}_0:\theta \in {\mathrm{\Theta }}_0\end{array}$$ を有意水準 $\alpha$ で棄却する。 そうでない場合は、帰無仮説は棄却されない。また、このときの有意確率は、 $$\begin{array}{c}P[\lambda \left(\mathit{X}\right)<\lambda \left(\mathit{x}\right)]\end{array}$$ で求められる。

十分統計量と最尤推定量の関係より、十分統計量の関数になっている最尤推定量が存在するので、十分統計量を通して観測値に依存する尤度比検定を用いることもできる。

漸近的近似尤度比検定

統計モデル $$\begin{array}{c}\{f(\mathit{x}:\theta ):\theta \in \mathrm{\Theta }\subset {\mathit{R}}^k\}\end{array}$$ からの無作為標本を $$\begin{array}{c}\mathit{X}=\{X_1,X_2,\cdots ,X_n\}\end{array}$$ とする。 $\mathrm{\Theta }$ の次元を $r$ とし、帰無仮説 $$\begin{array}{c}{H}_0:\theta \in {\mathrm{\Theta }}_0\end{array}$$ で ${\mathrm{\Theta }}_0$ の次元を $q$ とし、 対立仮説を $$\begin{array}{c}{H}_1:\theta \in {\mathrm{\Theta }}_1\end{array}$$ とする。 帰無仮説が成り立つとき、ある正則条件の下で、漸近的に $$\begin{array}{c}-2\log \lambda \left(\mathit{X}\right)\sim {\chi }^2(r-q)\end{array}$$ が成り立つ。

自由度 $r-q$ は、パラメータ空間の中での独立なパラメータの個数と帰無仮説の下で独立なパラメータの個数との差である。

一致検定

$$\begin{array}{c}{\mathit{X}}_n=\{X_{1n},X_{2n},\cdots ,X_{nn}\}\end{array}$$ を無作為標本の列とし、 ${\phi }_n\left({\mathit{X}}_n\right)$ を大きさ $\alpha$ の $$\begin{array}{c}{H}_0:\theta \in {\mathrm{\Theta }}_0\end{array}$$

の検定の列とする。

${\theta }_1\in {\mathrm{\Theta }}_1$ に対して、その検出力関数 ${\beta }_{{\phi }_n}$ が $$\begin{array}{c}\underset{n\to \mathrm{\infty }}{lim}{\beta }_{{\phi }_n}\left({\theta }_1\right)=1\end{array}$$ のとき、${\phi }_n$ は一致検定 consistent test という。 尤度比検定は、ある正則条件の下で一致検定である。

参考文献

• 野田 一雄, 宮岡 悦良 著. 入門・演習数理統計. 共立出版, 1990, p.266-270
• 竹村 彰通 著. 現代数理統計学. 創文社, 1991, p.188-192
• 久保川 達也 著, 新井 仁之, 小林 俊行, 斎藤 毅, 吉田 朋広 編. 現代数理統計学の基礎. 共立出版, 2017, p.150-155
• 黒木 学 著. 数理統計学：統計的推論の基礎. 共立出版, 2020, p.209-212

関連記事

• 仮説検定の基礎
• 一様最強力検定
• 正規分布の母平均に関する検定（Z検定）
• 正規分布の母平均に関する検定（t検定）
• 正規分布の母平均の差に関する検定（Z検定）
• 正規分布の母平均の差に関する検定（対応のないt検定）
• 正規分布の母平均の差に関する検定（対応のあるt検定）
• 正規分布の母分散に関する検定
• 正規分布の等分散性に関する検定
• 大標本における母平均の差に関する検定
• 大標本における母比率に関する検定
• 大標本における母比率の差に関する検定
• 大標本におけるポアソン分布のパラメータに関する検定
• 指数分布のパラメータに関する検定
• 適合度の検定の検定統計量の従う分布
• 独立性の検定の検定統計量の公式
• 統計的仮説検定
• 生存曲線の比較
• 大標本における母平均・母平均の差に関する検定
• 有病率・発生割合に関する検定
• 発症リスク差に関する検定
• ピアソンのカイ2乗検定（独立性の検定）
• マンテル・ヘンツェル検定
• コクラン検定
• フィッシャーの正確確率検定
• 層別解析に対するマンテル・ヘンツェル検定
• 層別解析に対するコクラン検定
• ロジスティック・モデルによる対数オッズ比の最尤推定
• ロジスティック・モデルによる対数リスク比の最尤推定
• ロジスティック・モデルによる共通対数オッズ比の最尤推定
• 条件付きロジスティック・モデル
• 二重同次ポアソンモデル
• 同次ポアソン回帰モデル