ジョン・ラチン（2020）『医薬データのための統計解析』 問題6.1 解答例

本稿は、ジョン・ラチン（2020）『医薬データのための統計解析』の「問題6.1」の自作解答例です。二項分布の最尤推定に関する問題です。

なお、閲覧にあたっては、以下の点にご注意ください。

問題6.1.1：二項分布のスコア関数

対数尤度関数 $l(\theta ,\mathit{x})=\log L(\theta ,\mathit{x})$ を求めると、 $$\begin{array}{rl}l\left(\pi \right)& =\log \left[{}_N{C}_x{\pi }^x{(1-\pi )}^{N-x}\right]\\ & =\log {}_N{C}_x+x\log \pi +(N-x)\log (1-\pi )\end{array}$$ スコア関数 $U\left(\theta \right)=\frac{d}{d\theta }l(\theta ,\mathit{x})$ を求めると、 $$\begin{array}{rl}U\left(\pi \right)& =\frac{x}{\pi }+\frac{N-x}{1-\pi }\cdot (-1)\\ & =\frac{x}{\pi }-\frac{N-x}{1-\pi }\\ & =\frac{x-N\pi }{\pi (1-\pi )}\end{array}$$ $◼$

問題6.1.2：二項分布の最尤推定量

最尤推定量 $U\left(\hat{\theta }\right)=0$ を求めると、 $$\begin{array}{c}U\left(\hat{\pi }\right)=\frac{x-N\hat{\pi }}{\hat{\pi }(1-\hat{\pi })}=0\\ x-N\hat{\pi }=0\\ \hat{\pi }=\frac{x}{N}\end{array}$$ $◼$

問題6.1.3：二項分布の期待情報量

観測情報量 $i\left(\theta \right)=-\frac{d}{d\theta }U\left(\theta \right)$ を求めると、 $$\begin{array}{rl}i\left(\pi \right)& =-\{-\frac{x}{{\pi }^2}+\frac{N-x}{{(1-\pi )}^2}\cdot (-1)\}\\ & =\frac{x}{{\pi }^2}+\frac{N-x}{{(1-\pi )}^2}\end{array}$$ 二項分布の期待値の公式より、 $$\begin{array}{r}E\left(X\right)=n\pi \end{array}$$ 期待情報量の定義式 $I\left(\theta \right)=-E\left[i\left(\theta \right)\right]$ より、 $$\begin{array}{rl}I\left(\pi \right)& =\frac{E\left(X\right)}{{\pi }^2}+\frac{N-E\left(X\right)}{{(1-\pi )}^2}\\ & =\frac{N\pi }{{\pi }^2}+\frac{N-N\pi }{{(1-\pi )}^2}\\ & =\frac{N}{\pi (1-\pi )}\end{array}$$ $◼$

問題6.1.4：二項分布の観測情報量と期待情報量の同等性

最尤推定された期待情報量は、$\pi =\hat{\pi }$ を代入して、 $$\begin{array}{r}I\left(\hat{\pi }\right)=\frac{N}{\hat{\pi }(1-\hat{\pi })}\end{array}$$ いっぽう、最尤推定された観測情報量は、$\pi =\hat{\pi }$ を代入して、 $$\begin{array}{rl}i\left(\hat{\pi }\right)& =\frac{x}{{\hat{\pi }}^2}+\frac{N-x}{{(1-\hat{\pi })}^2}\\ & =\frac{x{(1-\hat{\pi })}^2+{\hat{\pi }}^2(N-x)}{{\hat{\pi }}^2{(1-\hat{\pi })}^2}\\ & =\frac{x-2\hat{\pi }x+{\hat{\pi }}^{2}x+{\hat{\pi }}^{2}N-{\hat{\pi }}^{2}x}{{\hat{\pi }}^2{(1-\hat{\pi })}^2}\\ & =\frac{x-2\hat{\pi }x+{\hat{\pi }}^{2}N}{{\hat{\pi }}^2{(1-\hat{\pi })}^2}\end{array}$$ $x=N\hat{\pi }$ より、 $$\begin{array}{rl}i\left(\hat{\pi }\right)& =\frac{\hat{\pi }N-2{\hat{\pi }}^{2}N+{\hat{\pi }}^{2}N}{{\hat{\pi }}^2{(1-\hat{\pi })}^2}\\ & =\frac{\hat{\pi }N-{\hat{\pi }}^{2}N}{{\hat{\pi }}^2{(1-\hat{\pi })}^2}\\ & =\frac{\hat{\pi }N(1-\hat{\pi })}{{\hat{\pi }}^2{(1-\hat{\pi })}^2}\\ & =\frac{N}{\hat{\pi }(1-\hat{\pi })}\end{array}$$ したがって、 $$\begin{array}{r}i\left(\hat{\pi }\right)=I\left(\hat{\pi }\right)\end{array}$$ $◼$

問題6.1.5：二項分布の漸近分散の最尤推定量

クラメール・ラオの下限 $V\left(\hat{\theta }\right)\ge \frac{1}{I\left(\hat{\theta }\right)}$ より、最尤推定量の漸近分散は $$\begin{array}{r}V\left(\hat{\pi }\right)=\frac{\pi (1-\pi )}{N}\end{array}$$ また、最尤推定量の漸近分散の一致推定量は、$\pi =\hat{\pi }$ を代入して、 $$\begin{array}{rl}\hat{V}\left(\hat{\pi }\right)& =\frac{\hat{\pi }(1-\hat{\pi })}{N}\\ & =\frac{p(1-p)}{N}\end{array}$$ $◼$

参考文献

• ジョン・ラチン 著, 宮岡 悦良 監訳, 遠藤 輝, 黒沢 健, 下川 朝有, 寒水 孝司 訳. 医薬データのための統計解析. 共立出版, 2020, p.295
• ジョン・ラチン 著, 宮岡 悦良 監訳, 遠藤 輝, 黒沢 健, 下川 朝有, 寒水 孝司 訳. 医薬データのための統計解析. 共立出版, 2020, p.265-267

関連記事

• 統計的推定