本稿は、ジョン・ラチン（2020）『医薬データのための統計解析』の「問題7.1」の自作解答例です。一般ロジスティック回帰モデルに関する問題です。
なお、閲覧にあたっては、以下の点にご注意ください。
- スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。
- 曝露（発症）状況を表す右下の添え字は、「0」である場合（$n_0,\pi_0$ など）や「2」である場合（$n_2,\pi_2$ など）がありますが、どちらも「非曝露群（コントロール群）」を表しています。
- 漸近的な性質を用いる際は、①中心極限定理が成り立つ、②漸近分散を推定する際に、母数をその一致推定量で置き換えることができるということが成り立つと仮定しています。
- 著作権の関係上、問題文は、掲載しておりません。上述の参考書をお持ちの方は、お手元にご用意してご覧ください。
- この解答例は、筆者が自作したものであり、公式なものではありません。あくまでも参考としてご覧いただければ幸いです。
問題7.1.1：尤度関数
発症確率のモデルは、 \begin{gather} \pi_i=\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{1+e^{\alpha+x_1\beta_1+x_2\beta_2}} \quad 1-\pi_i=\frac{1}{1+e^{\alpha+x_1\beta_1+x_2\beta_2}} \end{gather} 観測値はベルヌーイ変数 $ \left\{y_i\right\}$ なので、確率 $\boldsymbol{\pi}= \left\{\pi_1,\pi_2, \cdots ,\pi_N\right\}$ に関する尤度は \begin{align} L \left(\boldsymbol{\pi}\right)=\prod_{i=1}^{N}{\pi_i^{y_i} \left(1-\pi_i\right)^{1-y_i}} \end{align} 共変量とパラメータのロジスティック関数として確率を表すと、 \begin{align} L \left(\boldsymbol{\theta}\right)=\prod_{i=1}^{N}{ \left(\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{1+e^{\alpha+x_1\beta_1+x_2\beta_2}}\right)^{y_i} \left(\frac{1}{1+e^{\alpha+x_1\beta_1+x_2\beta_2}}\right)^{1-y_i}} \end{align} $\blacksquare$
問題7.1.2：対数尤度関数
対数尤度関数 $l \left(\theta,\boldsymbol{x}\right)=\log{L \left(\theta,\boldsymbol{x}\right)}$ は、 \begin{gather} l \left(\boldsymbol{\pi}\right)=\sum_{i=1}^{N} \left\{y_i\log{\pi_i}+ \left(1-y_i\right)\log{ \left(1-\pi_i\right)}\right\}\\ l \left(\boldsymbol{\theta}\right)=\sum_{i=1}^{N} \left\{y_i \left(e^{\alpha+x_1\beta_1+x_2\beta_2}\right)-\log{ \left(1+e^{\alpha+x_1\beta_1+x_2\beta_2}\right)}\right\} \end{gather} $\blacksquare$
問題7.1.3：スコア関数①
パラメータ $\alpha$ に関するスコア関数 $U \left(\theta\right)=\frac{\partial}{\partial\theta}l \left(\theta\right)$ は、 \begin{align} U_\alpha \left(\boldsymbol{\theta}\right)&=\sum_{i=1}^{N}y_i-\sum_{i=1}^{N}\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{1+e^{\alpha+x_1\beta_1+x_2\beta_2}}\\ &=\sum_{i=1}^{N}y_i-\sum_{i=1}^{N}\pi_i\\ &=m_1-\sum_{i=1}^{N}\pi_i\\ &=\sum_{i=1}^{N} \left\{y_i-E \left(y_i\middle|\boldsymbol{x}_\boldsymbol{i}\right)\right\}\\ &=m_1-E \left(m_1\middle|\boldsymbol{\theta}\right) \end{align} $\blacksquare$
問題7.1.4：スコア関数②
パラメータ $\beta_j$ に関するスコア関数 $U \left(\theta\right)=\frac{\partial}{\partial\theta}l \left(\theta\right)$ は、 \begin{align} U_{\beta_1} \left(\boldsymbol{\theta}\right)&=\sum_{i=1}^{N}{y_i \cdot x_{i1}}-\sum_{i=1}^{N}{\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{1+e^{\alpha+x_1\beta_1+x_2\beta_2}} \cdot x_{1k}}\\ &=\sum_{i=1}^{N}{ \left(y_i-\pi_i\right)x_{i1}} \end{align} \begin{align} U_{\beta_2} \left(\boldsymbol{\theta}\right)&=\sum_{i=1}^{N}{y_i \cdot x_{i2}}-\sum_{i=1}^{N}{\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{1+e^{\alpha+x_1\beta_1+x_2\beta_2}} \cdot x_{i2}}\\ &=\sum_{i=1}^{N}{ \left(y_i-\pi_i\right)x_{i2}} \end{align} $\blacksquare$
問題7.1.5：観測情報行列
二項分布における観測情報行列の定義式 $\boldsymbol{I} \left(\boldsymbol{\theta}\right)=\boldsymbol{i} \left(\boldsymbol{\theta}\right)=-\boldsymbol{H} \left(\boldsymbol{\theta}\right)$ より、 \begin{align} i_\alpha \left(\boldsymbol{\theta}\right)&=-\frac{\partial}{\partial\alpha}U_\alpha \left(\boldsymbol{\theta}\right)\\ &=\sum_{i=1}^{N}\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{ \left(1+e^{\alpha+x_1\beta_1+x_2\beta_2}\right)^2}\\ &=\sum_{i=1}^{N}{\pi_i \left(1-\pi_i\right)} \end{align} \begin{align} i_{\beta_1} \left(\boldsymbol{\theta}\right)&-=\frac{\partial}{\partial\beta_1}U_{\beta_1} \left(\boldsymbol{\theta}\right)\\ &=\sum_{i=1}^{N}{\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{ \left(1+e^{\alpha+x_1\beta_1+x_2\beta_2}\right)^2} \cdot x_{i1} \cdot x_{i1}}\\ &=\sum_{i=1}^{N}{\pi_i \left(1-\pi_i\right) \cdot x_{i1}^2} \end{align} \begin{align} i_{\beta_2} \left(\boldsymbol{\theta}\right)&=-\frac{\partial}{\partial\beta_2}U_{\beta_2} \left(\boldsymbol{\theta}\right)\\ &=\sum_{i=1}^{N}{\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{ \left(1+e^{\alpha+x_1\beta_1+x_2\beta_2}\right)^2} \cdot x_{i2} \cdot x_{i2}}\\ &=\sum_{i=1}^{N}{\pi_i \left(1-\pi_i\right) \cdot x_{i2}^2} \end{align} \begin{align} H_{\beta_1\beta_2} \left(\boldsymbol{\theta}\right)&=-\frac{\partial}{\partial\beta_1}U_{\beta_2} \left(\boldsymbol{\theta}\right)\\ &=\sum_{i=1}^{N}{\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{ \left(1+e^{\alpha+x_1\beta_1+x_2\beta_2}\right)^2} \cdot x_{i1} \cdot x_{i2}}\\ &=\sum_{i=1}^{N}{\pi_i \left(1-\pi_i\right) \cdot x_{i1}x_{i2}} \end{align} \begin{align} H_{\alpha\beta_1} \left(\boldsymbol{\theta}\right)&=-\frac{\partial}{\partial\alpha}U_{\beta_1} \left(\boldsymbol{\theta}\right)\\ &=\sum_{i=1}^{N}{\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{ \left(1+e^{\alpha+x_1\beta_1+x_2\beta_2}\right)^2} \cdot x_{i1}}\\ &=\sum_{i=1}^{N}{\pi_i \left(1-\pi_i\right) \cdot x_{i1}} \end{align} \begin{align} H_{\alpha\beta_2} \left(\boldsymbol{\theta}\right)&=-\frac{\partial}{\partial\alpha}U_{\beta_2} \left(\boldsymbol{\theta}\right)\\ &=\sum_{i=1}^{N}{\frac{e^{\alpha+x_1\beta_1+x_2\beta_2}}{ \left(1+e^{\alpha+x_1\beta_1+x_2\beta_2}\right)^2} \cdot x_{i2}}\\ &=\sum_{i=1}^{N}{\pi_i \left(1-\pi_i\right) \cdot x_{i2}} \end{align} $\blacksquare$
参考文献
- ジョン・ラチン 著, 宮岡 悦良 監訳, 遠藤 輝, 黒沢 健, 下川 朝有, 寒水 孝司 訳. 医薬データのための統計解析. 共立出版, 2020, p.397
- ジョン・ラチン 著, 宮岡 悦良 監訳, 遠藤 輝, 黒沢 健, 下川 朝有, 寒水 孝司 訳. 医薬データのための統計解析. 共立出版, 2020, p.303-306
0 件のコメント:
コメントを投稿