本稿では、単変量のデルタ法を証明しています。デルタ法はテイラー展開やスラツキーの定理を要するため中級者向けの内容となりますが、漸近論を支える重要な定理です。また、証明はありませんが、多変量のデルタ法の紹介も行っています。
なお、閲覧にあたっては、以下の点にご注意ください。
- スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。
【定理】デルタ法
【定理】
デルタ法
Delta Method
確率変数の列 \begin{align} \boldsymbol{X}= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} について、 $ \left\{a_n\right\}$ を \begin{align} \lim_{n\rightarrow\infty}{a_n}=\infty \end{align} を満たす数列、$c$ を任意の定数とし、 次の $ \left\{X_n\right\}$ の関数が分散 $\sigma^2 \lt \infty$ をもつ確率変数 $X$ に分布収束する \begin{align} a_n \left(X_n-c\right)\xrightarrow[]{d} X \end{align} とする。
このとき、連続微分可能な関数 $g \left( \cdot \right)$ に点 $c$ の付近で2回微分可能で、$g^\prime \left(c\right) \neq 0$ ならば、 \begin{align} a_n \left\{g \left(X_n\right)-g \left(c\right)\right\}\xrightarrow[]{d} g^\prime \left(c\right)X \end{align} が成り立つ。 特に、 \begin{align} \sqrt n \left(X_n-\mu\right)\xrightarrow[]{d}\mathrm{N} \left(0,\sigma^2\right) \end{align} のときは、 \begin{align} \sqrt n \left\{g \left(X_n\right)-g \left(\mu\right)\right\}\xrightarrow[]{d}\mathrm{N} \left[0, \left\{g^\prime \left(\mu\right)\right\}^2\sigma^2\right] \end{align} が成り立つ。
証明
$g \left(X_n\right)$ を $X_n=c$ のまわりで2次の項まででテイラー展開すると、 \begin{gather} g \left(X_n\right)=g \left(c\right)+g^\prime \left(c\right) \left(X_n-c\right)+\frac{g^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2\\ g \left(X_n\right)-g \left(c\right)=g^\prime \left(c\right) \left(X_n-c\right)+\frac{g^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2\\ a_n \left\{g \left(X_n\right)-g \left(c\right)\right\}=a_n \left(X_n-c\right)g^\prime \left(c\right)+\frac{a_ng^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2 \end{gather} ここで、右辺第2項を剰余項とすると、 \begin{gather} \lim_{n\rightarrow\infty}{V \left\{a_n \left(X_n-c\right)\right\}}=a_n^2\lim_{n\rightarrow\infty}{E \left[ \left(X_n-c\right)^2\right]}=\sigma^2 \lim_{n\rightarrow\infty}{E \left[ \left(X_n-c\right)^2\right]}=\frac{\sigma^2}{a_n^2} \end{gather} マルコフの不等式 $P(\varepsilon \le X) \le \frac{E \left(X\right)}{\varepsilon}$ より、 \begin{align} P \left\{\varepsilon \le \frac{a_ng^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2\right\}& \le \frac{E \left[ \left(X_n-c\right)^2\right]}{\varepsilon} \cdot \frac{a_ng^{\prime\prime} \left(c\right)}{2}\\ \end{align} 両辺の $n\rightarrow\infty$ のときの極限を取ると、 \begin{align} \lim_{n\rightarrow\infty}{P \left\{\varepsilon \le \frac{a_ng^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2\right\}} \le \lim_{n\rightarrow\infty}{\frac{\sigma^2g^{\prime\prime} \left(c\right)}{2\varepsilon a_n}}=0 \end{align} したがって、スラツキーの定理より、 \begin{align} a_n \left\{g \left(X_n\right)-g \left(c\right)\right\}\xrightarrow[]{d} g^\prime \left(c\right)X \end{align} 特に、$\sqrt n \left(X_n-\mu\right)\xrightarrow[]{d}\mathrm{N} \left(0,\sigma^2\right)$ のときは、正規分布の線形変換の性質から、 \begin{gather} E \left[g^\prime \left(\mu\right)X\right]=g^\prime \left(\mu\right) \cdot E \left(X\right)=0\\ V \left[g^\prime \left(\mu\right)X\right]= \left\{g^\prime \left(\mu\right)\right\}^2 \cdot V \left(X\right)= \left\{g^\prime \left(\mu\right)\right\}^2\sigma^2\\ \sqrt n \left\{g \left(X_n\right)-g \left(\mu\right)\right\}\xrightarrow[]{d}\mathrm{N} \left[0, \left\{g^\prime \left(\mu\right)\right\}^2\sigma^2\right] \end{gather} また、 \begin{gather} g \left(X_n\right)\xrightarrow[]{d}\mathrm{N} \left[g \left(\mu\right),\frac{ \left\{g^\prime \left(\mu\right)\right\}^2\sigma^2}{n}\right] \end{gather} $\blacksquare$
【定理】多変量のデルタ法
【定理】
多変量のデルタ法
Multivariate Delta Method
平均ベクトルと分散・共分散行列がそれぞれ \begin{gather} \boldsymbol{\mu}= \left\{\begin{matrix}\mu_1\\\mu_2\\\vdots\\\mu_k\\\end{matrix}\right\}\\ \boldsymbol{\Sigma}= \left\{\begin{matrix}\sigma_1^2&\sigma_{12}& \cdots &\sigma_{1k}\\\sigma_{21}&\sigma_2^2& \cdots &\sigma_{2k}\\\vdots&\vdots&\ddots&\vdots\\\sigma_{k1}&\sigma_{k2}& \cdots &\sigma_k^2\\\end{matrix}\right\} \end{gather} である $k$ 次元確率変数ベクトル \begin{align} \boldsymbol{X}= \left\{\begin{matrix}X_1\\X_2\\\vdots\\X_k\\\end{matrix}\right\} \end{align} について、 \begin{align} \sqrt n \left(\boldsymbol{X}-\boldsymbol{\mu}\right)\xrightarrow[]{d}\mathrm{N_k} \left(\boldsymbol{0},\boldsymbol{\Sigma}\right) \end{align} が成り立つとき、 \begin {gather} \boldsymbol{Y}=g \left(\boldsymbol{X}\right)\\ \left\{\begin{matrix}Y_1\\Y_2\\\vdots\\Y_m\\\end{matrix}\right\}= \left\{\begin{matrix}g_1 \left(\boldsymbol{X}\right)\\g_2 \left(\boldsymbol{X}\right)\\\vdots\\g_m \left(\boldsymbol{X}\right)\\\end{matrix}\right\}\\ m \le k \end {gather} ただし、$i$ 番目の変換 $g_i \left(\boldsymbol{X}\right)$ は $\boldsymbol{X}$ の2回微分可能な関数 という変換をすると、 \begin{gather} \sqrt n \left\{g \left(\boldsymbol{X}\right)-g \left(\boldsymbol{\mu}\right)\right\}\xrightarrow[]{d}\mathrm{N} \left[0, \left\{\boldsymbol{H} \left(\boldsymbol{\mu}\right)\right\}^\boldsymbol{T}\boldsymbol{\Sigma} \left\{\boldsymbol{H} \left(\boldsymbol{\mu}\right)\right\}\right]\\ E \left(\boldsymbol{Y}\right)\cong g \left(\boldsymbol{\mu}\right)\\ V \left(\boldsymbol{Y}\right)\cong \left\{\boldsymbol{H} \left(\boldsymbol{\mu}\right)\right\}^\boldsymbol{T}\boldsymbol{\Sigma} \left\{\boldsymbol{H} \left(\boldsymbol{\mu}\right)\right\} \end{gather} が成り立つ。 ここに、$\boldsymbol{H} \left(\boldsymbol{\mu}\right)$ は、$k\times m$ 行列 \begin{gather} \boldsymbol{H} \left(\boldsymbol{\mu}\right)= \left\{\begin{matrix}\frac{\partial g_1 \left(\boldsymbol{\mu}\right)}{\partial x_1}&\frac{\partial g_1 \left(\boldsymbol{\mu}\right)}{\partial x_2}& \cdots &\frac{\partial g_m \left(\boldsymbol{\mu}\right)}{\partial x_k}\\\frac{\partial g_1 \left(\boldsymbol{\mu}\right)}{\partial x_2}&\frac{\partial g_2 \left(\boldsymbol{\mu}\right)}{\partial x_2}& \cdots &\frac{\partial g_m \left(\boldsymbol{\mu}\right)}{\partial x_2}\\\vdots&\vdots&\ddots&\vdots\\\frac{\partial g_1 \left(\boldsymbol{\mu}\right)}{\partial x_k}&\frac{\partial g_2 \left(\boldsymbol{\mu}\right)}{\partial x_k}& \cdots &\frac{\partial g_m \left(\boldsymbol{\mu}\right)}{\partial x_k}\\\end{matrix}\right\} \end{gather} である。
参考文献
- 野田 一雄, 宮岡 悦良 著. 入門・演習数理統計. 共立出版, 1990, p.188
- 久保川 達也 著, 新井 仁之, 小林 俊行, 斎藤 毅, 吉田 朋広 編. 現代数理統計学の基礎. 共立出版, 2017, p.99-100
- 黒木 学 著. 数理統計学:統計的推論の基礎. 共立出版, 2020, p.139-140
- ジョン・ラチン 著, 宮岡 悦良 監訳, 遠藤 輝, 黒沢 健, 下川 朝有, 寒水 孝司 訳. 医薬データのための統計解析. 共立出版, 2020, p.586-587
0 件のコメント:
コメントを投稿