デルタ法の証明

公開日: 更新日:

【2023年4月3週】 【B000】数理統計学 【B060】標本分布

この記事をシェアする
  • B!
サムネイル画像

本稿では、単変量のデルタ法を証明しています。デルタ法はテイラー展開やスラツキーの定理を要するため中級者向けの内容となりますが、漸近論を支える重要な定理です。また、証明はありませんが、多変量のデルタ法の紹介も行っています。

なお、閲覧にあたっては、以下の点にご注意ください。

  • スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。

【定理】デルタ法

【定理】
デルタ法
Delta Method

確率変数の列 \begin{align} \boldsymbol{X}= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} について、 $ \left\{a_n\right\}$ を \begin{align} \lim_{n\rightarrow\infty}{a_n}=\infty \end{align} を満たす数列、$c$ を任意の定数とし、 次の $ \left\{X_n\right\}$ の関数が分散 $\sigma^2 \lt \infty$ をもつ確率変数 $X$ に分布収束する \begin{align} a_n \left(X_n-c\right)\xrightarrow[]{d} X \end{align} とする。

このとき、連続微分可能な関数 $g \left( \cdot \right)$ に点 $c$ の付近で2回微分可能で、$g^\prime \left(c\right) \neq 0$ ならば、 \begin{align} a_n \left\{g \left(X_n\right)-g \left(c\right)\right\}\xrightarrow[]{d} g^\prime \left(c\right)X \end{align} が成り立つ。 特に、 \begin{align} \sqrt n \left(X_n-\mu\right)\xrightarrow[]{d}\mathrm{N} \left(0,\sigma^2\right) \end{align} のときは、 \begin{align} \sqrt n \left\{g \left(X_n\right)-g \left(\mu\right)\right\}\xrightarrow[]{d}\mathrm{N} \left[0, \left\{g^\prime \left(\mu\right)\right\}^2\sigma^2\right] \end{align} が成り立つ。

証明

証明

$g \left(X_n\right)$ を $X_n=c$ のまわりで2次の項まででテイラー展開すると、 \begin{gather} g \left(X_n\right)=g \left(c\right)+g^\prime \left(c\right) \left(X_n-c\right)+\frac{g^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2\\ g \left(X_n\right)-g \left(c\right)=g^\prime \left(c\right) \left(X_n-c\right)+\frac{g^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2\\ a_n \left\{g \left(X_n\right)-g \left(c\right)\right\}=a_n \left(X_n-c\right)g^\prime \left(c\right)+\frac{a_ng^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2 \end{gather} ここで、右辺第2項を剰余項とすると、 \begin{gather} \lim_{n\rightarrow\infty}{V \left\{a_n \left(X_n-c\right)\right\}}=a_n^2\lim_{n\rightarrow\infty}{E \left[ \left(X_n-c\right)^2\right]}=\sigma^2 \lim_{n\rightarrow\infty}{E \left[ \left(X_n-c\right)^2\right]}=\frac{\sigma^2}{a_n^2} \end{gather} マルコフの不等式 $P(\varepsilon \le X) \le \frac{E \left(X\right)}{\varepsilon}$ より、 \begin{align} P \left\{\varepsilon \le \frac{a_ng^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2\right\}& \le \frac{E \left[ \left(X_n-c\right)^2\right]}{\varepsilon} \cdot \frac{a_ng^{\prime\prime} \left(c\right)}{2}\\ \end{align} 両辺の $n\rightarrow\infty$ のときの極限を取ると、 \begin{align} \lim_{n\rightarrow\infty}{P \left\{\varepsilon \le \frac{a_ng^{\prime\prime} \left(c\right)}{2} \left(X_n-c\right)^2\right\}} \le \lim_{n\rightarrow\infty}{\frac{\sigma^2g^{\prime\prime} \left(c\right)}{2\varepsilon a_n}}=0 \end{align} したがって、スラツキーの定理より、 \begin{align} a_n \left\{g \left(X_n\right)-g \left(c\right)\right\}\xrightarrow[]{d} g^\prime \left(c\right)X \end{align} 特に、$\sqrt n \left(X_n-\mu\right)\xrightarrow[]{d}\mathrm{N} \left(0,\sigma^2\right)$ のときは、正規分布の線形変換の性質から、 \begin{gather} E \left[g^\prime \left(\mu\right)X\right]=g^\prime \left(\mu\right) \cdot E \left(X\right)=0\\ V \left[g^\prime \left(\mu\right)X\right]= \left\{g^\prime \left(\mu\right)\right\}^2 \cdot V \left(X\right)= \left\{g^\prime \left(\mu\right)\right\}^2\sigma^2\\ \sqrt n \left\{g \left(X_n\right)-g \left(\mu\right)\right\}\xrightarrow[]{d}\mathrm{N} \left[0, \left\{g^\prime \left(\mu\right)\right\}^2\sigma^2\right] \end{gather} また、 \begin{gather} g \left(X_n\right)\xrightarrow[]{d}\mathrm{N} \left[g \left(\mu\right),\frac{ \left\{g^\prime \left(\mu\right)\right\}^2\sigma^2}{n}\right] \end{gather} $\blacksquare$

【定理】多変量のデルタ法

【定理】
多変量のデルタ法
Multivariate Delta Method

平均ベクトルと分散・共分散行列がそれぞれ \begin{gather} \boldsymbol{\mu}= \left\{\begin{matrix}\mu_1\\\mu_2\\\vdots\\\mu_k\\\end{matrix}\right\}\\ \boldsymbol{\Sigma}= \left\{\begin{matrix}\sigma_1^2&\sigma_{12}& \cdots &\sigma_{1k}\\\sigma_{21}&\sigma_2^2& \cdots &\sigma_{2k}\\\vdots&\vdots&\ddots&\vdots\\\sigma_{k1}&\sigma_{k2}& \cdots &\sigma_k^2\\\end{matrix}\right\} \end{gather} である $k$ 次元確率変数ベクトル \begin{align} \boldsymbol{X}= \left\{\begin{matrix}X_1\\X_2\\\vdots\\X_k\\\end{matrix}\right\} \end{align} について、 \begin{align} \sqrt n \left(\boldsymbol{X}-\boldsymbol{\mu}\right)\xrightarrow[]{d}\mathrm{N_k} \left(\boldsymbol{0},\boldsymbol{\Sigma}\right) \end{align} が成り立つとき、 \begin {gather} \boldsymbol{Y}=g \left(\boldsymbol{X}\right)\\ \left\{\begin{matrix}Y_1\\Y_2\\\vdots\\Y_m\\\end{matrix}\right\}= \left\{\begin{matrix}g_1 \left(\boldsymbol{X}\right)\\g_2 \left(\boldsymbol{X}\right)\\\vdots\\g_m \left(\boldsymbol{X}\right)\\\end{matrix}\right\}\\ m \le k \end {gather} ただし、$i$ 番目の変換 $g_i \left(\boldsymbol{X}\right)$ は $\boldsymbol{X}$ の2回微分可能な関数 という変換をすると、 \begin{gather} \sqrt n \left\{g \left(\boldsymbol{X}\right)-g \left(\boldsymbol{\mu}\right)\right\}\xrightarrow[]{d}\mathrm{N} \left[0, \left\{\boldsymbol{H} \left(\boldsymbol{\mu}\right)\right\}^\boldsymbol{T}\boldsymbol{\Sigma} \left\{\boldsymbol{H} \left(\boldsymbol{\mu}\right)\right\}\right]\\ E \left(\boldsymbol{Y}\right)\cong g \left(\boldsymbol{\mu}\right)\\ V \left(\boldsymbol{Y}\right)\cong \left\{\boldsymbol{H} \left(\boldsymbol{\mu}\right)\right\}^\boldsymbol{T}\boldsymbol{\Sigma} \left\{\boldsymbol{H} \left(\boldsymbol{\mu}\right)\right\} \end{gather} が成り立つ。 ここに、$\boldsymbol{H} \left(\boldsymbol{\mu}\right)$ は、$k\times m$ 行列 \begin{gather} \boldsymbol{H} \left(\boldsymbol{\mu}\right)= \left\{\begin{matrix}\frac{\partial g_1 \left(\boldsymbol{\mu}\right)}{\partial x_1}&\frac{\partial g_1 \left(\boldsymbol{\mu}\right)}{\partial x_2}& \cdots &\frac{\partial g_m \left(\boldsymbol{\mu}\right)}{\partial x_k}\\\frac{\partial g_1 \left(\boldsymbol{\mu}\right)}{\partial x_2}&\frac{\partial g_2 \left(\boldsymbol{\mu}\right)}{\partial x_2}& \cdots &\frac{\partial g_m \left(\boldsymbol{\mu}\right)}{\partial x_2}\\\vdots&\vdots&\ddots&\vdots\\\frac{\partial g_1 \left(\boldsymbol{\mu}\right)}{\partial x_k}&\frac{\partial g_2 \left(\boldsymbol{\mu}\right)}{\partial x_k}& \cdots &\frac{\partial g_m \left(\boldsymbol{\mu}\right)}{\partial x_k}\\\end{matrix}\right\} \end{gather} である。

参考文献

  • 野田 一雄, 宮岡 悦良 著. 入門・演習数理統計. 共立出版, 1990, p.188
  • 久保川 達也 著, 新井 仁之, 小林 俊行, 斎藤 毅, 吉田 朋広 編. 現代数理統計学の基礎. 共立出版, 2017, p.99-100
  • 黒木 学 著. 数理統計学:統計的推論の基礎. 共立出版, 2020, p.139-140
  • ジョン・ラチン 著, 宮岡 悦良 監訳, 遠藤 輝, 黒沢 健, 下川 朝有, 寒水 孝司 訳. 医薬データのための統計解析. 共立出版, 2020, p.586-587

関連記事

自己紹介

自分の写真

yama

大学時代に読書の面白さに気づいて以来、読書や勉強を通じて、興味をもったことや新しいことを学ぶことが生きる原動力。そんな人間が、その時々に学んだことを備忘録兼人生の軌跡として記録しているブログです。

このブログを検索

ブログ アーカイブ

QooQ