大数の法則と中心極限定理

確率変数の列 \begin{align} \boldsymbol{X}_n= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} に関して、 $ \left\{X_n\right\}$ がある定数 $c$ に平均二乗収束する ならば、 $ \left\{X_n\right\}$ は $c$ に確率収束する。

確率変数の列 \begin{align} \boldsymbol{X}_n= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} に関して、 $c \neq 0$ を満たす任意の実数 $c$ について、関数 $f \left( \cdot \right)$ が $c$ において連続ならば、 \begin{align} X_n\xrightarrow[]{p}c\Rightarrow f \left(X_n\right)\xrightarrow[]{p}f \left(c\right) \end{align} が成り立つ。

平均と分散がそれぞれ $\mu$ と $\sigma^2$ である任意の母集団分布 $\mathrm{P} \left(\mu,\sigma^2\right)$ からの大きさ $n$ の無作為標本 \begin{align} \boldsymbol{X}= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} について 標本平均を \begin{align} {\bar{X}}_n=\frac{1}{n}\sum_{i=1}^{n}X_i \end{align} とすると、 $n$ が十分に大きければ（$n\rightarrow\infty$）、標本平均は真の平均に確率収束する すなわち、任意の正の数 $0 \lt \varepsilon$ に対して、 \begin{align} \lim_{n\rightarrow\infty}{P \left( \left|{\bar{X}}_n-\mu\right| \geq \varepsilon\right)}=0 \end{align} が成り立つ。

確率変数の列 \begin{align} \boldsymbol{X}_n= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} について、 $X_n$ と確率変数 $X$ のモーメント母関数 \begin{align} M_{X_n} \left(\theta\right) \quad M_X \left(\theta\right) \end{align} が区間 $ \left(-h,h\right)$ で共に存在するとき、 確率変数の列 $ \left\{X_n\right\}$ が確率変数 $X$ に分布収束する必要十分条件は、 すべての $\theta\in \left(-h,h\right)$ において、$\lim_{n\rightarrow\infty}{M_{X_n} \left(\theta\right)}=M_X \left(\theta\right)$ である。

確率変数の列 \begin{align} \boldsymbol{X}_\boldsymbol{n}= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} について、 （i）$ \left\{X_n\right\}$ が確率変数 $X$ に確率収束するとき、$ \left\{X_n\right\}$ は $X$ に分布収束する \begin{align} X_n\xrightarrow[]{p}X\Rightarrow X_n\xrightarrow[]{d}X \end{align} （ii）$ \left\{X_n\right\}$ が定数 $a$ に分布収束するとき、$ \left\{X_n\right\}$ は $a$ に確率収束する \begin{align} X_n\xrightarrow[]{d}a\Rightarrow X_n\xrightarrow[]{p}a \end{align}

確率変数の列 \begin{align} \boldsymbol{X}_n= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} に関して、 関数 $g \left( \cdot \right)$ が連続な関数ならば、 \begin{align} X_n\xrightarrow[]{d}X\Rightarrow g \left(X_n\right)\xrightarrow[]{d}g \left(X\right) \end{align} が成り立つ。

2つの確率変数 $X,Y$ の列 \begin{align} \boldsymbol{X}_\boldsymbol{n}= \left\{X_1,X_2, \cdots ,X_n\right\} \quad \boldsymbol{Y}_\boldsymbol{n}= \left\{Y_1,Y_2, \cdots ,Y_n\right\} \end{align} について、 $ \left\{X_n\right\}$ が定数 $a \neq 0$ に確率収束し、$ \left\{Y_n\right\}$ が定数 $b$ に確率収束する、すなわち、 \begin{align} X_n\xrightarrow[]{p}a \quad Y_n\xrightarrow[]{p}b \end{align} のとき、 （i） \begin{align} X_n+Y_n\xrightarrow[]{p}a+bc \end{align} （ii） \begin{align} X_nY_n\xrightarrow[]{p}ab \end{align} （iii） \begin{align} \frac{1}{X_n}\xrightarrow[]{p}\frac{1}{a} \end{align} が成り立つ。

2つの確率変数 $X,Y$ の列 \begin{align} \boldsymbol{X}_\boldsymbol{n}= \left\{X_1,X_2, \cdots ,X_n\right\} \quad \boldsymbol{Y}_\boldsymbol{n}= \left\{Y_1,Y_2, \cdots ,Y_n\right\} \end{align} と $c \neq 0$ を満たす任意の実数 $c$ について、 $ \left\{X_n\right\}$ が確率変数 $X$ に分布収束し、$ \left\{Y_n\right\}$ が $c$ に確率収束する、すなわち、 \begin{align} X_n\xrightarrow[]{d}X \quad Y_n\xrightarrow[]{p}c \end{align} のとき、 （i）和の漸近分布 \begin{align} X_n+Y_n\xrightarrow[]{d}X+c \end{align} （ii）積の漸近分布 \begin{align} X_nY_n\xrightarrow[]{d}cX \end{align} （iii）比の漸近分布 \begin{align} \frac{X_n}{Y_n}\xrightarrow[]{d}\frac{X}{c} \end{align} が成り立つ。

平均と分散がそれぞれ $\mu$ と $\sigma^2$ である任意の母集団分布 $\mathrm{P} \left(\mu,\sigma^2\right)$ からの大きさ $n$ の無作為標本 \begin{align} \boldsymbol{X}= \left\{X_1,X_2, \cdots ,X_n\right\} \end{align} について、 標本平均を標準化した値を \begin{align} Z=\frac{\sqrt n \left({\bar{X}}_n-\mu\right)}{\sigma} \end{align} とすると、 確率変数 $X_i \left(i=1,2, \cdots ,n\right)$ のモーメント母関数が存在し、3回微分可能
かつ
それが連続である ならば、 標本平均を標準化した値は、標準正規分布 $\mathrm{N} \left(0,1\right)$ に分布収束する、すなわち、 \begin{align} Z\xrightarrow[]{d}N \left(0,1\right) \end{align} が成り立つ。