モーメント母関数の定義と基本性質の証明

指数関数のマクローリン展開 $e^{\theta X}=\sum_{k=0}^{\infty}{\frac{\theta^k}{k!}X^k}$ より、 \begin{align} e^{\theta X}=1+\theta \cdot X+\frac{\theta^2}{2!}X^2+\frac{\theta^3}{3!}X^3+ \cdots \end{align} 両辺の期待値を取ると、 \begin{align} E \left(e^{\theta X}\right)=E \left(1+\theta \cdot X+\frac{\theta^2}{2!}X^2+\frac{\theta^3}{3!}X^3+ \cdots \right) \end{align} 期待値の性質 $E \left(\sum_{i=1}^{n}{a_iX_i}+b\right)=\sum_{i=1}^{n}{a_iE \left(X_i\right)}+b$ より、 \begin{align} E \left(e^{\theta X}\right)&=E \left(1\right)+\theta E \left(X\right)+\frac{\theta^2}{2!}E \left(X^2\right)+\frac{\theta^3}{3!}E \left(X^3\right)+ \cdots \\ &=1+\theta E \left(X\right)+\frac{\theta^2}{2!}E \left(X^2\right)+\frac{\theta^3}{3!}E \left(X^3\right)+ \cdots \end{align} モーメント母関数の定義式 $M_X \left(\theta\right)=E \left(e^{\theta X}\right)$ より、 \begin{align} M_X \left(\theta\right)=1+\theta E \left(X\right)+\frac{\theta^2}{2!}E \left(X^2\right)+\frac{\theta^3}{3!}E \left(X^3\right)+ \cdots \tag{1} \end{align} 式 $(1)$ の両辺を $\theta$ で微分すると、 \begin{align} M_X^{ \left(1\right)} \left(\theta\right)=E \left(X\right)+\theta E \left(X^2\right)+\frac{\theta^2}{2!}E \left(X^3\right)+ \cdots \tag{2} \end{align} 式 $(2)$ に $\theta=0$ を代入すると、 \begin{align} M_X^{ \left(1\right)} \left(0\right)=E \left(X\right) \end{align} 以下同様に、両辺を $\theta$ で微分し、$k$ 階微分を求めて、得られた式に $\theta=0$ を代入すると、 \begin{align} M_X^{ \left(k\right)} \left(0\right)=E \left(X^k\right) \end{align} $\blacksquare$

\begin{align} M_Y \left(\theta\right)&=E \left(e^{\theta Y}\right)\\ &=E \left[e^{\theta \left(aX+b\right)}\right]\\ &=E \left[e^{a\theta X} \cdot e^{b\theta}\right]\\ &=e^{b\theta}E \left[e^{a\theta X}\right]\\ &=e^{b\theta}M_X \left(a\theta\right) \end{align} $\blacksquare$

モーメント母関数の定義式と指数法則より、 \begin{align} M_Y \left(\theta\right)&=E \left(e^{\theta Y}\right)\\ &=E \left[e^{\theta \left(X_1+X_2+ \cdots +X_n\right)}\right]\\ &=E \left[e^{\theta X_1} \cdot e^{\theta X_2} \cdots e^{\theta X_n}\right] \end{align} 独立なときの期待値の性質 \begin{align} E \left[g \left(X_1\right)g \left(X_2\right) \cdots g \left(X_n\right)\right]=E \left[g \left(X_1\right)\right] \cdot E \left[g \left(X_2\right)\right] \cdots E \left[g \left(X_n\right)\right] \end{align} より、 \begin{align} M_Y \left(\theta\right)&=E \left[e^{\theta X_1}\right] \cdot E \left[e^{\theta X_2}\right] \cdots E \left[e^{\theta X_n}\right]\\ &=M_{X_1} \left(\theta\right) \cdot M_{X_2} \left(\theta\right) \cdot \cdots \cdot M_{X_n} \left(\theta\right) \end{align} $\blacksquare$

非負の整数値のみを取る離散型確率変数の場合
確率変数 $X,Y$ の確率関数をそれぞれ、 \begin{align} f \left(x\right) \quad g \left(y\right) \end{align} とし、 それぞれ共通する標本空間 \begin{align} \Omega={0,1,2, \cdots m} \end{align} を有するとする。 仮定より、任意の実数 $ \left|\theta\right| \lt \infty$ に対し、 \begin{align} M_X \left(\theta\right)=M_Y \left(\theta\right) \end{align} モーメント母関数の定義より、 \begin{gather} \sum_{k=0}^{m}{e^{\theta x} \cdot P \left(X=k\right)}=\sum_{k=0}^{m}{e^{\theta y} \cdot P \left(Y=k\right)}\\ \sum_{k=0}^{m}{e^{\theta k} \cdot f \left(k\right)}=\sum_{k=0}^{m}{e^{\theta k} \cdot g \left(k\right)} \end{gather} 右辺を左辺に移行すると、 \begin{align} \sum_{k=0}^{m}{e^{\theta k} \left\{f \left(k\right)-g \left(k\right)\right\}}=0 \end{align} $k=0,1, \cdots ,m$ に対し、 \begin{align} a_k=f \left(k\right)-g \left(k\right) \end{align} とおくと、 \begin{align} \sum_{k=0}^{m}{a_k \cdot e^{\theta k}}=0\tag{1} \end{align} $0 \lt e^{\theta k}$ であるから、すべての $k=0,1, \cdots ,m$ に対し、式 $(1)$ が成り立つためには、 \begin{gather} a_k=0\\ f \left(k\right)=g \left(k\right) \end{gather} 確率関数が同じであれば、分布関数も同様に、 \begin{gather} a_k=0\\ F \left(k\right)=P \left(X \le k\right)=\sum_{t=0}^{k}f \left(t\right)=\sum_{t=0}^{k}g \left(t\right)=P \left(Y \le k\right)=G \left(k\right) \end{gather} $\blacksquare$

連続型の場合については、フビニの定理やフーリエの逆変換公式、ルベーグ積分など、大学専門レベルの知識を必要とし、筆者の理解を超えるのでここまでとします（気になる方は、参考文献の最も下のリンク先をご参照ください）。 $\blacksquare$