フィッシャー・ネイマンの因子分解定理の証明

（i）十分性
$\boldsymbol{X}= \left(X_1,X_2, \cdots ,X_n\right)$ の同時確率関数を $f \left(\boldsymbol{x};\theta\right)$ として、与式のような分解 \begin{align} f \left(\boldsymbol{x};\theta\right)=g \left(t;\theta\right) \cdot h \left(\boldsymbol{x}\right) \end{align} ができるような非負の関数 \begin{align} g \left(t;\theta\right),h \left(\boldsymbol{x}\right) \end{align} が存在するとする。 ここで、統計量 $T \left(\boldsymbol{X}\right)$ は、確率関数ベクトル $\boldsymbol{X}$ の関数なので、$\boldsymbol{X}$ の値（の組み合わせ）によって1つに定まる。よって、$T \left(\boldsymbol{X}\right)=t$ となるような $\boldsymbol{X}$ の同時確率を考えることで、統計量 $T$ の確率質量関数は、 \begin{align} f \left(t;\theta\right)&=\sum_{\boldsymbol{X}:T \left(\boldsymbol{X}\right)=t} f \left(\boldsymbol{x};\theta\right)\\ &=\sum_{\boldsymbol{X}:T \left(\boldsymbol{X}\right)=t}{g \left(t;\theta\right) \cdot h \left(\boldsymbol{x}\right)}\\ &=g \left(t;\theta\right)\sum_{\boldsymbol{X}:T \left(\boldsymbol{X}\right)=t} h \left(\boldsymbol{x}\right) \end{align} と表すことができる。 このとき、$T=t$ が与えられているときの $\boldsymbol{X}= \left(X_1,X_2, \cdots ,X_n\right)$ の条件付き確率分布は、条件付き確率の定義より \begin{align} P \left(\ \boldsymbol{X}=\boldsymbol{x}\ \middle|\ T=t\ \right)=\frac{P \left(\boldsymbol{X}=\boldsymbol{x},T=t\right)}{P \left(T=t\right)} \end{align} $T \left(\boldsymbol{x}\right)=t$ という条件下 $P \left(\boldsymbol{X}=\boldsymbol{x},T=t\right)=P \left(\boldsymbol{X}=\boldsymbol{x}\right)$ なので、 \begin{align} P \left(\ \boldsymbol{X}=\boldsymbol{x}\ \middle|\ T=t\ \right)&=\frac{P \left(\boldsymbol{X}=\boldsymbol{x}\right)}{P \left(T=t\right)}\\ &=\frac{f \left(\boldsymbol{x};\theta\right)}{f \left(t;\theta\right)}\\ &=\frac{g \left(t;\theta\right) \cdot h \left(x\right)}{g \left(t;\theta\right)\sum_{\boldsymbol{X}:T \left(\boldsymbol{X}\right)=t} h \left(\boldsymbol{x}\right)}\\ &=\frac{h \left(\boldsymbol{x}\right)}{\sum_{\boldsymbol{X}:T \left(\boldsymbol{X}\right)=t} h \left(\boldsymbol{x}\right)} \end{align} したがって、$T=t$ が与えられているときの $\boldsymbol{X}= \left(X_1,X_2, \cdots ,X_n\right)$ の条件付き確率分布は、$\theta$ に依存しない。よって、$T$ は十分統計量である。

（ii）必要性
$T$ を十分統計量とし、$P \left(\boldsymbol{X}=\boldsymbol{x}\right)=0$ のときは、$h \left(\boldsymbol{x}\right)=0$ とし、すべての $T$ の値 $t$ に関して、 \begin{align} \begin{matrix}h \left(\boldsymbol{x}\right)=P \left(\ \boldsymbol{X}=\boldsymbol{x}\ \middle|\ T=t:\theta\ \right)=P \left(\ \boldsymbol{X}=\boldsymbol{x}\ \middle|\ T=t\ \right)&g \left(t;\theta\right)=P \left(T=t:\theta\right)\\\end{matrix} \end{align} とおくと、 確率の乗法定理 $P \left(\boldsymbol{X}=\boldsymbol{x},T=t\right)=P \left(T=t\right) \cdot P \left(\ \boldsymbol{X}=\boldsymbol{x}\ \middle|\ T=t\ \right)$ より、 \begin{align} f \left(\boldsymbol{x};\theta\right)&=P \left(\boldsymbol{X}=\boldsymbol{x}:\theta\right)\\ &=P \left(\boldsymbol{X}=\boldsymbol{x},T=t\right)\\ &=P \left(T=t\right) \cdot P \left(\ \boldsymbol{X}=\boldsymbol{x}\ \middle|\ T=t\ \right)\\ &=g \left(t;\theta\right) \cdot h \left(\boldsymbol{x}\right) \end{align} となり与式のように分解できる。 $\blacksquare$ $T$ を十分統計量とし、$T^\prime=r \left(T\right)$ を1-1対応とすると、$t=r^{-1} \left(t^\prime\right)$ であり、因子分解定理により、 \begin{align} f \left(\boldsymbol{x};\theta\right)=g \left(t;\theta\right) \cdot h \left(\boldsymbol{x}\right)=g \left\{r^{-1} \left(t^\prime\right);\theta\right\} \cdot h \left(\boldsymbol{x}\right)=g^\prime \left(t^\prime;\theta\right) \cdot h \left(\boldsymbol{x}\right) \end{align} $\blacksquare$