代表的な確率分布の十分統計量の導出

二項分布の確率関数は、 $$\begin{array}{c}f\left(x\right)=\{\begin{array}{cc}{}_n{C}_x{p}^x{(1-p)}^{n-x}& x=0,1,\cdots ,n\\ 0& \mathrm{other}\end{array}\end{array}$$ 具体的な観測値として、$X=x$ という値が得られたときの確率関数 $f\left(x\right)$ を求めると、 $$\begin{array}{c}f\left(x\right)={}_n{C}_x{p}^x{(1-p)}^{n-x}\end{array}$$ このとき、 $$\begin{array}{c}g(t,\theta )=p^x{(1-p)}^{n-x}T\left(X\right)=xh\left(x\right)={}_n{C}_x\end{array}$$ と考えると、 フィッシャー・ネイマンの因子分解定理により、$T\left(X\right)=x$ はパラメータ $p$ を推定するための十分推定量である。 $◼$

ポアソン分布の確率関数は、 $$\begin{array}{c}f\left(x\right)=\{\begin{array}{cc}\frac{{\lambda }^x{e}^{-\lambda }}{x!}& (x=0,1,2,\cdots )\\ 0& \mathrm{other}\end{array}\end{array}$$ 具体的な観測値として、$\mathit{x}=\{x_1,x_2,\cdots x_n\}$ という値が得られたときの同時確率関数 $f\left(\mathit{x}\right)$ を求めると、 $$\begin{array}{rl}f\left(\mathit{x}\right)& =\prod _{i=1}^n\frac{{\lambda }^{x_i}{e}^{-\lambda }}{x_i!}\\ & ={\lambda }^{(x_1+x_2+\cdots +x_n)}\cdot e^{-n\lambda }\cdot \frac{1}{x_1!}\cdot \frac{1}{x_2!}\cdot \cdots \cdot \frac{1}{x_n!}\\ & ={\lambda }^{\sum _{i=1}^n{x}_i}\cdot e^{-n\lambda }\cdot \prod _{i=1}^n\frac{1}{x_i!}\end{array}$$ このとき、 $$\begin{array}{c}g(t,\theta )={\lambda }^{\sum _{i=1}^n{x}_i}{e}^{-n\lambda }T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_{i}h\left(x\right)=\prod _{i=1}^n\frac{1}{x_i!}\end{array}$$ と考えると、 フィッシャー・ネイマンの因子分解定理により、$T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_i$ はパラメータ $\lambda$ を推定するための十分推定量である。 $◼$

幾何分布の確率関数は、 $$\begin{array}{c}f\left(x\right)=\{\begin{array}{cc}{(1-p)}^{x-1}p& (x=0,1,2,\cdots )\\ 0& \mathrm{other}\end{array}\end{array}$$ 具体的な観測値として、$\mathit{x}=\{x_1,x_2,\cdots x_n\}$ という値が得られたときの同時確率関数 $f\left(\mathit{x}\right)$ を求めると、 $$\begin{array}{rl}f\left(\mathit{x}\right)& =\prod _{i=1}^n{(1-p)}^{x_i-1}p\\ & ={(1-p)}^{(x_1+x_2+\cdots +x_n)-n}\cdot p^n\\ & ={(1-p)}^{\sum _{i=1}^n{x}_i-n}\cdot p^n\end{array}$$ このとき、 $$\begin{array}{c}g(t,\theta )={(1-p)}^{\sum _{i=1}^n{x}_i-n}{p}^{n}T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_{i}h\left(x\right)=1\end{array}$$ と考えると、 フィッシャー・ネイマンの因子分解定理により、$T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_i$ はパラメータ $p$ を推定するための十分推定量である。 $◼$

正規分布の確率密度関数は、 $$\begin{array}{c}\begin{array}{cc}f\left(x\right)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{{(x-\mu )}^2}{2{\sigma }^2}}& (-\mathrm{\infty }<x<\mathrm{\infty })\end{array}\end{array}$$ 具体的な観測値として、$\mathit{x}=\{x_1,x_2,\cdots x_n\}$ という値が得られたときの同時確率関数 $f\left(\mathit{x}\right)$ を求めると、 $$\begin{array}{rl}f\left(\mathit{x}\right)& =\prod _{i=1}^n\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{{(x_i-\mu )}^2}{2{\sigma }^2}}\\ & ={\left(\frac{1}{\sqrt{2\pi {\sigma }^2}}\right)}^n\cdot \exp \{-\frac{{(x_1-\mu )}^2}{2{\sigma }^2}--\frac{{(x_2-\mu )}^2}{2{\sigma }^2}-\cdots --\frac{{(x_n-\mu )}^2}{2{\sigma }^2}\}\\ & ={\left(\frac{1}{2\pi {\sigma }^2}\right)}^{\frac{n}{2}}\cdot \exp \{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{(x_i-\mu )}^2\}\\ & ={\left(\frac{1}{2\pi {\sigma }^2}\right)}^{\frac{n}{2}}\cdot \exp \{-\frac{1}{2{\sigma }^2}(\sum _{i=1}^n{x}_i^2-2\mu \sum _{i=1}^n{x}_i+n{\mu }^2)\}\\ & ={\left(\frac{1}{2\pi {\sigma }^2}\right)}^{\frac{n}{2}}\cdot \exp (-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{x}_i^2)\exp \{-\frac{1}{2{\sigma }^2}(-2\mu \sum _{i=1}^n{x}_i+n{\mu }^2)\}\end{array}$$ このとき、 $$\begin{array}{c}g(t,\theta )=\exp \{-\frac{1}{2{\sigma }^2}(-2\mu \sum _{i=1}^n{x}_i+n{\mu }^2)\}\\ T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_i\\ h\left(x\right)={\left(\frac{1}{2\pi {\sigma }^2}\right)}^{\frac{n}{2}}\cdot \exp (-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{x}_i^2)\end{array}$$ と考えると、 フィッシャー・ネイマンの因子分解定理により、$T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_i$ はパラメータ $\mu$ を推定するための十分推定量である。 $◼$

また、 $$\begin{array}{c}g(t,\mathit{\theta })={\left(\frac{1}{2\pi {\sigma }^2}\right)}^{\frac{n}{2}}\cdot \exp \{-\frac{1}{2{\sigma }^2}(\sum _{i=1}^n{x}_i^2-2\mu \sum _{i=1}^n{x}_i+n{\mu }^2)\}{T}_1\left(\mathit{X}\right)=\sum _{i=1}^n{x}_i^2{T}_2\left(\mathit{X}\right)=\sum _{i=1}^n{x}_{i}h\left(x\right)=1\end{array}$$ と考えると、 フィッシャー・ネイマンの因子分解定理により、$\mathit{T}\left(\mathit{X}\right)=(\sum _{i=1}^n{x}_i,\sum _{i=1}^n{x}_i^2)$ はパラメータベクトル $\mathit{\theta }=(\mu ,{\sigma }^2)$ を推定するための十分推定量ベクトルである。 $◼$

指数分布の確率密度関数は、 $$\begin{array}{c}f\left(x\right)=\{\begin{array}{cc}\lambda e^{-\lambda x}& (0\le x)\\ 0& (x<0)\end{array}\end{array}$$ 具体的な観測値として、$\mathit{x}=\{x_1,x_2,\cdots x_n\}$ という値が得られたときの同時確率関数 $f\left(\mathit{x}\right)$ を求めると、 $$\begin{array}{rl}f\left(x\right)& =\prod _{i=1}^n\lambda e^{-\lambda x_i}\\ & =e^{-\lambda (x_1+x_2+\cdots +x_n)}\cdot {\lambda }^n\\ & =e^{-\lambda \sum _{i=1}^n{x}_i}\cdot {\lambda }^n\end{array}$$ このとき、 $$\begin{array}{c}g(t,\theta )=e^{-\lambda \sum _{i=1}^n{x}_i}\cdot {\lambda }^{n}T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_{i}h\left(x\right)=1\end{array}$$ と考えると、 フィッシャー・ネイマンの因子分解定理により、$T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_i$ はパラメータ $\lambda$ を推定するための十分推定量である。 $◼$

ガンマ分布の確率密度関数は、 $$\begin{array}{c}f\left(x\right)=\{\begin{array}{cc}\frac{{\beta }^{\alpha }}{\mathrm{\Gamma }\left(\alpha \right)}{x}^{\alpha -1}{e}^{-\beta x}& (0\le x)\\ 0& (x<0)\end{array}\end{array}$$ 具体的な観測値として、$\mathit{x}=\{x_1,x_2,\cdots x_n\}$ という値が得られたときの同時確率関数 $f\left(\mathit{x}\right)$ を求めると、 $$\begin{array}{rl}f\left(\mathit{x}\right)& =\prod _{i=1}^n\frac{{\beta }^{\alpha }}{\mathrm{\Gamma }\left(\alpha \right)}{x}_i^{\alpha -1}{e}^{-\beta x_i}\\ & =\frac{{\beta }^{n\alpha }}{{\left\{\mathrm{\Gamma }\left(\alpha \right)\right\}}^n}\cdot e^{-\beta (x_1+x_2+\cdots +x_n)}\cdot {(x_1+x_2+\cdots +x_n)}^{\alpha -1}\\ & =\frac{{\beta }^{n\alpha }}{{\left\{\mathrm{\Gamma }\left(\alpha \right)\right\}}^n}\cdot e^{-\beta \sum _{i=1}^n{x}_i}\cdot {\left(\sum _{i=1}^n{x}_i\right)}^{\alpha -1}\end{array}$$ このとき、 $$\begin{array}{c}g(t,\theta )=\frac{{\beta }^{n\alpha }}{{\left\{\mathrm{\Gamma }\left(\alpha \right)\right\}}^n}\cdot e^{-\beta \sum _{i=1}^n{x}_i}T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_{i}h\left(x\right)={\left(\sum _{i=1}^n{x}_i\right)}^{\alpha -1}\end{array}$$ と考えると、 フィッシャー・ネイマンの因子分解定理により、$T\left(\mathit{X}\right)=\sum _{i=1}^n{x}_i$ はパラメータ $\beta$ を推定するための十分推定量である。 $◼$