統計検定 1級 2024年 統計数理 問5 順序統計量の分布、十分統計量、ラオ・ブラックウェルの定理

本稿には、2024年に実施された統計検定1級『統計数理』 問5の自作解答案を掲載しています。なお、閲覧にあたっては、以下の点にご注意ください。

• 統計検定の問題の使用に関する規約により禁止されているため、問題文は掲載することができません。公式サイトで公開されているものなどをご参照ください。
• この答案は、あくまでも筆者が自作したものであり、公式なものではありません。正式な答案については、公式問題集をご参照ください。
• 計算ミスや誤字・脱字などがありましたら、コメントなどでご指摘いただければ大変助かります。
• スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。

 

〔1〕順序統計量の分布

まず、確率変数 $X_j$ の確率密度関数と累積分布関数は、 $$\begin{array}{c}F\left(x\right)=\{\begin{array}{cc}0& -0.5<x\\ x+0.5& -0.5\le x\le 0.5\\ 1& x<0.5\end{array}\\ f\left(x\right)=\{\begin{array}{cc}1& -0.5\le x\le 0.5\\ 0& \mathrm{other}\end{array}\end{array}$$

順序統計量の確率密度関数の公式 $$\begin{array}{r}{f}_i\left(x_i\right)=\frac{n!}{(i-1)!(n-i)!}\cdot {\left\{F\left(x\right)\right\}}^{i-1}\cdot f\left(x\right)\cdot {\{1-F\left(x\right)\}}^{n-i}\end{array}$$ を用いると、 $$\begin{array}{rl}{f}_1\left(x_1\right)& =\frac{3!}{(1-1)!(3-1)!}\cdot {(x_1+0.5)}^{1-1}\cdot 1\cdot {\{1-(x_1+0.5)\}}^{3-1}\\ & =\frac{3!}{1\cdot 2!}\cdot 1\cdot 1\cdot {(0.5-x_1)}^2\\ & =3{(0.5-x_1)}^2\end{array}$$ $$\begin{array}{rl}{f}_2\left(x_2\right)& =\frac{3!}{(2-1)!(3-2)!}\cdot {(x_2+0.5)}^{2-1}\cdot 1\cdot {\{1-(x_2+0.5)\}}^{3-2}\\ & =\frac{3!}{1\cdot 1}\cdot (x_2+0.5)\cdot 1\cdot (0.5-x_2)\\ & =6(0.25-x_2^2)\end{array}$$ $$\begin{array}{rl}{f}_3\left(x_3\right)& =\frac{3!}{(3-1)!(3-3)!}\cdot {(x_3+0.5)}^{3-1}\cdot 1\cdot {\{1-(x_3+0.5)\}}^{3-3}\\ & =\frac{3!}{2!\cdot 1}\cdot {(x_3+0.5)}^2\cdot 1\cdot 1\\ & =3{(x_3+0.5)}^2\end{array}$$

それぞれの期待値は、積分範囲が原点対称であることから、奇関数の積分の性質（積分値が0になる）を用いると、 $$\begin{array}{rl}E\left[X_{\left(1\right)}\right]& ={\int }_{-\frac{1}{2}}^{\frac{1}{2}}x\cdot 3{(0.5-x)}^{2}dx\\ & =3{\int }_{-\frac{1}{2}}^{\frac{1}{2}}(x^3-x^2+0.25x)dx\\ & =-3{\int }_{-\frac{1}{2}}^{\frac{1}{2}}{x}^{2}dx\\ & =-3{\left[\frac{1}{3}{x}^3\right]}_{-\frac{1}{2}}^{\frac{1}{2}}\\ & =-(\frac{1}{8}+\frac{1}{8})\\ & =-\frac{1}{4}\end{array}$$ $$\begin{array}{rl}E\left[X_{\left(2\right)}\right]& ={\int }_{-\frac{1}{2}}^{\frac{1}{2}}x\cdot (\frac{3}{2}-6x^2)dx\\ & ={\int }_{-\frac{1}{2}}^{\frac{1}{2}}(\frac{3}{2}x-6x^3)dx\\ & =0\end{array}$$ $$\begin{array}{rl}E\left[X_{\left(3\right)}\right]& ={\int }_{-\frac{1}{2}}^{\frac{1}{2}}x\cdot 3{(x+0.5)}^{2}dx\\ & =3{\int }_{-\frac{1}{2}}^{\frac{1}{2}}(x^3+x^2+\frac{1}{4}x)dx\\ & =3{\int }_{-\frac{1}{2}}^{\frac{1}{2}}{x}^{2}dx\\ & =\frac{1}{4}\end{array}$$ $◼$

 

別解

順序統計量の確率密度関数の公式を知らない場合（クリックで表示）

最大値の分布

最大値が $x_3$ 以下となるとき、すべての $X_j$ が $x$ 以下となるので、 $$\begin{array}{r}{F}_3\left(x_3\right)=P(X_1\le x_3,X_2\le x_3,X_3\le x_3)\end{array}$$ 確率変数 $X_j$ は互いに独立であるため、この確率は、 $$\begin{array}{rl}{F}_3\left(x_3\right)& =P(X_1\le x_3)\cdot P(X_2\le x_3)\cdot P(X_3\le x_3)\\ & =F\left(x\right)\cdot F\left(x\right)\cdot F\left(x\right)\\ & ={\left\{F\left(x\right)\right\}}^3\\ & ={(x+0.5)}^3\end{array}$$ 累積分布関数と確率密度関数の関係 $f\left(x\right)=\frac{d}{dx}F\left(x\right)$ より、 $$\begin{array}{r}{f}_3\left(x_3\right)=3{(x_3+0.5)}^2\end{array}$$

2番目に大きい値の分布

2番目の値が $x_2$ 以下となるのは、
$X_1,X_2,X_3$ のうち2つが $x_2$ 以下、かつ、1つが $x_2$ 以上 もしくは、 $X_1,X_2,X_3$ のすべてが $x_2$ 以下 のときであるから、 （a）2つが $x_2$ 以下となる確率は、 $$\begin{array}{rl}{P}_1& ={}_3{C}_2\cdot P(X\le x_2)\cdot P(X\le x_2)\cdot P(X\ge x_2)\\ & =3\cdot (x_2+0.5)\cdot (x_2+0.5)\cdot \{1-(x_2+0.5)\}\\ & =3{(x_2+0.5)}^2(-x_2+0.5)\end{array}$$ （b）3つが $x_2$ 以下となる確率は、先の結果より、 $$\begin{array}{r}{P}_2={(x_2+0.5)}^3\end{array}$$ したがって、 $$\begin{array}{rl}{F}_2\left(x_2\right)& =3{(x_2+0.5)}^2(-x_2+0.5)+{(x_2+0.5)}^3\\ & =-2{(x_2+0.5)}^2(x_2-1)\end{array}$$ 累積分布関数と確率密度関数の関係 $f\left(x\right)=\frac{d}{dx}F\left(x\right)$ より、 $$\begin{array}{rl}{f}_2\left(x_2\right)& =-2\{2(x_2+0.5)(x_2-1)\cdot \frac{d}{dx}(x_2+0.5)+{(x_2+0.5)}^2\cdot 1\}\\ & =-2(x_2+0.5)(2x_2-2+x_2+0.5)\\ & =-2(x_2+0.5)(3x_2-1.5)\\ & =-2(3x_2^2-1.5x_2+1.5x_2-0.75)\\ & =6(0.25-x_2^2)\end{array}$$

最小値の分布

最小値が $x_1$ 以下となるとき、少なくとも1つの $X_i$ が $x_1$ 以下となる。これは、「すべての $X_i$ が $x_1$ 以上となる事象」の余事象であるから、 $$\begin{array}{r}{F}_1\left(x\right)=1-P(x_1\le X_1,x_1\le X_2,x_1\le X_3)\end{array}$$ 確率変数 $X_j$ は互いに独立であるため、この確率は、 $$\begin{array}{r}{F}_1\left(x\right)=1-P(x_1\le X_1)\cdot P(x_1\le X_2)\cdot P(x_1\le X_3)\end{array}$$ 確率の基本性質 $P(x\le X)=1-P(X\le x)$ より、 $$\begin{array}{rl}{F}_1\left(x_1\right)& =1-[\{1-F\left(x_1\right)\}\cdot \{1-F\left(x_1\right)\}\cdot \{1-F\left(x_1\right)\}]\\ & =1-{\{1-F\left(x_1\right)\}}^3\\ & =1-{(0.5-x_1)}^3\end{array}$$ 累積分布関数と確率密度関数の関係 $f\left(x\right)=\frac{d}{dx}F\left(x\right)$ より、 $$\begin{array}{rl}{f}_1\left(x_1\right)& =-3{(0.5-x_1)}^2\cdot \frac{d}{dx}(0.5-x_1)\\ & =-3{(0.5-x_1)}^2\cdot (-1)\\ & =3{(0.5-x_1)}^2\end{array}$$

 

〔2〕同時確率密度関数

順序統計量 $X_{\left(1\right)},X_{\left(2\right)},X_{\left(3\right)}$ の同時分布関数 $$\begin{array}{r}F(x_1,x_2,x_3)=P\{X_{\left(1\right)}\le x_1,X_{\left(2\right)}\le x_2,X_{\left(3\right)}\le x_3\}\end{array}$$ について考えると、 これは、 最小値が $x_1$ 以下の値、2番目が $x_2$ 以下の値、最大値が $x_3$ 以下の値 を取る同時確率と言い換えることができる。

このような状況となるためには、 $$\begin{array}{r}-0.5\le x_1\le x_2\le x_3\le 0.5\end{array}$$ の条件下において、 3つのうち1つが $$\begin{array}{r}-0.5\le X\le x_1\end{array}$$ 残り2つのうち1つが $$\begin{array}{r}{x}_1\le X\le x_2\end{array}$$ 残りの1つが $$\begin{array}{r}{x}_2\le X\le x_3\end{array}$$ という値を取ればよい。

この確率は、最小値の取り方が3通り、2番目の値の取り方が2通り、最大値の取り方は残りの1通りなので、 $$\begin{array}{rl}F(x_1,x_2,x_3)& =3F\left(x_1\right)\cdot 2\{F\left(x_2\right)-F\left(x_1\right)\}\cdot \{F\left(x_3\right)-F\left(x_2\right)\}\\ & =3(x_1+0.5)\cdot 2\{(x_2+0.5)-(x_1+0.5)\}\cdot \{(x_3+0.5)-(x_2+0.5)\}\\ & =6(x_1+0.5)(x_2-x_1)(x_3-x_2)\\ & =6\{x_1{x}_2{x}_3+(x_1^2{x}_2-x_1^2{x}_3-x_1{x}_2^2)+0.5(x_1{x}_2+x_2{x}_3-x_3{x}_1-x_2^2)\}\end{array}$$ 同時分布関数と同時確率密度関数の関係より、 $$\begin{array}{rl}f(x_1,x_2,x_3)& =\frac{{\partial }^3}{\partial x_1\partial x_2\partial x_3}F(x_1,x_2,x_3)\\ & =6\end{array}$$ したがって、 $$\begin{array}{r}f(x_1,x_2,x_3)=\{\begin{array}{cc}6& -0.5<x_1\le x_2\le x_3<0.5\\ 0& \mathrm{other}\end{array}\end{array}$$ $◼$

 

〔3〕不偏推定量

確率変数 $Y_{\left(1\right)},Y_{\left(2\right)},Y_{\left(3\right)}$ の期待値は、〔1〕の結果と期待値の性質より、 $$\begin{array}{rl}E\left[Y_{\left(1\right)}\right]& =E[X_{\left(1\right)}+\theta ]\\ & =E\left[X_{\left(1\right)}\right]+\theta \\ & =-\frac{1}{4}+\theta \end{array}$$ $$\begin{array}{rl}E\left[Y_{\left(2\right)}\right]& =E[X_{\left(2\right)}+\theta ]\\ & =E\left[X_{\left(2\right)}\right]+\theta \\ & =\theta \end{array}$$ $$\begin{array}{rl}E\left[Y_{\left(3\right)}\right]& =E[X_{\left(3\right)}+\theta ]\\ & =E\left[X_{\left(3\right)}\right]+\theta \\ & =\frac{1}{4}+\theta \end{array}$$ 与えられた推定量の期待値は、 $$\begin{array}{rl}E\left({\hat{\theta }}_c\right)& =E[c{Y}_{\left(1\right)}+(1-2c)Y_{\left(2\right)}+c{Y}_{\left(3\right)}]\\ & =cE\left[Y_{\left(1\right)}\right]+(1-2c)E\left[Y_{\left(2\right)}\right]+cE\left[Y_{\left(3\right)}\right]\\ & =c(-\frac{1}{4}+\theta )+(1-2c)\theta +c(\frac{1}{4}+\theta )\\ & =\theta \end{array}$$ したがって、${\hat{\theta }}_c$ は $c$ の値によらず、不偏推定量である。 $◼$

 

〔4〕十分統計量

確率変数 $Y_{\left(i\right)}$ は、$X_{\left(i\right)}$ を $\theta$ だけ平行移動しただけなので、〔2〕の結果より、 $$\begin{array}{r}h(y_1,y_2,y_3)=\{\begin{array}{cc}6& -0.5+\theta <y_1\le y_2\le y_3<0.5+\theta \\ 0& \mathrm{other}\end{array}\end{array}$$ 観測値 $(y_1,y_2,y_3)$ が得られる尤度関数は、定義域を $\theta$ を中心に書き換えると、 $$\begin{array}{r}L\left(\theta \right)=\{\begin{array}{cc}6& y_3-0.5<\theta <y_1+0.5\\ 0& \mathrm{other}\end{array}\end{array}$$ これは、条件を満たす場合は $1$、それ以外の場合は $0$ を取る指示関数 $I$ を用いて、 $$\begin{array}{r}L\left(\theta \right)=6I[y_3-0.5<\theta <y_1+0.5]\end{array}$$ と表すことができる。 これは、$(y_1,y_3)$ のみの関数なので、フィッシャー・ネイマンの因子分解定理より、確率変数の組 $\{Y_{\left(1\right)},Y_{\left(3\right)}\}$ は、$\theta$ の十分統計量である。 $◼$

 

〔5〕ラオ・ブラックウェルの定理

確率変数 $Y_i$ の確率密度関数と累積分布関数は、 $$\begin{array}{c}G\left(y\right)=\{\begin{array}{cc}0& -0.5+\theta <y\\ y-0.5+\theta & -0.5+\theta \le y\le 0.5+\theta \\ 1& y<0.5+\theta \end{array}\\ g\left(y\right)=\{\begin{array}{cc}1& -0.5+\theta \le y\le 0.5+\theta \\ 0& \mathrm{other}\end{array}\end{array}$$

順序統計量 $Y_{\left(i\right)},Y_{\left(j\right)}$ の同時確率密度関数の公式 $$\begin{array}{r}g(y_i,y_j)=\frac{n!}{(i-1)!(j-i-1)!(n-j)!}\cdot {\left\{G\left(y_i\right)\right\}}^{i-1}\cdot g\left(y_i\right)\cdot {\{G\left(y_j\right)-G\left(y_i\right)\}}^{j-i-1}\cdot g\left(y_j\right)\cdot {\{1-G\left(y_j\right)\}}^{n-j}\end{array}$$ を用いると、 $$\begin{array}{rl}g(y_1,y_3)& =\frac{3!}{(1-1)!(3-1-1)!(3-3)!}\cdot {(y_1-0.5+\theta )}^{1-1}\cdot 1\cdot {\{y_3-0.5+\theta -(y_1-0.5+\theta )\}}^{3-1-1}\cdot 1\cdot {\{1-(y_1-0.5+\theta )\}}^{3-3}\\ & =6(y_3-y_1)\end{array}$$ 順序統計量 $Y_{\left(1\right)},Y_{\left(2\right)},Y_{\left(3\right)}$ の同時確率密度関数は、〔2〕と同様に考えて、 $$\begin{array}{r}g(y_1,y_2,y_3)=\{\begin{array}{cc}6& -0.5+\theta <y_1\le y_2\le y_3<0.5+\theta \\ 0& \mathrm{other}\end{array}\end{array}$$

条件付き確率密度関数の定義より、 $$\begin{array}{rl}g\left(y_2\right|y_1,y_3)& =\frac{g(y_1,y_2,y_3)}{g(y_1,y_3)}\\ & =\frac{6}{6(y_3-y_1)}\\ & =\frac{1}{y_3-y_1}\end{array}$$ これは、区間 $(y_1,y_3)$ の連続一様分布の確率密度関数なので、連続一様分布の期待値の公式より、 $$\begin{array}{r}E\left(Y_2\right|y_1,y_3)=\frac{y_1+y_3}{2}\end{array}$$ ここで、〔3〕において定義された不偏推定量 ${\hat{\theta }}_c$ について、十分統計量 $(y_1,y_3)$ で条件づけた条件付き期待値は、 $$\begin{array}{rl}E\left({\hat{\theta }}_c\right|y_1,y_3)& =E[c{y}_1+(1-2c)Y_{\left(2\right|y_1,y_3)}+c{y}_3]\\ & =c{y}_1+(1-2c)\cdot E\left(Y_2\right|y_1,y_3)+c{y}_3\\ & =c{y}_1+\frac{(1-2c)(y_1+y_3)}{2}+c{y}_3\\ & =\frac{y_1+y_3}{2}\end{array}$$ ラオ・ブラックウェルの定理を用いて、${\hat{\theta }}_c$ を元に改良した推定量 ${\tilde{\theta }}_c$ の導出を試みると、 $$\begin{array}{r}{\tilde{\theta }}_c=E\left({\hat{\theta }}_c\right|y_1,y_3)\end{array}$$ とすれば、分散を最小にすることができる。 したがって、 $$\begin{array}{r}c{Y}_{\left(1\right)}+(1-2c)Y_{\left(2\right)}+c{Y}_{\left(3\right)}=\frac{Y_{\left(1\right)}+Y_{\left(3\right)}}{2}\end{array}$$ これを満たすのは、 $$\begin{array}{r}c=\frac{1}{2}\end{array}$$ であり、 〔3〕の結果より、${\hat{\theta }}_c$ を元に改良した推定量は、$c$ の値によらず、不偏推定量である。 $◼$

 

関連記事

• 順序統計量の分布
• 多次元の確率分布
• 推定量の評価
• 十分統計量
• ラオ・ブラックウェルの定理
• 最大値・最小値の同時確率分布