本稿では、イェンセンの不等式を証明しています。
なお、閲覧にあたっては、以下の点にご注意ください。
- スマートフォンやタブレット端末でご覧の際、数式が見切れている場合は、横にスクロールすることができます。
【定理】イェンセンの不等式
【定理】
イェンセンの不等式
Jensen’s Inequality
$g$ を区間 $I$ での凸関数とし、確率変数 $X$ の期待値が存在し、$P \left(X\in I\right)=1$ ならば、 \begin{align} g \left[E \left(X\right)\right] \le E \left[g \left(X\right)\right] \end{align} が成り立つ。
証明
凸関数の定義 $f \left\{tx+ \left(1-t\right)y\right\} \le tf \left(x\right)+ \left(1-t\right)f \left(y\right)$ より、すべての $s,t\in I$ において、 \begin{align} c \left(s-t\right)+g \left(t\right) \le g \left(s\right) \end{align} となる実数 $c$ が存在する。 ここで、$s=X,t=E \left(X\right)$ とおくと、 \begin{align} g \left[E \left(X\right)\right] \le g \left(X\right) \end{align} 両辺の期待値を取ると、 \begin{gather} E \left[g \left[E \left(X\right)\right]\right] \le E \left[g \left(X\right)\right]\\ g \left[E \left(X\right)\right] \le E \left[g \left(X\right)\right] \end{gather} $\blacksquare$
［おまけ］イェンセンの不等式を用いると、以下のことが示せる。
（a）$g \left(x\right)=-\log{X}$ とすると、区間 $ \left(0,\infty\right)$ で、（狭義の）凸関数であることから、
\begin{gather}
-\log{E \left(X\right)} \le -E \left[\log{X}\right]\\
E \left[\log{X}\right] \le \log{E \left(X\right)}
\end{gather}
（b）$g \left(x\right)=\frac{1}{X}$ とすると、区間 $ \left(0,\infty\right)$ で、（狭義の）凸関数であることから、
\begin{gather}
\frac{1}{E \left(X\right)} \le E \left[\frac{1}{X}\right]
\end{gather}
$\blacksquare$
参考文献
- 野田 一雄, 宮岡 悦良 著. 入門・演習数理統計. 共立出版, 1990, p.83-85
0 件のコメント:
コメントを投稿