イェンセンの不等式の証明

凸関数の定義 $f\{tx+(1-t)y\}\le tf\left(x\right)+(1-t)f\left(y\right)$ より、すべての $s,t\in I$ において、 $$\begin{array}{r}c(s-t)+g\left(t\right)\le g\left(s\right)\end{array}$$ となる実数 $c$ が存在する。 ここで、$s=X,t=E\left(X\right)$ とおくと、 $$\begin{array}{r}g\left[E\left(X\right)\right]\le g\left(X\right)\end{array}$$ 両辺の期待値を取ると、 $$\begin{array}{c}E\left[g\left[E\left(X\right)\right]\right]\le E\left[g\left(X\right)\right]\\ g\left[E\left(X\right)\right]\le E\left[g\left(X\right)\right]\end{array}$$ $◼$

［おまけ］イェンセンの不等式を用いると、以下のことが示せる。
（a）$g\left(x\right)=-\log X$ とすると、区間 $(0,\mathrm{\infty })$ で、（狭義の）凸関数であることから、 $$\begin{array}{c}-\log E\left(X\right)\le -E[\log X]\\ E[\log X]\le \log E\left(X\right)\end{array}$$ （b）$g\left(x\right)=\frac{1}{X}$ とすると、区間 $(0,\mathrm{\infty })$ で、（狭義の）凸関数であることから、 $$\begin{array}{c}\frac{1}{E\left(X\right)}\le E\left[\frac{1}{X}\right]\end{array}$$ $◼$