期待値の基本性質の証明

（i-a）離散型の場合 \begin{align} E \left(c\right)&=\sum_{x=-\infty}^{\infty}{c \cdot f \left(x\right)}\\ &=c\sum_{x=-\infty}^{\infty}f \left(x\right) \end{align} 確率関数の性質 $\sum_{-\infty}^{\infty}f \left(x\right)=1$ より、 \begin{align} E \left(c\right)=c \end{align}

（ii-b）連続型の場合 \begin{align} E \left(c\right)&=\int_{-\infty}^{\infty}{c \cdot f \left(x\right)dx}\\ &=c\int_{-\infty}^{\infty}f \left(x\right)dx \end{align} 確率密度関数の性質 $\int_{-\infty}^{\infty}f \left(x\right)dx=1$ より、 \begin{align} E \left(c\right)=c \end{align} $\blacksquare$

（ii-a）離散型の場合 \begin{align} E \left(aX+b\right)&=\sum_{x=-\infty}^{\infty}{ \left(ax+b\right) \cdot f \left(x\right)}\\ &=\sum_{x=-\infty}^{\infty} \left\{ax \cdot f \left(x\right)+bf \left(x\right)\right\}\\ &=a\sum_{x=-\infty}^{\infty}{x \cdot f \left(x\right)}+b\sum_{x=-\infty}^{\infty}f \left(x\right) \end{align} 期待値の定義式 $E \left(X\right)=\sum_{-\infty}^{\infty}{x \cdot f \left(x\right)}$ と確率関数の性質 $\sum_{-\infty}^{\infty}f \left(x\right)=1$ より、 \begin{align} E \left(aX+b\right)=aE \left(X\right)+b \end{align}

（ii-b）連続型の場合 \begin{align} E \left(aX+b\right)&=\int_{-\infty}^{\infty}{ \left(ax+b\right) \cdot f \left(x\right)dx}\\ &=\int_{-\infty}^{\infty} \left\{ax \cdot f \left(x\right)+b \cdot f \left(x\right)\right\}dx\\ &=a\int_{-\infty}^{\infty}{x \cdot f \left(x\right)dx}+b\int_{-\infty}^{\infty}f \left(x\right)dx \end{align} 期待値の定義式 $E \left(X\right)=\int_{-\infty}^{\infty}{x \cdot f \left(x\right)}$ と確率密度関数の性質 $\int_{-\infty}^{\infty}f \left(x\right)=1$ より、 \begin{align} E \left(aX+b\right)=aE \left(X\right)+b \end{align} $\blacksquare$

（iii-a）離散型の場合 \begin{align} E \left(X\right)=\sum_{-\infty}^{\infty}{x \cdot f \left(x\right)}&=\sum_{a}^{\infty}{x \cdot f \left(x\right)}\\ & \geq \sum_{a}^{\infty}{a \cdot f \left(x\right)}=aP \left(a \le X\right)=a\\ \end{align} \begin{align} E \left(X\right)=\sum_{-\infty}^{\infty}{x \cdot f \left(x\right)}&=\sum_{-\infty}^{b}{x \cdot f \left(x\right)}\\ & \le \sum_{-\infty}^{b}{b \cdot f \left(x\right)}=bP \left(X \le b\right)=b\\ \end{align}

（iii-b）連続型の場合 \begin{align} E \left(X\right)=\int_{-\infty}^{\infty}{x \cdot f \left(x\right)dx}&=\int_{a}^{\infty}{x \cdot f \left(x\right)dx}\\ & \geq \int_{a}^{\infty}{a \cdot f \left(x\right)dx}=aP \left(a \le X\right)=a\\ \end{align} \begin{align} E \left(X\right)=\int_{-\infty}^{\infty}{x \cdot f \left(x\right)dx}&=\int_{-\infty}^{b}{x \cdot f \left(x\right)dx}\\ & \le \int_{-\infty}^{b}{b \cdot f \left(x\right)dx}=bP \left(X \le b\right)=b\\ \end{align} $\blacksquare$

（iv-a）離散型の場合 \begin{align} E \left(a_1X_1+ \cdots +a_nX_n+b\right)&=\sum_{-\infty}^{\infty}{ \cdots \sum_{-\infty}^{\infty}{ \left(a_1x_1+ \cdots +a_nx_n+b\right) \cdot f \left(x_1,x_2, \cdots ,x_n\right)}}\\ &=\sum_{-\infty}^{\infty}{ \cdots \sum_{-\infty}^{\infty}{a_1x_1 \cdot f \left(x_1,x_2, \cdots ,x_n\right)}}+ \cdots +\sum_{-\infty}^{\infty}{ \cdots \sum_{-\infty}^{\infty}{a_nx_n \cdot f \left(x_1,x_2, \cdots ,x_n\right)}}+\sum_{-\infty}^{\infty}{ \cdots \sum_{-\infty}^{\infty}{b \cdot f \left(x_1,x_2, \cdots ,x_n\right)}} \end{align} 多次元確率変数の期待値の定義式より、 \begin{align} E \left(a_iX_i\right)=\sum_{-\infty}^{\infty}{ \cdots \sum_{-\infty}^{\infty}{a_ix_i \cdot f \left(x_1,x_2, \cdots ,x_n\right)}} \end{align} 同時確率関数の性質より、 \begin{align} \sum_{-\infty}^{\infty}{ \cdots \sum_{-\infty}^{\infty}f \left(x_1,x_2, \cdots ,x_n\right)}=1 \end{align} したがって、 \begin{align} E \left(a_1X_1+ \cdots +a_nX_n+b\right)=a_1E \left(X_1\right)+ \cdots +a_nE \left(X_n\right)+b \end{align}

（iv-b）連続型の場合 \begin{align} E \left(a_1X_1+ \cdots +a_nX_n+b\right)&=\int_{-\infty}^{\infty}{ \cdots \int_{-\infty}^{\infty}{ \left(a_1x_1+ \cdots +a_nx_n+b\right) \cdot f \left(x_1,x_2, \cdots ,x_n\right)}d\boldsymbol{x}}\\ &=\int_{-\infty}^{\infty}{ \cdots \int_{-\infty}^{\infty}{a_1x_1 \cdot f \left(x_1,x_2, \cdots ,x_n\right)d\boldsymbol{x}}}+ \cdots +\int_{-\infty}^{\infty}{ \cdots \int_{-\infty}^{\infty}{a_nx_n \cdot f \left(x_1,x_2, \cdots ,x_n\right)d\boldsymbol{x}}}+\int_{-\infty}^{\infty}{ \cdots \int_{-\infty}^{\infty}{b \cdot f \left(x_1,x_2, \cdots ,x_n\right)d\boldsymbol{x}}} \end{align} 多次元確率変数の期待値の定義式より、 \begin{align} E \left(a_iX_i\right)=\int_{-\infty}^{\infty}{ \cdots \int_{-\infty}^{\infty}{a_ix_i \cdot f \left(x_1,x_2, \cdots ,x_n\right)d\boldsymbol{x}}} \end{align} 同時確率密度関数の性質より、 \begin{align} \int_{-\infty}^{\infty}{ \cdots \int_{-\infty}^{\infty}f \left(x_1,x_2, \cdots ,x_n\right)d\boldsymbol{x}}=1 \end{align} したがって、 \begin{align} E \left(a_1X_1+ \cdots +a_nX_n+b\right)=a_1E \left(X_1\right)+ \cdots +a_nE \left(X_n\right)+b \end{align} $\blacksquare$

（v-a）離散型の場合 \begin{align} E \left(X_1X_2 \cdots X_n\right)=\sum_{-\infty}^{\infty}{ \cdots \sum_{-\infty}^{\infty}{ \left(x_1x_2 \cdots x_n\right) \cdot f \left(x_1,x_2, \cdots ,x_n\right)}} \end{align} 確率変数の独立性の定義 $f \left(x_1,x_2, \cdots ,x_n\right)=f \left(x_1\right) \cdot f \left(x_2\right) \cdots f \left(x_n\right)$ より、 \begin{align} E \left(X_1X_2 \cdots X_n\right)&=\sum_{-\infty}^{\infty}{ \cdots \sum_{-\infty}^{\infty}{ \left(x_1x_2 \cdots x_n\right) \cdot f \left(x_1\right) \cdot f \left(x_2\right) \cdots f \left(x_n\right)}}\\ &= \left\{\sum_{-\infty}^{\infty}{x_1 \cdot f \left(x_1\right)}\right\} \left\{\sum_{-\infty}^{\infty}{x_2 \cdot f \left(x_2\right)}\right\} \cdots \left\{\sum_{-\infty}^{\infty}{x_n \cdot f \left(x_n\right)}\right\} \end{align} 期待値の定義式 $E \left(X\right)=\sum_{x=-\infty}^{\infty}{x \cdot f \left(x\right)}$ より、 \begin{align} E \left(X_1X_2 \cdots X_n\right)=E \left(X_1\right)E \left(X_2\right) \cdots E \left(X_n\right) \end{align}

（v-b）連続型の場合 \begin{align} E \left(X_1X_2 \cdots X_n\right)=\int_{-\infty}^{\infty}{ \cdots \int_{-\infty}^{\infty}{ \left(x_1x_2 \cdots x_n\right) \cdot f \left(x_1,x_2, \cdots ,x_n\right)d\boldsymbol{x}}} \end{align} 確率変数の独立性の定義 $f \left(x_1,x_2, \cdots ,x_n\right)=f \left(x_1\right) \cdot f \left(x_2\right) \cdots f \left(x_n\right)$ より、 \begin{align} E \left(X_1X_2 \cdots X_n\right)&=\int_{-\infty}^{\infty}{ \cdots \int_{-\infty}^{\infty}{ \left(x_1x_2 \cdots x_n\right) \cdot f \left(x_1\right) \cdot f \left(x_2\right) \cdots f \left(x_n\right)d\boldsymbol{x}}}\\ &= \left\{\int_{-\infty}^{\infty}{x_1 \cdot f \left(x_1\right)dx_1}\right\} \left\{\int_{-\infty}^{\infty}{x_2 \cdot f \left(x_2\right)dx_2}\right\} \cdots \left\{\int_{-\infty}^{\infty}{x_n \cdot f \left(x_n\right)dx_n}\right\} \end{align} 期待値の定義式 $E \left(X\right)=\sum_{x=-\infty}^{\infty}{x \cdot f \left(x\right)}$ より、 \begin{align} E \left(X_1X_2 \cdots X_n\right)=E \left(X_1\right)E \left(X_2\right) \cdots E \left(X_n\right) \end{align} $\blacksquare$

（vi-a）離散型の場合
期待値の定義式 $E \left(X\right)=\sum_{x=0}^{\infty}{x \cdot f \left(x\right)}$ を、$Σ$ 記号を用いずに表すと、 \begin{align} E \left(X\right)&=0 \cdot f \left(0\right)+1 \cdot f \left(1\right)+2 \cdot f \left(2\right)+3 \cdot f \left(3\right)+4 \cdot f \left(4\right)+5 \cdot f \left(5\right)+ \cdots \\ &= \left\{f \left(1\right)+f \left(2\right)+f \left(3\right)+ \cdots \right\}+ \left\{f \left(2\right)+f \left(3\right)+f \left(4\right)+ \cdots \right\}+ \left\{f \left(3\right)+f \left(4\right)+f \left(5\right)+ \cdots \right\} \end{align} 累積確率の定義式 $P \left(x \le X\right)=\sum_{t=x}^{\infty}f \left(t\right)$ より、 \begin{align} E \left(X\right)&=P \left(1 \le X\right)+P \left(2 \le X\right)+P \left(3 \le X\right)+ \cdots \\ &=\sum_{x=0}^{\infty}P \left(x \le X\right) \end{align}

（vi-b）連続型の場合
期待値の定義式 $E \left(X\right)=\int_{-\infty}^{\infty}{x \cdot f \left(x\right)dx}$ より、 \begin{align} E \left(X\right)=\int_{0}^{\infty}{x \cdot f \left(x\right)dx}\tag{1} \end{align} ここで、$S=\int_{0}^{s}{x \cdot f \left(x\right)dx}$ として、部分積分法を用いると、 \begin{align} S&= \left[x \cdot F \left(x\right)\right]_0^s-\int_{0}^{s}F \left(x\right)dx\\ &=s \cdot F \left(s\right)-\int_{0}^{s}F \left(x\right)dx\\ &=-s \left\{1-F \left(s\right)\right\}+\int_{0}^{s} \left\{1-F \left(s\right)\right\}dx\tag{2} \end{align} ここで、 \begin{align} s \left\{1-F \left(s\right)\right\}=s\int_{s}^{\infty}f \left(x\right)dx \le \int_{s}^{\infty}{x \cdot f \left(x\right)dx} \end{align} $s\rightarrow\infty$ のときの極限を取ると、 \begin{align} \lim_{s\rightarrow\infty}{\int_{s}^{\infty}{x \cdot f \left(x\right)dx}}=0 \end{align} 確率の公理より、$0 \le s\int_{s}^{\infty}f \left(x\right)dx$ なので、はさみうちの原理により、 \begin{align} \lim_{s\rightarrow\infty}{s\int_{s}^{\infty}f \left(x\right)dx}=0\tag{3} \end{align} したがって、式 $(1) \sim \left(3\right)$ より、 \begin{align} E \left(X\right)=\int_{0}^{\infty} \left\{1-F \left(x\right)\right\}dx \end{align} $\blacksquare$