期待値のTower propertyについて、離散と連続を対応させて書くと、次のようになります。

離散の場合

$$\mathbb E\{\mathbb E\{Y\mid X\}\} = \sum_x \mathbb E\{Y\mid X=x\}\,\Pr\{X=x\}$$ ここで、 $$\mathbb E\{Y\mid X=x\} = \sum_y y\,\Pr\{Y=y\mid X=x\}$$ なので、 $$\begin{aligned} \mathbb E\{\mathbb E\{Y\mid X\}\} &= \sum_x \left[ \sum_y y\,\Pr\{Y=y\mid X=x\} \right] \Pr\{X=x\} \\ &= \sum_x\sum_y y\,\Pr\{Y=y\mid X=x\}\Pr\{X=x\} \\ &= \sum_x\sum_y y\,\Pr\{X=x,Y=y\} \\ &= \mathbb E\{Y\}. \end{aligned}$$ 最後の変形は、 $$\Pr\{Y=y\mid X=x\}\Pr\{X=x\}=\Pr\{X=x,Y=y\}$$ を使っています。

連続の場合

$$\mathbb E\{\mathbb E\{Y\mid X\}\} = \int_{-\infty}^{\infty} \mathbb E\{Y\mid X=x\}\,f_X(x)\,dx$$ ここで、 $$\mathbb E\{Y\mid X=x\}= \int_{-\infty}^{\infty} y\,f_{Y\mid X=x}(y)\,dy$$ なので、 $$\begin{aligned} \mathbb E\{\mathbb E\{Y\mid X\}\} &= \int_{-\infty}^{\infty} \left[ \int_{-\infty}^{\infty} y\,f_{Y\mid X=x}(y)\,dy \right] f_X(x)\,dx \\ &= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} y\,f_{Y\mid X=x}(y)f_X(x)\,dy\,dx \\ &= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} y\,f_{X,Y}(x,y)\,dy\,dx \\ &= \mathbb E\{Y\}. \end{aligned}$$ 最後の変形は、 $$f_{Y\mid X=x}(y)f_X(x)=f_{X,Y}(x,y)$$ を使っています。

対応表

$$\begin{array}{c|c} \text{離散} & \text{連続} \\ \hline \sum_x & \int dx \\ \Pr\{X=x\} & f_X(x)\,dx \\ \Pr\{Y=y\mid X=x\} & f_{Y\mid X=x}(y)\,dy \\ \Pr\{X=x,Y=y\} & f_{X,Y}(x,y)\,dx\,dy \\ \sum_x\sum_y y\,\Pr\{X=x,Y=y\} & \int\int y\,f_{X,Y}(x,y),dy\,dx \end{array}$$ $f_X(x)$が確率密度であって確率でない理由は、離散の場合の $$\Pr\{X=x\}$$ に対応する連続の場合の量は、 $$f_X(x)\,dx$$ です。 したがって、連続の場合に式の中で $f_X(x)$ が出てくるのは、積分記号の $dx$ と一緒になって $$f_X(x)\,dx$$ という確率要素を作っているからです。

前のブログ 次のブログ