目次（まとめ）
◾️ ベータ・2項分布とは、ベータ分布と 2項分布からなる階層モデルに対する混合分布
◾️ 混合分布の平均や分散は、条件付き期待値の関係や条件付き分散公式を用いて計算できる
◾️ 参考文献
こんにちは、みっちゃんです。
以前の記事で、「ガンマ分布」と「ポアソン分布」からなる階層モデル、混合分布について紹介しました。
今回の記事では、階層モデルの例として、連続分布の「ベータ分布」と離散分布の「2項分布」からなる階層モデルを取り上げ、混合分布の平均や分散を求める方法について解説します。
ベータ・2項分布とは、ベータ分布と 2項分布からなる階層モデルに対する混合分布
ベータ分布は、以下のような確率密度関数で表現される連続分布です（詳細はこちらの記事をご覧ください）。
$$f_X(x | a, b) = \frac{1}{B(a, b)} x^{a-1} (1-x)^{b-1}$$
ベータ分布は、一般に、2つのパラメータ \(a\) と \(b\) を使って、\(Beta(a, b)\) と表現され、その平均は \(\frac{a}{a + b}\)、分散は \(\frac{ab}{(a + b)^2 (a + b + 1)}\) となります。
一方、2項分布は、以下のような確率関数で表現される離散分布です（詳細はこちらの記事をご覧ください）。
$$P(Y = k | n, p) = {}_n \mathrm{C}_k p^k (1-p)^{n-k} \qquad (k = 0, 1, 2, …, n)$$
2項分布は、一般に、試行回数 \(n\) と成功確率 \(p\) を使って、\(Bin(n, p)\) と表現され、その平均は \(np\)、分散も \(np(1-p)\) となります。
ここでは、以下のような階層モデルを考えます。
$$X | Y = y \sim Bin (n, Y) \qquad \qquad (1)$$
$$Y \sim Beta(\alpha, \beta)\qquad \qquad (2)$$
この階層モデルが意味するのは、確率変数 \(Y\) はベータ分布にしたがい、確率変数 \(Y\) の値 \(y\) は確率変数 \(Y\) を成功確率とする2項分布にしたがうということです。つまり、1つ1つの値 \(y\) は2項分布にしたがうけれども、\(Y\) 全体としてはベータ分布にしたがうというようなイメージです。
この階層モデルに対する確率変数 \(X\) の周辺確率関数は、以下のように与えられます。
$$f_X (x) = {}_n \mathrm{C}_x \frac{B(x + \alpha, n - x + \beta)}{B(\alpha, \beta)} \qquad (x = 0, 1, 2, …, n)$$
混合分布の平均や分散は、条件付き期待値の関係や条件付き分散公式を用いて計算できる
混合分布の平均や分散を計算するためには、条件付き期待値の関係や条件付き分散公式を使うことが有効です。
条件付き期待値の関係
$$E[X] = E[E[X|Y]]$$
条件付き分散公式
$${\rm Var}(X) = E[{\rm Var}(X|Y)] + {\rm Var}(E[X|Y])$$
例えば、ベータ・2項分布について、確率変数 \(X\) の平均（期待値）\(E[X]\) を算出する際には、まず \(E[X|Y]\) を考えます。
(1)式より、\(X|Y\) は2項分布 \(Bin (n, Y)\) にしたがうので、その平均 \(E[X|Y]\) は \(nY\) になります。
したがって、\(E[E[X|Y]] = E[nY] = nE[Y]\) となり、(2)式よりベータ分布 \(Beta(\alpha, \beta)\) の平均 \(\frac{\alpha}{\alpha + \beta}\) に \(n\) をかけた \(\frac{n \alpha}{\alpha + \beta}\) が確率変数 \(X\) の平均になります。
また、確率変数 \(X\) の分散は、条件付き分散公式をつかって求めます。
$${\rm Var}(X) = E[{\rm Var}(X|Y)] + {\rm Var}(E[X|Y])$$
$$\qquad = E[nY(1-Y)] + {\rm Var}(nY)$$
$$\qquad = nE[Y] - nE[Y^2] + n^2{\rm Var}(Y)$$
ここで、\(E[Y^2] = Var(Y) + (E[Y])^2\) という関係をつかって式を変形すると、\(\frac{n \alpha \beta (\alpha + \beta + n)}{(\alpha + \beta)^2 (\alpha + \beta + 1)}\) が確率変数 \(X\) の分散になります。
参考文献
久保川達也「現代数理統計学の基礎」共立出版
