目次（まとめ）
◾️ モーメント法では、原点まわりのモーメントを使って推定する
◾️ モーメント法による点推定を「正規分布」を例に解説
◾️ 参考文献
こんにちは、みっちゃんです。
今回の記事では、母集団のパラメータを標本から推定する「点推定」の手法の1つである「モーメント法」について紹介します。
モーメント法では、原点まわりのモーメントを使って推定する
確率変数 \(X\) がパラメトリック・モデル \(f(x | \theta_1, \theta_2, ...., \theta_k)\) にしたがうとき、以前の記事で紹介した「原点まわりのk次積率（モーメント）」を以下のように表現します。
$$E[X^k] = \mu'_k (\theta_1, \theta_2, ...., \theta_k)$$
ここで考えるのは、確率変数 \(X\) がしたがう確率分布はわかっているがパラメータはわかっていない「パラメトリック・モデル」について、パラメータを標本である確率変数 \(X\) から予測することです。
例えば、確率変数 \(X\) がしたがう確率分布が「正規分布」であることがわかっていて、そのパラメータを推定したい場合には、\(\theta_1\) と \(\theta_2\)、つまり、\(\mu\) と \(\sigma^2\) の2つのパラメータを推定すればいいわけです。
したがって、以下のように「原点まわりの1次積率」と「原点まわりの2次積率」を考えることになります。
$$E[X^1] = \mu'_1 (\theta_1, \theta_2) = \mu'_1 (\mu, \sigma^2)$$
$$E[X^2] = \mu'_2 (\theta_1, \theta_2) = \mu'_2 (\mu, \sigma^2)$$
モーメント法による点推定を「正規分布」を例に解説
ここでは正規分布を例にして説明するため、まず正規分布の積率母関数を考えます。
$$M_X(t) = {\rm exp} \{\mu t + \frac{\sigma^2 t^2}{2}\}$$
この式を \(t\) で一回微分すると、以下のようになります。
$$M_X^{(1)}(t) = (\mu + \sigma^2 t){\rm exp} \{\mu t + \frac{\sigma^2 t^2}{2}\}$$
さらに、\(t\) で一回微分すると、以下のようになります。
$$M_X^{(2)}(t) = \sigma^2 {\rm exp} \{\mu t + \frac{\sigma^2 t^2}{2}\} + (\mu + \sigma^2 t)^2 {\rm exp} \{\mu t + \frac{\sigma^2 t^2}{2}\}$$
ここで、\(t = 0\) を考えると、以下のように原点まわりの1次積率 \(E[X^1]\)、原点まわりの2次積率 \(E[X^2]\) が得られます。
$$M_X^{(1)}(0) = \mu\quad(= E[X^1])$$
$$M_X^{(2)}(0) = \sigma^2 + \mu^2\quad(= E[X^2])$$
この2つの式から、\(\mu\) と \(\sigma^2\) の推定値 \(\hat{\mu}\) と \(\hat{\sigma^2}\) は以下のように得ることができます。
$$\hat{\mu} = E[X^1] = \overline{X}$$
$$\hat{\sigma^2} = E[X^2] - \mu^2 = E[X^2] - E[X^1]^2 = S^2$$
以前の記事で紹介したように、正規分布にしたがう母集団から取り出した標本について、標本平均 \(\overline{X}\) と標本分散 \(S^2\) は以下のようになることがわかっています。
標本平均 \(\overline{X}\)
$$\overline{X} = \frac{1}{n} \sum_{i = 1}^{n}X_i$$
標本分散 \(S^2\)
$$S^2 = \frac{1}{n} \sum_{i = 1}^{n} (X_i - \overline{X})^2$$
つまり、モーメント法による点推定により、適切なパラメータを予測できていることがわかります。
参考文献
久保川達也「現代数理統計学の基礎」共立出版
