目次（まとめ）

◾️ 母集団のパラメータを推定する方法は、無限に存在します

◾️ 不偏性は、推定量が平均的に真のパラメータの周りに分布しているかを示す

◾️ 参考文献


こんにちは、みっちゃんです。

今回の記事では、母集団のパラメータの推定量の良さを評価する基準である「不偏性」について紹介します。

母集団のパラメータを推定する方法は、無限に存在します

これまでの記事において、母集団がしたがう確率分布のパラメータを推定するための「点推定」について、以下に示す3つの手法を紹介しました。

□ モーメント法（詳しくはこちら）
□ 最尤法（詳しくはこちら）
□ ベイズ法（詳しくはこちら）

例えば、正規分布 \(N(\mu, \sigma^2)\) にしたがう母集団から取り出した \(n\) 個の標本から、\(\mu\) と \(\sigma^2\) の推定値 \(\hat{\mu}\) と \(\hat{\sigma^2}\) は以下のように得ることができます。
$$\hat{\mu} = \frac{1}{n} \sum_{i = 1}^{n} X_i = \overline{X}$$
$$\hat{\sigma^2} = \frac{1}{n} \sum_{i = 1}^{n} (X_i - \overline{X})^2$$

このように、当たり前ですが、標本の情報から母集団のパラメータを推定しようとする限り、パラメータの推定量は、標本の関数になります。

したがって、標本の情報の使い方によって、得られる推定量は無限に考えることができ、本ブログで紹介している「モーメント法」「最尤法」「ベイズ法」は、あくまで代表的な推定方法ということになります。

不偏性は、推定量が平均的に真のパラメータの周りに分布しているかを示す

"不偏" とは、英語で "unbiased" と訳され、"バイアスがない" という意味です。

いま、推定量 \({\hat \theta}\) のバイアスを以下のように定義します。
$${\rm Bias} ({\hat \theta}) = E_{\theta} [{\hat \theta} ({\bf X})] - \theta$$
ここで、\(E_{\theta} [{\hat \theta} ({\bf X})]\) は、標本 \({\bf X}\) から推定した推定量 \({\hat \theta} ({\bf X})\) の期待値を示しています。

\({\rm Bias} ({\hat \theta}) = 0\) となれば、推定量 \({\hat \theta}\) が、"バイアスがない" つまり "不偏性のある" 推定値であることを意味します。

したがって、基本的には、\({\rm Bias} ({\hat \theta})\) ができるだけ小さくなる推定量が、良い推定量ということになります。

参考文献

久保川達也「現代数理統計学の基礎」共立出版