有効推定量について
概要
- 不偏推定量のうち、クラメールラオの下限に到達したものを
有効推定量
という
正確な導出をスキップして理解する
\(\theta\)が求めたいパラメータのとき、真の値と推定値をバイアスバリアンス分解して展開しても有効推定量でなければ、残りとして分散の誤差項が残ってしまう
\[E[(\hat{\theta}-\theta)^2]=(E[\hat{\theta}]-\theta)^2+V[\hat{\theta}]=V[\hat{\theta}]\]ここでクラメールラオの不等式より下限が提示される
\[V[\hat{\theta}]\geq\dfrac{1}{nE\left[\left(\dfrac{\partial}{\partial\theta}\log p(x\mid\theta)\right)^2\right]}\]このクラメールラオの確率密度関数を対数をとって対象のパラメータで微分して期待値を計算すれば、有効推定量である
参考
- 有効推定量の定義と例
- 具体例できれいに計算しているので必見