Теорема об асимптотической нормальности и эффективности оценок максимального правдоподобия

1. Оценка максимального правдоподобия º является состоятельной оценкой параметра q; т.е. º q.

2. При определённых условиях оценка максимального правдоподобия является асимптотически нормальной и эффективной.

Теорема 3.3.

Пусть функция правдоподобия L (x;q)

а) дважды дифференцируема по параметру q и

б) математическое ожидание от функции вклада равно нулю M[U(X;q)=0],

в) кроме того –M .

 

Тогда оценка максимального правдоподобия стремится к случайной величине

~N

(дисперсия совпадает с дисперсией эффективной оценки). Здесь q₀ - истинное значение оцениваемого параметра.

Доказательство: Доказательство свойства асимптотической нормальности оценки МП (если рассматривать скалярный параметр) основывается на разложении функции вклада U_n(q)=U_n(;q) в ряд Маклорена относительно истинного значения параметра q₀.

Поскольку состоятельная оценка параметра q, то при достаточно большом объёме выборки (n>>1), она будет близка к истинному значению q₀. Поэтому функция вклада может быть представлена в виде ряда Маклорена в окрестности точки q₀.

 

,

где Î(;q₀)

В силу состоятельности оценки и условий теоремы первая дробь равна 0. Поэтому

.

Левую и правую часть умножим на R(q₀)

.

Вклад выборки определяется по формуле

 

U(X;q)= = .

Рассмотрим знаменатель дроби:

в силу закона больших чисел, если элементы выборки независимы

n®¥ в виду состоятельности оценки.

Таким образом, знаменатель дроби стремится к 1.

Рассмотрим числитель дроби.

К случайной величине

применима центральная предельная теорема, по которой и с учётом соотношений:

,

i(q)= при n®¥

R(q₀)( -q₀)®h~N(0,1).

Сама оценка ® =g, так как g – линейная функция h.

 

Вопрос