ТЕМА 2. Оценки параметров распределений. Несмещенные и состоятельные оценки. Эмпирическое среднее и эмпирическая дисперсия, их свойства

Часто распределение случайной величины зависит от одного или нескольких параметров. Например, если ξ имеет распределение Пуассона с параметром λ > 0, то при всех m =0, 1… выполняется равенство . Меняя λ, мы будем получать различные распределения Пуассона. Если же случайная величина ξ имеет нормальное распределение с параметрами a и σ, то ее плотность задается равенством .

Часто бывает, что вид распределения известен, а неизвестны только параметры. Возникает задача оценки неизвестного параметра на основе опытных данных. Неизвестный параметр в математической статистике принято обозначать греческой буквой θ.

Определение. Пусть распределение случайной величины ξ зависит от неизвестного параметра θ. Оценкой данного параметра называется измеримая функция от выборки .

Замечание. Если выборочные значения рассматривать как независимые случайные величины, имеющие то же распределение, что и генеральная совокупность ξ, то оценка также является случайной величиной.

Замечание. Если требуется подчеркнуть зависимость оценки от объема выборки n, то применяют обозначение .

Для того чтобы оценка оценивала параметр θ, она должна обладать определенными свойствами.

Определение. Оценка параметра θ называется несмещенной, если выполняется равенство . В противном случае оценка называется смещенной.

Определение. Оценка параметра θ называется асимптотически несмещенной, если выполняется равенство .

Несмещенность оценки означает, что она в среднем совпадает с оцениваемым параметром.

Рассмотрим примеры наиболее часто применяемых оценок.

Определение. Эмпирическое (выборочное) среднее обозначается и определяется равенством .

Эмпирическое среднее является оценкой математического ожидания генеральной совокупности ξ.

Определение. Эмпирическая (выборочная) дисперсия обозначается s² и определяется равенством .

Эмпирическая дисперсия является оценкой дисперсии генеральной совокупности ξ.

Теорема. Эмпирическое среднее является несмещенной оценкой математического ожидания генеральной совокупности ξ;. Эмпирическая дисперсия является смещенной, но асимптотически несмещенной оценкой дисперсии генеральной совокупности ξ.

Доказательство.

Для доказательства первого утверждения теоремы нужно проверить выполнение равенства , где . Поскольку можно рассматривать как независимые одинаково распределенные случайные величины, имеющие то же распределение, что и генеральная совокупность ξ, то справедливы соотношения

.

Имеем: , и первое утверждение теоремы доказано.

Перейдем к доказательству второго утверждения теоремы. Сначала докажем равенство . Действительно, верна цепочка равенств

, которая доказывает наше утверждение.

Теперь подсчитаем . Имеем:

. Но

(так как ).

. (Здесь, пользуясь независимостью случайных величин , мы применим равенство ). Таким образом, получаем:

.

Так как Мs²≠ σ ². то s² является смещенной оценкой Dξ =σ ². Так как , то s² является асимптотически несмещенной оценкой Dξ =σ ². Доказательство теоремы завершено.

Замечание. Из доказательства теоремы вытекает, что оценка является несмещенной оценкой дисперсии генеральной совокупности ξ.

Определение. Оценка называется исправленной эмпирической дисперсией.

Определение. Оценка параметра называется состоятельной, если выполняется условие , , что означает справедливость соотношения .

Состоятельность оценки означает, что с увеличением числа опытов она сходится по вероятности к оцениваемому параметру.

Теорема. Эмпирическое среднее является состоятельной оценкой математического ожидания генеральной совокупности ξ. Эмпирическая дисперсия S² является состоятельной оценкой дисперсии генеральной совокупности ξ.

Доказательство. Как уже отмечалось, выборочные значения можно рассматривать как независимые случайные величины, имеющие то же распределение, что и генеральная совокупность ξ. Тогда верны соотношения

.

Но по закону больших чисел имеем

, ,

и первое утверждение теоремы доказано.

Квадраты выборочных значений можно рассматривать как независимые случайные величины, имеющие то же распределение, что и квадрат генеральной совокупности ξ. Тогда справедливо условие

.

Используя равенство и закон больших чисел, получаем:

, , ,

Следовательно,

и является состоятельной оценкой дисперсии . Доказательство теоремы завершено.