Другие меры информации

Пример 25. Случайная величина имеет нормальное распределение с известным среднеквадратическим отклонением . Вычислить I (1: 2), I (2: 1), J (1, 2) для следующих гипотез о математическом ожидании этой величины:

H₁: m = m ₁,

H₂: m = m ₂.

Решение. Запишем плотности вероятности случайной величины , соответствующие каждой из гипотез:

,

.

По формуле (4.43) [1] находим информацию для различения в пользу Н₁ против Н₂, содержащуюся в выборочном значении (в этой задаче удобнее использовать натуральные единицы информации):

По формуле (4.44) [1] находим среднюю информацию для различения в пользу Н₁ против Н₂

Далее учтем, что при гипотезе Н₁ математическое ожидание , и получим окончательно

.

По формулам (4.45) и (4.46) [1] находим

.

Таким образом, средняя информация для различения гипотез Н₁, и Н₂ в данной задаче пропорциональна квадрату расстояния между математическими ожиданиями сигнала и обратно пропорциональна его дисперсии.

Пример 26. Случайная величина Y имеет экспоненциальное распределение

.

а) Найти максимально правдоподобную оценку математического ожидания m этой случайной величины.

б) Найти статистические характеристики (математическое ожидание и дисперсию) этой оценки.

д) Найти информацию Фишера и по неравенству Рао-Кра­мера проверить сделанное заключение об эффективности оценки.

Решение. Запишем уравнение правдоподобия

Отсюда , т.е. максимально правдоподобная оценка математического ожидания равна наблюдаемому выборочному значению .

Далее находим математическое ожидание оценки

.

Таким образом, оценка является несмещенной.

Дисперсию оценки вычисляем по

.

Информацию Фишера находим по формуле (4.48) [1]

Видим, что неравенство Рао-Крамера (4.49) [1] обращается в равенство, следовательно, оценка эффективна. Лучшей оценки, т.е. обладающей меньшей дисперсией при отсутствии систематической ошибки, не существует.