Заданы ансамбли
и
двух дискретных случайных величин. В верхней строке указаны значения случайных величин; в нижней строке вероятности появления этих значений.
,
.
Сравнить их энтропии.
Задача 17
Определить энтропии
,
,
,
, если задана матрица вероятностей состояний системы объединяющей источники
и
:
.
Задача 18
Известны энтропии двух зависимых источников:
,
Определить, в каких пределах будет изменяться условная вероятность
при изменении
в максимально возможных пределах.
Задача 19
Выстрел из орудия не поражает цель с вероятностью
. Через какое число выстрелов следует поинтересоваться у разведчика-корректировщика, уничтожена ли цель, чтобы в результате ответа получить максимальное количество информации?
Задача 20
Определить среднее количество информации, получаемое при передаче элемента сообщения по каналу, описанному матрицей совместных вероятностей передачи и приёма элементов сообщения
.
Задача 21
Определить, является ли эргодическим стационарный источник сообщений, алфавит которого состоит из четырёх знаков
и
, причём безусловные вероятности выбора знаков одинаковы:
, а условные вероятности
заданы в таблице З.3.
Таблица З.3. – Распределение условных вероятностей