Матрица для нахождения условной вероятности

y₁ y₂

Найдем полную условную энтропию системы y относительно x

График функции имеет следующий вид:

Наибольшее значение эта функция принимает

при p=0 (то есть при отсутствии помех)

и при p=1 (то есть при негативной передаче).

При p=1/2 пропускная способность минимальна.

Рис.3.3. График функции С=f(p)

Пример 3.2. Рассмотрим более общий случай передачи по дискретному каналу. Найдем пропускную способность m-ичного канала связи.

Рис.3.4. m-ичный канал передачи информации

На рис. 3.4 представлена модель передачи m-ичных сигналов, где x₁,х₂,…,х_m источники информации, y₁,y₂,…,y_m приемники информации.

Вероятность ошибки - p. Вероятность безошибочной передачи сигналов равняется 1- p, а в случае ошибки переданный сигнал может с одинаковой вероятностью (равной )быть воспринятым как любой из m-1 отличных от него сигналов.

Матрица условных вероятностей имеет вид