Информационная емкость двоичного симметричного канала со стиранием
Модель ДСК со стиранием описывается графом на рис. 3.2. Поскольку независимо от входного состояния условные вероятности выходных состояний образуют один и тот же набор При прежнем обозначении
Обозначим
Прибавляя и вычитая в правой части последнего соотношения величину
В последнем выражении от При равновероятных входных символах условная энтропия выхода относительно входа определяется в виде
Тогда информационной емкостью канала будет
|
(канал симметричен), условная энтропия 
вновь не зависит от входной статистики и потому максимизация средней взаимной информации между входом и выходом опять сводится к максимизации безусловной энтропии на выходе 
.
вероятности нулевого символа на входе, безусловные вероятности выходных символов выразятся как
. (4.5)
. Тогда из (4.5) 
, и безусловная энтропия на выходе
, получим
в первом слагаемом. Поскольку максимум энтропии двоичного ансамбля достигается при вероятности одного из состояний, равной 1/2, для максимизации 
, что как видно из (4.5), означает 
, т.е. равновероятность входных символов.
.
. (4.6)
