Информационные характеристики дискретных каналов связи

4.3.1 Модели дискретных каналов [1, 4, 5 и др.].

Дискретным каналом называют совокупность средств, предназначенных для передачи дискретных сигналов. Такие каналы широко используются, например, при передачи данных, в телеграфии, радиолокации.

Дискретные сообщения, состоящие из последовательности знаков алфавита источника сообщений (первичного алфавита) z₁, z₂, …, z _l, преобразуются в кодирующем устройстве в последовательность символов. Объем m алфавита символов (вторичного алфавита) u₁, u₂, …, u_m, как правило, меньше объема l алфавита знаков, но они могут и совпадать.

Материальным воплощением символа является элементарный сигнал, получаемый в процессе манипуляции – дискретного изменения определенного параметра переносчика информации. Элементарные сигналы формируются с учетом физических ограничений, накладываемых конкретной линией связи. В результате манипуляции каждой последовательности символов ставится в соответствии сложный сигнал. Множество сложных сигналов конечно. Они различаются числом, составом и взаимным расположением элементарных сигналов.

Термины «элементарный сигнал» и «символ», так же как «сложный сигнал» и «последовательность символов», в дальнейшем будут использоваться как синонимы.

Информационная модель канала с помехами задается множеством символов на его входе и выходе и описанием вероятностных свойств передачи символов. В общем случае канал может иметь множество состояний и переходить из одного состояния в другое как с течением времени, так и в зависимости от последовательности передаваемых символов.

В каждом состоянии канал характеризуется матрицей условных вероятностей p(s_i/z_i) того, что переданный символ z_i будет воспринят на выходе как символ s_i. Значения вероятностей в реальных каналах зависят от многих различных факторов: свойств сигналов, являющихся физическими носителями символов (энергия, вид модуляции и т.д.), характер и интенсивность воздействующих на канал помех, способа определения сигнала на приемной стороне.

При наличии зависимости переходных вероятностей канала от времени, что характерно для всех реальных каналов, он называется нестационарным каналом связи. Если эта зависимость несущественна, используется модель в виде стационарного канала, переходные вероятности которого не зависят от времени. Нестационарный канал может быть представлен рядом стационарных каналов, соответствующих различным интервалам времени.

Канал называется с «памятью» (с последействием), если переходные вероятности в данном состоянии канала зависят от его предыдущих состояний. Если переходные вероятности постоянны, т.е. канал имеет только одно состояние, он называется стационарным каналом без памяти. Под k -ичным каналом подразумевается канал связи, у которого число различных символов на входе и выходе одинаково и равно k.

Стационарный дискретный двоичный канал без памяти однозначно определяется четырьмя условными вероятностями: p(0/0), p(1/0), p(0/1), p(1/1). Такую модель канала принято изображать в виде графа, представленного на рис. 4.1. где p(0/0) и p(1/1) – вероятности неискаженной передачи символов, а p(0/1) и p(1/0) – вероятности искажения (трансформация) символов 0 и 1 соответственно.

Граф – модель стационарного двоичного канала без памяти

Если вероятности искажения символов можно принять равными, т.е. p(0/1)≈ p(1/0)=q, то такой канал называют двоичным симметричным каналом [при p(0/1)≠ p(1/0) канала называется несимметричным]. Символы на его выходе правильно принимают с вероятностью p и неправильно – с вероятностью 1-p=q. Математическая модель упрощается.

Именно этот канал исследовался наиболее интенсивно не столько в силу своей практической значимости (многие реальные каналы описываются им весьма приближенно), сколько в силу простоты математического описания.

Важнейшие результаты, полученные для двоичного симметричного канала, распространены на более широкие классы каналов.

Следует отметить еще одну модель канала, которая в последнее время приобретает все большее значение. Это дискретный канал со стиранием. Для него характерно, что алфавит выходных символов отличается от алфавита входных сигналов. На входе, как и ранее, символы 0 и 1, а на выходе канала фиксируются состояния, при которых сигнал с равным основанием может быть отнесен как к единице, так и к нулю. На месте такого символа не ставится ни нуль, ни единица: состояние отмечается дополнительным символом стирания S. При декодировании значительно легче исправить такие символы, чем ошибочно определенные.

На рис. 4.2. приведены модели стирающего канала при отсутствии (рис. 4.2, а) и при наличии (рис. 4.2, б) трансформации символов.

Граф-модель стационарного двоичного канала без памяти со стиранием.

 

4.3.2 Скорость передачи информации по дискретному каналу [1 и др.].

Характеризуя дискретный канал связи, используют два понятия скорости передачи: технической и информационной.

Под технической скорости передачи V_T, называемой также скоростью манипуляции, подразумевают число элементарных сигналов (символов), передаваемых по каналу в единицу времени. Она зависит от свойств линии связи и быстродействия аппаратуры канала.

С учетом возможных различий в длительностях символов скорость

(4.8)

где τ _ср – среднее значение длительности символа.

При одинаковой продолжительности τ всех передаваемых символов τ _ср=τ;.

Единицей измерения технической скорости служит бод – скорость, при которой за одну секунду передается один символ.

Информационная скорость или скорость передачи информации, определяется средним количеством информации, которое передается по каналу в единицу времени. Она зависит как от характеристик данного канала связи, таких, как объем алфавита используемых символов, техническая скорость их передачи, статистические свойства помех в линии, так и от вероятностей поступающих на вход символов и их статистической взаимосвязи.

Если по каналу передается z_k символов в единицу времени, т.е. техническая скорость равна V_T, а среднее количество информации на один символ канала равно J(Z, S), то скорость передачи информации по каналу R_k задается соотношением

(4.9)

где J(Z, S) – среднее количество информации, переносимое одним символом.

 

4.3.3 Пропускная способность дискретного канала без помех [1 и др.].

Для теории и практики важно выяснить, до какого предела и каким путем можно повысить скорость передачи информации по конкретному каналу связи. Предельные возможности канала по передаче информации характеризуется его пропускной способностью.

Пропускная способность канала С_д равна той максимальной скорости передачи информации по данному каналу, которой можно достигнуть при самых совершенных способах передачи и приема:

(4.10)

При заданном алфавите символов и фиксированных характеристиках канала (например, полосе частот, средней и пиковой мощности передатчика) остальные характеристики должны быть выбраны такими, чтобы обеспечить наибольшую скорость передачи по нему элементарных сигналов, т.е. обеспечить максимальное значение V_T. Максимум среднего количества информации, приходящейся на один символ принятого сигнала I(Z, S), определяется на множестве распределений между символами S₁, …, S_i, …, S_m.

Пропускная способность канала, как и скорость передачи информации по каналу, измеряется числом двоичных единиц информации в секунду (дв. ед./с. или бит./с.).

Так как в отсутствии помех имеет место взаимно-однозначное соответствия между множеством символов {z} на выходе канала и {s} на его входе, то I(Z, S)=I(S, Z)=H(S). Максимум возможного количества информации на символ равен logm, где m – объем алфавита символов, откуда пропускная способность дискретного канала без помех

(4.11)

Следовательно, для увеличения скорости передачи информации по дискретному каналу без помех и приближения ее к пропускной способности канала последовательность букв сообщения должна подвергнутся такому преобразованию в кодере, при котором различные символы в его выходной последовательности появлялись бы по возможности равновероятно, а статистические связи между ними отсутствовали бы.

Доказано (см [9], §5.4), что это выполнимо для любой эргодической последовательности букв, если кодирование осуществлять блоками такой длины, при которой справедлива теорема об их асимптотической равновероятности.

Расширение объема алфавита символов m приводит к повышению пропускной способности канала (рис. 4.3.), однако возрастает и сложность технической реализации.

График изменения С_Д=φ (m), где m – объем алфавита символов передачи.

 

4.3.4 Пропускная способность дискретного канала с помехами [1 и др.].

При наличии помех соответствие между множествами символов на входе и выходе канала связи перестает быть однозначным. Среднее количество информации I(S, Z), передаваемое по каналу одним символом, определяется в этом случае соотношением

(4.12)

Если статистические связи между символами отсутствуют, энтропия сигнала на выходе линии связи равна

(4.13)

При наличии статистической связи энтропию определяют с использованием цепей Маркова. Поскольку алгоритм такого определения ясен и нет необходимости усложнять изложение громоздкими формулами, ограничимся здесь только случаем отсутствия связей.

Апостериорная энтропия характеризует уменьшение количества переданной информации вследствие возникновения ошибок. Она зависит как от статистических свойств последовательностей символов, поступающих на вход канала связи, так и от совокупности переходных вероятностей, отражающих вредное действие помехи.

Если объем алфавита входных символов Z равен m₁, а выходных символов S – m₂, то

(4.14)

Подставив выражения (4.13) и (4.14) в (4.12) и проведя несложные преобразования, получим среднее количество информации

(4.15)

Скорость передачи информации по каналу с помехами

(4.16)

Считая скорость манипуляции V_T предельно допустимой при заданных технических характеристиках канала, величину I(S, Z) можно максимизировать, изменяя статистические свойства последовательностей символов на входе канала посредством преобразователя (кодера канала). Получаемое при этом предельное значение C_Д скорости передачи информации по каналу называют пропускной способностью дискретного канала связи с помехами:

(4.17)

где p(z) – множества возможных распределений вероятностей входных сигналов.

Важно подчеркнуть, что при наличии помех пропускная способность канала определяет наибольшее количество информации в единицу времени, которое может быть передано со сколь угодно малой вероятностью ошибки.

Показано [6], что к пропускной способности канала связи с помехами можно приблизиться, кодируя эргодическую последовательность букв источника сообщений блоками такой длины, при которой справедлива теорема об асимптотической равновероятности длинных последовательностей.

Произвольно малая вероятность ошибки оказывается достижимой только в пределе, когда длина блоков становится бесконечной.

При удлинении кодируемых блоков возрастает сложность технической реализации кодирующих и декодирующих устройств и задержка в передаче сообщений, обусловленная необходимостью накопления требуемого числа букв в блоке. В рамках допустимых усложнений на практике при кодировании могут преследоваться две цели: либо при заданной скорости передачи информации стремятся обеспечить минимальную ошибку, либо при заданной достоверности – скорости передачи, приближающуюся к пропускной способности канала.

Предельные возможности канала никогда не используются полностью. Степень его загрузки характеризуется коэффициентом использования канала

, (4.18)

где R_u(Z) – производительность источника сообщений; С_Д – пропускная способность канала связи.

Поскольку нормальное функционирование канала возможно, как показано далее, при изменении производительности источника в пределах 0≤ R_u(Z)≤ С_Д, λ теоретически может изменятся в пределахот 0 до 1.

Пример 4.4 Определить пропускную способность двоичного симметричного канала (ДСК) со скоростью манипуляции V_T в предположении независимости передаваемых символов.

Запишем соотношение (4.14) в следующем виде:

Воспользовавшись обозначениями на графе (рис. 4.4), можем записать

Так как p(0) + p(1) =1, то

Величина H(Z|S) не зависит от вероятностей входных символов, что является следствием симметрии канала.

Следовательно, пропускная способность

Максимум H(Z) достигается при равенстве вероятностей появления символов, он равен 1. Отсюда

(4.19)

График зависимости пропускной способности ДСК от p показан на рис. 4.5. При увеличении вероятности трансформации символа с 0 до ½ С_Д(p) уменьшится от 1 до 0. Если p=0, то шум в канале отсутствует и его пропускная способность равна 1. При p=1/2 канал бесполезен, так как значения символов на приемной стороне с равным успехом можно устанавливать по результатам подбрасывания монеты (герб – 1, решетка – 0). Пропускная способность канала при этом равна нулю.