Де m - кількість розрядів в кодовому слові.

 

При 0 р -36 дБ захищеність від спотворень квантування змінюється незначно, оскільки при збільшенні рівня сигналу збільшуються і спотворення квантування (за рахунок збільшення кроку). При р >0 наступає перевантаження кодера, і захищеність різко падає (рис. 1).

 

Рис.1

Коливальний характер залежності захищеності від рівня сигналу обумовлений стрибкоподібною зміною розміру кроку квантування при переході від сегменту до сегменту. Мінімальна величина захищеності нижче розрахованої по формулі (1) приблизно на 2 дБ; крім того слідує врахувати апаратурні похибки, що складають 4…5 дБ. Таким чином, мінімальну величину захищеності від спотворень квантування при нерівномірному квантуванні з характеристикою типу А в діапазоні рівнів можна оцінити так:

 

А _{кв мін} 6m – (16…17), дБ (2)

Якщо в розроблюваній ЦСП передбачені переприйоми по ТЧ, то захищеність на виході любого з каналів буде менше розрахованої по формулі (2). Звичайно вважають, що спотворення квантування, які вносяться при кожному переприйомі, некорельовані і тому сумуються по закону складання потужностей. Отже,

 

 

А _{кв мін} 6m – (16…17) – 10 lg (n +1), (3)

 

де n – кількість переприйомів по ТЧ.

Звідси слідує формула для визначення кількості розрядів в кодовому слові

 

, (4)

де символ Ц означає найближче ціле число, більше числа, яке стоїть в квадратних дужках.

Після того, як визначена необхідна кількість розрядів в кодовому слові, розраховують і будують залежність захищеності від спотворень квантування на виході каналу від рівня сигналу. Методика розрахунку і побудова пояснюється на числовому прикладі. Хай m=8, а n=2. Визначимо по формулі (3) мінімальну величину захищеності сигналу у пункті прийому в діапазоні рівнів з урахуванням заданого числа переприйомів по ТЧ і апаратурних похибок.

 

А _{кв мін} 6m – (16…17) – 10 lg (n +1) = 48-16-10 lg3 27 дБ

 

Максимальна величина захищеності в тому ж діапазоні буде приблизно на 3 дБ більше мінімальної

 

А_{кв макс} = А_квмін +3 = 27+3=30 дБ

 

Наносимо на графік горизонтальні прямі, відповідні найденим А_{кв макс} і А_квмін (рис. 2). Захищеність при р= -36 дБ приблизно на 2 дБ вище А_квмін;

А_кво = А_квмін +2=27+2=29 дБ.

Рис.2

Значення захищеності від спотворень квантування в діапазоні рівнів лежать між ціми прямими. В діапазоні –36дБ р > - ∞;квантування є рівномірним і тому А_кв зменшується при зменшенні рівня сигналу на таку ж величину. Діапазон зміни рівня сигналу, в якому захищеність лишається не нижче заданої, знаходять безпосередньо з малюнка. При Акв = 25 дБ він складає D = 40 дБ.