Вычисление энтропии сообщения
Рассматриваемая фраза – «Характеристики, цели и задачи системы.».
Общее количество символов в предложенной фразе, включая пробелы, запятые и точки, составляет 38, из них количество уникальных символов – 18.
Приняв частость повторения букв во фразе за их вероятности, вычислим энтропию сообщения, используя следующую формулу:
.
Результаты вычислений приведены в таблице 1.
Таблица 1 – Символы и их вероятности
Символ
| Количество повторений
| Pi (вероятность)
| log2 Pi
| Pi·log2 Pi
| А
|
| 0,1053
| -3,248
| -0,342
| Д
|
| 0,0263
| -5,248
| -0,138
| Е
|
| 0,0789
| -3,663
| -0,289
| З
|
| 0,0263
| -5,248
| -0,138
| И
|
| 0,1842
| -2,441
| -0,45
| К
|
| 0,0526
| -4,248
| 0,224
| Л
|
| 0,0263
| -5,248
| -0,138
| М
|
| 0,0263
| -5,248
| -0,138
| Р
|
| 0,0526
| -4,248
| -0,224
| С
|
| 0,0789
| -3,663
| -0,289
| Т
|
| 0,0789
| -3,663
| -0,289
| Х
|
| 0,0263
| -5,248
| -0,138
| Ц
|
| 0,0263
| -5,248
| -0,138
| Ч
|
| 0,0263
| -5,248
| -0,138
| Ы
|
| 0,0263
| -5,248
| -0,138
| Запятая
|
| 0,0263
| -5,248
| -0,138
| Точка
|
| 0,0263
| -5,248
| -0,138
| Пробел
|
| 0,1053
| -3,248
| -0,342
|
| -3,381
|
Таким образом, энтропия сообщения равна H = 3,381
Обзор компонентов Multisim Компоненты – это основа любой схемы, это все элементы, из которых она состоит. Multisim оперирует с двумя категориями...
|
Композиция из абстрактных геометрических фигур Данная композиция состоит из линий, штриховки, абстрактных геометрических форм...
|
Важнейшие способы обработки и анализа рядов динамики Не во всех случаях эмпирические данные рядов динамики позволяют определить тенденцию изменения явления во времени...
|
ТЕОРЕТИЧЕСКАЯ МЕХАНИКА Статика является частью теоретической механики, изучающей условия, при которых тело находится под действием заданной системы сил...
|
Неисправности автосцепки, с которыми запрещается постановка вагонов в поезд. Причины саморасцепов ЗАПРЕЩАЕТСЯ: постановка в поезда и следование в них вагонов, у которых автосцепное устройство имеет хотя бы одну из следующих неисправностей:
- трещину в корпусе автосцепки, излом деталей механизма...
Понятие метода в психологии. Классификация методов психологии и их характеристика Метод – это путь, способ познания, посредством которого познается предмет науки (С...
ЛЕКАРСТВЕННЫЕ ФОРМЫ ДЛЯ ИНЪЕКЦИЙ К лекарственным формам для инъекций относятся водные, спиртовые и масляные растворы, суспензии, эмульсии, новогаленовые препараты, жидкие органопрепараты и жидкие экстракты, а также порошки и таблетки для имплантации...
|
Значення творчості Г.Сковороди для розвитку української культури Важливий внесок в історію всієї духовної культури українського народу та її барокової літературно-філософської традиції зробив, зокрема, Григорій Савич Сковорода (1722—1794 pp...
Постинъекционные осложнения, оказать необходимую помощь пациенту I.ОСЛОЖНЕНИЕ: Инфильтрат (уплотнение). II.ПРИЗНАКИ ОСЛОЖНЕНИЯ: Уплотнение...
Приготовление дезинфицирующего рабочего раствора хлорамина Задача: рассчитать необходимое количество порошка хлорамина для приготовления 5-ти литров 3% раствора...
|
|