Вычисление энтропии сообщения
Рассматриваемая фраза – «Характеристики, цели и задачи системы.».
Общее количество символов в предложенной фразе, включая пробелы, запятые и точки, составляет 38, из них количество уникальных символов – 18.
Приняв частость повторения букв во фразе за их вероятности, вычислим энтропию сообщения, используя следующую формулу:
 .
Результаты вычислений приведены в таблице 1.
Таблица 1 – Символы и их вероятности
| Символ
| Количество повторений
| Pi (вероятность)
| log2 Pi
| Pi·log2 Pi
| | А
|
| 0,1053
| -3,248
| -0,342
| | Д
|
| 0,0263
| -5,248
| -0,138
| | Е
|
| 0,0789
| -3,663
| -0,289
| | З
|
| 0,0263
| -5,248
| -0,138
| | И
|
| 0,1842
| -2,441
| -0,45
| | К
|
| 0,0526
| -4,248
| 0,224
| | Л
|
| 0,0263
| -5,248
| -0,138
| | М
|
| 0,0263
| -5,248
| -0,138
| | Р
|
| 0,0526
| -4,248
| -0,224
| | С
|
| 0,0789
| -3,663
| -0,289
| | Т
|
| 0,0789
| -3,663
| -0,289
| | Х
|
| 0,0263
| -5,248
| -0,138
| | Ц
|
| 0,0263
| -5,248
| -0,138
| | Ч
|
| 0,0263
| -5,248
| -0,138
| | Ы
|
| 0,0263
| -5,248
| -0,138
| | Запятая
|
| 0,0263
| -5,248
| -0,138
| | Точка
|
| 0,0263
| -5,248
| -0,138
| | Пробел
|
| 0,1053
| -3,248
| -0,342
| |
| -3,381
|
Таким образом, энтропия сообщения равна H = 3,381
Расчетные и графические задания Равновесный объем - это объем, определяемый равенством спроса и предложения...
|
Кардиналистский и ординалистский подходы Кардиналистский (количественный подход) к анализу полезности основан на представлении о возможности измерения различных благ в условных единицах полезности...
|
Обзор компонентов Multisim Компоненты – это основа любой схемы, это все элементы, из которых она состоит. Multisim оперирует с двумя категориями...
|
Композиция из абстрактных геометрических фигур Данная композиция состоит из линий, штриховки, абстрактных геометрических форм...
|
|
Медицинская документация родильного дома Учетные формы родильного дома № 111/у Индивидуальная карта беременной и родильницы
№ 113/у Обменная карта родильного дома...
Основные разделы работы участкового врача-педиатра Ведущей фигурой в организации внебольничной помощи детям является участковый врач-педиатр детской городской поликлиники...
Ученые, внесшие большой вклад в развитие науки биологии Краткая история развития биологии. Чарльз Дарвин (1809 -1882)- основной труд « О происхождении видов путем естественного отбора или Сохранение благоприятствующих пород в борьбе за жизнь»...
|
|
Неисправности автосцепки, с которыми запрещается постановка вагонов в поезд. Причины саморасцепов ЗАПРЕЩАЕТСЯ: постановка в поезда и следование в них вагонов, у которых автосцепное устройство имеет хотя бы одну из следующих неисправностей:
- трещину в корпусе автосцепки, излом деталей механизма...
Понятие метода в психологии. Классификация методов психологии и их характеристика Метод – это путь, способ познания, посредством которого познается предмет науки (С...
ЛЕКАРСТВЕННЫЕ ФОРМЫ ДЛЯ ИНЪЕКЦИЙ К лекарственным формам для инъекций относятся водные, спиртовые и масляные растворы, суспензии, эмульсии, новогаленовые препараты, жидкие органопрепараты и жидкие экстракты, а также порошки и таблетки для имплантации...
|
|
