Вычисление энтропии сообщения
Рассматриваемая фраза – «Характеристики, цели и задачи системы.».
Общее количество символов в предложенной фразе, включая пробелы, запятые и точки, составляет 38, из них количество уникальных символов – 18.
Приняв частость повторения букв во фразе за их вероятности, вычислим энтропию сообщения, используя следующую формулу:
 .
Результаты вычислений приведены в таблице 1.
Таблица 1 – Символы и их вероятности
| Символ
| Количество повторений
| Pi (вероятность)
| log2 Pi
| Pi·log2 Pi
| | А
|
| 0,1053
| -3,248
| -0,342
| | Д
|
| 0,0263
| -5,248
| -0,138
| | Е
|
| 0,0789
| -3,663
| -0,289
| | З
|
| 0,0263
| -5,248
| -0,138
| | И
|
| 0,1842
| -2,441
| -0,45
| | К
|
| 0,0526
| -4,248
| 0,224
| | Л
|
| 0,0263
| -5,248
| -0,138
| | М
|
| 0,0263
| -5,248
| -0,138
| | Р
|
| 0,0526
| -4,248
| -0,224
| | С
|
| 0,0789
| -3,663
| -0,289
| | Т
|
| 0,0789
| -3,663
| -0,289
| | Х
|
| 0,0263
| -5,248
| -0,138
| | Ц
|
| 0,0263
| -5,248
| -0,138
| | Ч
|
| 0,0263
| -5,248
| -0,138
| | Ы
|
| 0,0263
| -5,248
| -0,138
| | Запятая
|
| 0,0263
| -5,248
| -0,138
| | Точка
|
| 0,0263
| -5,248
| -0,138
| | Пробел
|
| 0,1053
| -3,248
| -0,342
| |
| -3,381
|
Таким образом, энтропия сообщения равна H = 3,381
Кардиналистский и ординалистский подходы Кардиналистский (количественный подход) к анализу полезности основан на представлении о возможности измерения различных благ в условных единицах полезности...
|
Обзор компонентов Multisim Компоненты – это основа любой схемы, это все элементы, из которых она состоит. Multisim оперирует с двумя категориями...
|
Композиция из абстрактных геометрических фигур Данная композиция состоит из линий, штриховки, абстрактных геометрических форм...
|
Важнейшие способы обработки и анализа рядов динамики Не во всех случаях эмпирические данные рядов динамики позволяют определить тенденцию изменения явления во времени...
|
|
Решение Постоянные издержки (FC) не зависят от изменения объёма производства, существуют постоянно...
ТРАНСПОРТНАЯ ИММОБИЛИЗАЦИЯ
Под транспортной иммобилизацией понимают мероприятия, направленные на обеспечение покоя в поврежденном участке тела и близлежащих к нему суставах на период перевозки пострадавшего в лечебное учреждение...
Кишечный шов (Ламбера, Альберта, Шмидена, Матешука) Кишечный шов– это способ соединения кишечной стенки.
В основе кишечного шва лежит принцип футлярного строения кишечной стенки...
|
|
ПУНКЦИЯ И КАТЕТЕРИЗАЦИЯ ПОДКЛЮЧИЧНОЙ ВЕНЫ
Пункцию и катетеризацию подключичной вены обычно производит хирург или анестезиолог, иногда — специально обученный терапевт...
Ситуация 26. ПРОВЕРЕНО МИНЗДРАВОМ
Станислав Свердлов закончил российско-американский факультет менеджмента Томского государственного университета...
Различия в философии античности, средневековья и Возрождения ♦Венцом античной философии было: Единое Благо, Мировой Ум, Мировая Душа, Космос...
|
|
