Непрерывная и дискретная информация. Носитель, сигнал, параметр сигнала.
Чтобы сообщение было передано от источника к получателю, необходима некоторая материальная субстанция - носитель информации. Сигнал - сообщение, передаваемое с помощью носителя. В общем случае сигнал - это изменяющийся во времени процесс. Такой процесс может содержать различные характеристики например параметр сигнала. Параметр сигнала - та из характеристик, которая используется для представления сообщений. В случае когда параметр сигнала принимает последовательное во времени конечное число значений (при этом все они могут быть пронумерованы), сигнал называется дискретным, а сообщение, передаваемое с помощью таких сигналов -дискретным сообщением. Информация, передаваемая источником, в этом случае также называется дискретной. Если же источник вырабатывает непрерывное сообщение (соответственно параметр сигнала – непрерывная функция от времени), соответствующая информация называется непрерывной. Пример дискретного сообщения – процесс чтения книги, информация в которой представлена текстом, т.е. дискретной последовательностью отдельных значков (букв). Примером непрерывного сообщения служит человеческая речь.
Единицы количества информации, вероятностный и объемный подход. С позиции каждого отдельного человека количество информации в каком-либо сообщении – субъективная величина. Объективная количественная мера информации может быть введена на основе вероятности трактовки информационного объёма. Этот способ измерения количества информации впервые предложил в 1948 году Шеннон. По шеннону – это сведения, уменьшающие неопределённость (энтропию). Наименьшей единицей информации является бит. Сообщение о том, что произошло одно из двух событий, даёт получателю один бит информации. Объемный подход - объем информации, записанной двоичными знаками в памяти компьютера или на внешнем носителе информации подсчитывается просто по количеству требуемых для такой записи двоичных символов. Вероятностный подход - в качестве единицы принимается количество информации, связанное с проведением опыта, состоящего в получении одного из двух равновероятных исходов. Такая единица количества информации называется “бит”.
Формула Хартли, вывод формулы Хартли. Формула Хартли определяет количество информации, содержащееся в сообщении длины n. H = log 2N,где H-количество информации, 8. Свойства информации: запоминаемость, передаваемость, воспроизводимость, Преобразуемость, стираемость. Информация – это совокупность каких-либо сведений, данных передаваемых устно, письменно либо другими способами. Свойство запоминаемости – одно из самых важных. Запоминаемую информацию будем называть макроскопической (имея ввиду пространственные масштабы запоминающей ячейки и время запоминания). Именно с макроскопической информацией мы имеем дело в реальной практике. Передаваемость – способность информации к копированию, т.е. к тому, что она может быть “запомнена” другой макроскопической системой и при этом останется тождественной самой себе. Очевидно, что количество информации не должно возрастать при копировании. Воспроизводимость информации тесно связана с ее передаваемостью и не является ее независимым базовым свойством. Если передаваемость означает, что не следует считать существенными пространственные отношения между частями системы, между которыми передается информация, то воспроизводимость характеризует неиссякаемость и неистощимость информации, т.е. что при копировании информация остается тождественной самой себе. Фундаментальное свойство информации – преобразуемость. Оно означает, что информация может менять способ и форму своего существования. Свойство стираемости информации также не является независимым. Оно связано с таким преобразованием информации (передачей), при котором ее количество уменьшается и становится равным нулю.
|