ВВЕДЕНИЕ. Теория информации – это наука, которая имеет точную дату своего рожденияТеория информации – это наука, которая имеет точную дату своего рождения. Её появление связывают с публикацией работы Клода Шеннона «Математическая теория связи. Работы по теории информации и кибернетике» в 1948 году [1]. Им была определена количественная мера информации и показано, что информационное обеспечение случайного процесса всецело определяется его вероятностными характеристиками. Сегодня из чисто теоретической науки теория информации трансформировалась в прикладную науку [2]. В настоящее время невозможно представить наш повседневный образ жизни без высокоскоростных модемов телефонных каналов глобальной сети Интернет, лазерных компакт-дисков, флэшек и съемных винчестеров большой емкости для персональных компьютеров, мобильных сотовых телефонов, кредитных карт и много другого, что связано с передачей или хранением информации. Характерно и то, что источники информации являются дискретными, информация кодируется, хранится и декодируется в цифровой форме. Поэтому дисциплина «Теория информации» для студентов специальности «Информационные системы» всецело ориентирована на учебник Б.Д. Кудряшова [3], в свою очередь, кратко учитывающий основные теоретические разделы Шенноновской теории информации, изложенной в фундаментальном учебнике В.Д. Колесника и Г.Ш. Полтырева [4]. Настоящее пособие является введением в общий курс теории информации. В пособии рассмотрены различные аспекты количественной меры информации объектов с дискретным множеством состояний, информационные характеристики дискретных источников информации и каналов связи, методы и средства кодирования информации. Отличительной особенностью пособия является то, что методы обработки информации излагаются с позиций теории информации как части общей теории вероятности [5]. Соответственно этой особенности и прикладной направленности дисциплины учебное пособие «Основы теории информации» состоит из двух частей: 1). Вероятностные основы теории информации; 2). Введение в прикладную теорию информации. Пособие адаптировано к главам 1, 2 лекционного курса [3], учебникам [6, 9] и ориентировано на проведение лабораторных работ со студентами, обучающимися по специальности «Информационные системы» по профилю общеобразовательной дисциплины «Высшая математика». Наименования лабораторных работ соответствуют названиям параграфов учебного пособия и сведены в таблицу В.1. В каждом параграфе введена своя двойная нумерация примеров, задач, формул, рисунков и таблиц. Таблица В.1.
После изучения дисциплины студенты должны: – быть ознакомленными с общими принципами построения информационных систем, с процессами и методами исследования процессов в этих системах; – усвоить вероятностные основы теории информации, ее основные понятия и определения; – закрепить полученные знания при решении прикладных задач кодирования и декодирования дискретной информации на ЭВМ в системе программирования MatLab. Настоящее учебное пособие не претендует на полное и оригинальное изложение теории информации. Его основная цель – дать краткий справочный материал по основам этой теории и закрепить знания, полученные студентами на лекциях, решением практических примеров и задач для самостоятельной работы. Все задачи для самостоятельной работы снабжены решениями и ответами. Для более углубленного изучения дисциплины заинтересованным студентам рекомендованы дополнительные задачи по курсу «Теория информации». В приложениях 1–5 представлены программы на MatLab расчета цепей Маркова, информационных характеристик дискретных источников; схемы алгоритмов кодирования и декодирования информации, а также MatLab – программы арифметического неравномерного кодирования и декодирования для стационарного дискретного источника, заимствованные из [3]. Авторы выражают благодарность рецензентам проф. Мухопад Ю.Ф. и доц. Лайкову М.И., а также доц. Огородникову Ю.И. за конструктивные замечания и посильный труд по редактированию рукописи.
|
