Теоретическая часть. В основу искусственных нейронных сетей положены структура и основные свойства биологических нейронных сетей

В основу искусственных нейронных сетей положены структура и основные свойства биологических нейронных сетей. Биологическая нейронная сеть представляет собой совокупность большого числа простых элементов – нейронов. Биологический нейрон имеет тело, совокупность отростков - дендритов, по которым в нейрон поступают входные сигналы, и отросток - аксон, передающий выходной сигнал нейрона другим клеткам. Точка соединения дендрита и аксона называется синапсом. Общее же число нейронов мозга превышает 100 млрд. Упрощенно функционирование нейрона можно представить следующим образом:

1. Нейрон получает от дендритов набор (вектор) входных сигналов.
2. В теле нейрона оценивается суммарное значение входных сигналов. Однако входы нейрона неравнозначны (и это, пожалуй, самое важное наблюдение для понимания принципов действия нейронной сети). Каждый вход характеризуется некоторым весовым коэффициентом, определяющим важность поступающей по нему информации. Таким образом, нейрон не просто суммирует значения входных сигналов, а вычисляет скалярное произведение вектора входных сигналов и вектора весовых коэффициентов.
3. Нейрон формирует выходной сигнал, интенсивность которого зависит от значения вычисленного скалярного произведения. Если оно не превышает некоторого заданного порога, то выходной сигнал не формируется вовсе - нейрон "не срабатывает".
4. Выходной сигнал поступает на аксон и передается дендритам других нейронов.

Ма тематичМодель нейрона - процессорного элемента нейронной сети, представлена на рис.2, а. В соответствии с вышеизложенным нейрон имеет набор входов, на которые поступают входные сигналы (Si,...,Sn). Входы характеризуются вектором весовых коэффициентов (W1,...,Wn). На рис.2,6 показаны некоторые возможные виды переходной функции f, вычисляемой от суммы взвешенных входных сигналов: пороговая, сигмовидная, псевдолинейная.

В зависимости от вида переходной функции нейроны делятся на два класса: детерминистские и вероятностные.

Различают два типа детерминистских нейронов:

1. Нейрон, в теле которого вычисляется скалярное произведение, (полностью соответствует рис.2, а). Это наиболее широко используемый тип нейрона. Он применяется в нейронных сетях для решения задач классификации и прогнозирования, а также для создания моделей ассоциативной памяти.
2. Нейрон "с ближайшим соседом", вычисляющий расстояние между входным вектором и вектором весовых коэффициентов и передающий полученное значение на выход. Такие нейроны применяют в нейронных сетях для решения задач квантования векторов, кластеризации, составления кодовых книг и т.д.

Вероятностные нейроны используют в моделях ассоциативной памяти и в нейронных сетях для решения задач классификации.