Нейронная сеть (НС) - это совокупность нейронов, соединенных определенным образом. Она характеризуется типом используемых нейронов, их числом, топологией межсоединений (в том числе так называемой "слойностью" - числом уровней в иерархической структуре), а также принятым набором алгоритмов настройки (обучения).
Одной из наиболее простых НС является перцептрон, принципы построения которого предложены Ф. Розенблаттом (F. Rosenblatt) в 1958 году. Первоначально перцептрон представлял собой однослойную структуру с жесткой пороговой функцией процессорного элемента и бинарными или многозначными входами. Первые перцептроны были способны распознавать некоторые буквы латинского алфавита. Впоследствии модель перцептрона была значительно усовершенствована. Помимо перцептрона существует несколько десятков разновидностей НС, наиболее известными из которых являются следующие:
• сеть Хопфилда - Кохонена (Hopfield/Kohonen network) - модель ассоциативной памяти, представляющая собой однослойную сеть процессорных элементов с бинарными входами и жесткой пороговой функцией. Каждый процессорный элемент соединен со всеми соседями. Настройка весовых коэффициентов межсоединений производится по правилам Хеббиана (Hebbian rules);
• машина Больцмана (Boltzmann machine) -многослойная или случайным образом связанная НС. Настройка весовых коэффициентов производится на основе распределения Больцмана с использованием так называемого "температурного" параметра для определения кривизны вероятностной функции;
• НС с обратным прохождением (back propagation network), принцип действия которой базируется на вычислении отклонений значений сигналов на выходных процессорных элементах от эталонных и обратном "прогоне" этих отклонений до породивших их элементов с целью коррекции ошибки;
• неокогнитрон (neocognitron) - одна из наиболее сложных моделей НС. Это многослойная иерархическая сеть с двухсторонним прохождением сигналов, содержащая процессорные элементы двух видов: S-ячейки, выполняющие основную функцию сети, и С - ячейки, позволяющие корректировать позиционные ошибки во входных последовательностях. Неокогнитрон способен распознавать даже сильно зашумленные выборки. Функционирование большинства НС (в частности, перцептрона) происходит в две стадии. На стадии настройки, или обучения, на вход НС подаются эталонные обучающие выборки и производятся вычисления в процессорных элементах промежуточных и выходного слоев сети. Затем проводят коррекцию и минимизацию ошибок путем перенастройки весовых коэффициентов (часто для этого данные "проводят" по сети в обратном направлении).
