Классификация нейронных сетей

Среди множества существующих структур сетей в качестве важнейших можно выделить:

- многослойный персептрон,

- радиально-базисные сети (RBF-сети),

- сети с самоорганизацией в результате конкуренции нейронов,

- сети с самоорганизацией корреляционного типа,

- рекуррентные сети, в которых имеются сигналы обратной связи.

 

RBF-сети используют радиально-базисные функции активации, типа

где — вектор входных сигналов нейрона, — ширина окна функции, — убывающая функция (чаще всего, равная нулю вне некоторого отрезка).

Радиально-базисная сеть характеризуется тремя особенностями:

1. Единственный скрытый слой;

2. Только нейроны скрытого слоя имеют нелинейную активационную функцию;

3. Синаптические веса связей входного и скрытого слоев равны единице.

Сетями с самоорганизацией называются сети, не требующие для своего обучения "учителя" и самостоятельно адаптирующие свои веса под обучающие данные. Такие сети строятся из нейронов типа WTA и подобных им. Как правило, это однослойные сети, в которых каждый нейрон получает все компоненты входного вектора размерностью .

 

Другой важный класс ИНС являются сети с самоорганизацией корреляционного типа, в процессе обучения, которых используется информация о зависимостях между сигналами. В процессе обучения они выявляют значимые корреляционные зависимости между сигналами, подстраиваясь под них путем адаптации значений синаптических весов.

 

Рекуррентные нейронные сети — вид нейронных сетей, в которых имеется обратная связь. При этом под обратной связью подразумевается связь от логически более удалённого элемента к менее удалённому. Наличие обратных связей позволяет запоминать и воспроизводить целые последовательности реакций на один стимул. С точки зрения программирования в таких сетях появляется аналог циклического выполнения, а с точки зрения систем — такая сеть эквивалентна конечному автомату.