Модель нейрона Хебба

Структура модели нейрона Хебба представлена на рисунке 2.12. Она иден­тична структурам моделей типа Адалайн и нейрона с сигмоидой на выходе, однако отличается специфическим методом обучения, называемым правилом Хебба. Это правило существует в двух версиях: «с учителем» и «без учителя». Хебб в работе [1] исследовал функционирование нервных клеток. В процессе своей работы он заметил, что связи между двумя клетками усиливаются, если эти клетки активизируются одновременно.

По аналогии, Хебб предложил ал­горитм, согласно которому веса модифицируются следующим образом:

(2.92)

Причем

(2.93)

Рис. 2.12. Структура нейрона Хебба

При обучении одиночного нейрона мы будем модифицировать значение веса W; пропорционально как значению сигнала, поданного на i -й вход, так и значению выходного сигнала с учетом коэффициента обучения η. Необходи­мо отметить, что при таком подходе мы не используем эталонные выходные значения, следовательно, применяется метод «обучения без учителя». Неболь­шая модификация зависимости (2.93) приводит ко второму методу обучения нейрона Хебба - «обучению с учителем»;

Δw_i = ηx_id, (2.94)

где d - эталонный сигнал.

Некоторым недостатком обсуждаемого алгоритма считается то, что зна­чения весов могут неограниченно увеличиваться. Для устранения этого недо­статка в литературе предлагаются различные модификации правила Хебба.