Модель нейрона Хебба
Структура модели нейрона Хебба представлена на рисунке 2.12. Она идентична структурам моделей типа Адалайн и нейрона с сигмоидой на выходе, однако отличается специфическим методом обучения, называемым правилом Хебба. Это правило существует в двух версиях: «с учителем» и «без учителя». Хебб в работе [1] исследовал функционирование нервных клеток. В процессе своей работы он заметил, что связи между двумя клетками усиливаются, если эти клетки активизируются одновременно. По аналогии, Хебб предложил алгоритм, согласно которому веса модифицируются следующим образом:
Причем
Рис. 2.12. Структура нейрона Хебба
При обучении одиночного нейрона мы будем модифицировать значение веса W; пропорционально как значению сигнала, поданного на i -й вход, так и значению выходного сигнала с учетом коэффициента обучения η. Необходимо отметить, что при таком подходе мы не используем эталонные выходные значения, следовательно, применяется метод «обучения без учителя». Небольшая модификация зависимости (2.93) приводит ко второму методу обучения нейрона Хебба - «обучению с учителем»;
Δwi = ηxid, (2.94)
где d - эталонный сигнал. Некоторым недостатком обсуждаемого алгоритма считается то, что значения весов могут неограниченно увеличиваться. Для устранения этого недостатка в литературе предлагаются различные модификации правила Хебба.
|
(2.92)
(2.93)
