Обучение сети.

Типичной формой обучения является управляемое обучение, когда для каждого набора данных, подающегося в процессе обучения на вход сети, соответствующий выходной набор известен.

Обычно в начале обучения весовые коэффициенты устанавливаются равными случайным малым значениям, чтобы сеть произвела верный вывод.

Расхождение между тем, что даст сеть, и тем, что для данного учебного набора должно быть получено на самом деле, составляет ошибку, которая может использоваться для корректировки весов.

Примером правила коррекции ошибок является дельта-правило, называемое также правилом Видроу—Хоффа (Widrow-Hoffrule). На рис. 2.16 выходной элемент имеет активность (т.е. вывод) y, а истинный вывод должен быть равным t. Ошибка δ задается следующей формулой:

δ = t - y.

Рис. 2.16. Взвешенная связь двух элементов

Сигнал, приходящий к выходному элементу, обозначен через х. В соответствии с дельтаправилом, необходимо внести коррекцию Δ w, вычисляемую по формуле

Δ w =η⋅δ⋅χ,

где η обозначает действительное число, называемое нормой обучения. Новый весовой коэффициент устанавливается равным сумме значений старого веса и коррекции:

w = w +Δ w.

В начале обучения весовые коэффициенты устанавливаются равными малым случайным значениям; например, из диапазона [-0.3, +0.3]. В процессе обучения на вход сети подаются образец за образцом, и в результате их обработки весовые коэффициенты корректируются до тех пор, пока для всех вводимых образцов ошибки не станут меньше некоторого приемлемого достаточно малого значения. В завершение процесса сеть тестируется на данных, не представленных в фазе обучения: в результате можно оценить, насколько хорошо сеть работает с данными, которые в процессе обучения были ей неизвестны.