Дельта-правило
Важное обобщение алгоритма обучения персептрона, называемое дельта-правилом, переносит этот метод на непрерывные входы и выходы. Чтобы понять, как оно было получено, шаг 2 алгоритма обучения персептрона может быть сформулирован в обобщенной форме с помощью введения величины δ, которая равна разности между требуемым или целевым выходом T и реальным выходом Y δ = (T - Y). (2.3) Случай, когда δ=0, соответствует шагу 2а, когда выход правилен и в сети ничего не изменяется. Шаг 2б соответствует случаю δ > 0, а шаг 2в случаю δ < 0. В любом из этих случаев персептронный алгоритм обучения сохраняется, если δ умножается на величину каждого входа х i и это произведение добавляется к соответствующему весу. С целью обобщения вводится коэффициент «скорости обучения» η), который умножается на δ х i, что позволяет управлять средней величиной изменения весов. В алгебраической форме записи Δi = ηδ x i, (2.4) w (n+1) = w (n) + Δi, (2.5) где Δi – коррекция, связанная с i-м входом х i; w i(n+1) – значение веса i после коррекции; w i{n) -значение веса i до коррекции. Дельта-правило модифицирует веса в соответствии с требуемым и действительным значениями выхода каждой полярности как для непрерывных, так и для бинарных входов и выходов. Эти свойства открыли множество новых приложений.
|
