Обобщенные сети
Принцип машины Больцмана может быть перенесен на сети практически любой конфигурации, хотя устойчивость не гарантируется. Для этого достаточно выбрать одно множество нейронов в качестве входов и другое множество в качестве выходов. Затем придать входному множеству значения входного вектора и предоставить сети возможность релаксировать в соответствии с описанными выше правилами 1 и 2. Процедура обучения для такой сети, описанная в [5], состоит из следующих шагов: 1. Вычислить закрепленные вероятности. а) придать входным и выходным нейронам значения обучающего вектора; б) предоставить сети возможность искать равновесие; в) записать выходные значения для всех нейронов; г) повторить шаги от а до в для всех обучающих векторов; д) вычислить вероятность 2. Вычислить незакрепленные вероятности. а) предоставить сети возможность «свободного движения» без закрепления входов или выходов, начав со случайного состояния; б) повторить шаг 2а много раз, регистрируя значения всех нейронов; в) вычислить вероятность 3. Скорректировать веса сети следующим образом:
где δ w ij – изменение веса w ij, η – коэффициент скорости обучения.
|
, т. е. по всему множеству обучающих векторов вычислить вероятность того, что значения обоих нейронов равны единице.
, т. е. вероятность того, что значения обоих нейронов равны единице.
,
