Сеть Хопфилда

Сеть Хопфилда (Hopfield) является автоассоциативной сетью, ведущей себя подобно памяти, которая может вспомнить сохраненный образец даже по подсказке (в виде вводимых данных), представляющей собой искаженную помехами версию нужного образца.

Дискретная сеть Хопфилда имеет следующие характеристики:

• один слой элементов (входные элементы, представляющие входной образец, не учитываются);

• каждый элемент связывается со всеми другими элементами, но элемент не связывается с самим собой;

• за один шаг обновляется только один элемент, в отличие, например, от сети с обратным распространением ошибок, где все элементы слоя могут изменяться одно-временно, если сеть реализована в виде аппаратных средств с соответствующими параллельными возможностями;

• элементы обновляются в случайном порядке, но в среднем каждый элемент должен обновляться в одной и той же мере. Например, в случае сети из 10 элемен-тов после 100 обновлений каждый элемент должен обновиться приблизительно 10 раз;

• вывод элемента ограничен значениями 0 или 1.

Сеть Хопфилда является рекуррентной в том смысле, что для каждого входного образца выход сети повторно используется в качестве ввода до тех пор, пока не будет достигнуто устойчивое состояние.

 

 

здесь мы будем использовать +1 для обозначения состояния "включено" и -1 — для состояния "выключено". Комбинированный ввод элемента вычисляется по формуле

где s_i обозначает состояние элемента с номером i. Когда элемент обновляется, его состояние изменяется в соответствии с правилом:

Эта зависимость называется сигнумфункцией и в более краткой форме она записывается в виде

Если комбинированный ввод оказывается равным нулю, то элемент остается в состоянии, в котором он пребывал перед обновлением.

Сеть работает очень просто. Входной вектор задает начальные состояния всех элементов. Элемент для обновления выбирается случайным образом. Выбранный элемент получает взвешенные сигналы от всех остальных элементов и изменяет свое состояние. Выбирается другой элемент, и процесс повторяется. Сеть достигает предела, когда ни один из ее элементов, будучи выбранным для обновления, не меняет своего состояния.