2.4. Сеть Хопфилда

Структурная схема сети Хопфилда приведена на рис. 6. Она состоит из единственного слоя нейронов, число которых п является одновременно числом входов и выходов сети.

К аждый нейрон имеет один входной синапс, через который осуществляется ввод сигнала х_i. Выход каждого нейрона связан синапсами со всеми остальными нейронами.

Задача, решаемая данной сетью в качестве ассоциативной памяти, формулируется следующим образом. Известен набор двоичных сигналов (изображений, звуковых оцифровок, прочих данных, описывающих объекты или характеристики процессов), считающийся образцовым. Сеть должна уметь из произвольного неидеального сигнала, поданного на его вход, выделить («вспомнить» по частичной информации) соответствующий образец (если такой есть) или «дать заключение» о том, что входные данные не соответствуют ни одному из образцов.

В общем случае любой сигнал может быть описан вектором X = {х_i: i = 1, 2,..., n}, где п – размерность входных и выходных векторов. Каждый элемент x_i равен либо +1, либо –1.

Обозначим вектор, описывающий k-й образец, через X^k, а его компоненты, соответственно, как х_i^k, k = 1, 2, ..., m, где m –число образцов.

Когда сеть распознает какой-либо образец на основе предъявленных ей данных, ее выходы будут содержать именно его, то есть Y = X^k, где Y = {у_i: i = 1, 2,..., n} – вектор выходных сигналов сети. В противном случае выходной вектор не совпадет ни с одним образцовым.

Если сигналы представляют собой некие изображения, то, отобразив в графическом виде данные с выхода сети, можно увидеть картинку, полностью совпадающую с одной из образцовых (в случае успеха), или же «вольную импровизацию» сети (в случае неудачи).

На стадии инициализации сети весовые коэффициенты синапсов устанавливаются следующим образом:

(12)

где i и j – индексы, соответственно, предсинаптического и постсинаптического нейронов;

x_i^k, x_j^k – i-й и j-й элементы вектора k-гo образца.

Алгоритм функционирования сети Хопфилда следующий (t – номер итерации).

1. На входы сети подается неизвестный сигнал. Фактически его ввод осуществляется непосредственной установкой значений выходов:

y_i (0) = x_i, i = 1, 2,..., n, (13)

поэтому обозначение на схеме сети входных синапсов в явном виде носит условный характер. Ноль в скобке справа от y_i означает нулевую итерацию в цикле работы сети.

2. Рассчитываются новые сигналы на выходах сумматоров

(14)

и новые значения выходов

(15)

где f – пороговая активационная функция с порогом  = 0.

3. Проверяется, изменились ли значения выходов за последнюю итерацию. Если да – переход к п. 2, иначе (если выходы стабилизировались) – останов программы. При этом выходной вектор представляет собой образец, наилучшим образом сочетающийся с входными данными.

Таким образом, когда подается новый вектор, сеть переходит из вершины в вершину, пока не стабилизируется. Устойчивая вершина определяется сетевыми весами и текущими входами. Если входной вектор частично неправилен или неполон, сеть стабилизируется в вершине, ближайшей к желаемой.

Достаточным условием устойчивой работы такой сети является выполнение условий

(16)

Как говорилось выше, иногда сеть не может провести распознавание и выдает на выходе несуществующий образ. Это связано с проблемой ограниченности возможностей сети. Для сети Хопфилда число запоминаемых образов m не должно превышать величины, примерно равной 0,15n. Кроме того, если два образа А и В очень похожи, они могут вызывать у сети перекрестные ассоциации, то есть предъявление на входы сети вектора А приведет к появлению на ее выходах вектора В и наоборот.