книги из ГПНТБ / Аналоговые запоминающие и адаптивные элементы

ПО], необходимо изменять и затем поддерживать на заданном уровне коэффициенты усиления, причем в каналах связи по целому ряду причин невозможно или нецелесообразно постоян­ но подавать эталонный сигнал усиления или же сигнал обрат­ ной связи. Поэтому настройка коэффициентов усиления произ­ водится лишь через определенные моменты времени, а в осталь­ ных промежутках этот коэффициент должен оставаться неиз­ менным. Для этой цели чрезвычайно удобным оказалось приме­ нение АЗЭ. Фактически запоминающие элементы в рассматри­ ваемых системах выполняют функции запоминания и хранения значений коэффициентов усиления. Процесс перезаписи в АЗЭ приводит к изменению коэффициентов усиления в каналах связи.

Типичный пример схемы автоматического регулирования ко­ эффициентов усиления в каналах связи, использующей аналого­

допустимое значение ошибки, то включается импульсное уст­ ройство записи 9, в результате чего изменяется ток на выходе

14!

чае в контуре регулирования имеется элемент с большой инер­ цией—термистор, вследствие чего частота импульсов записи должна быть очень низкой.

времени является одной из трудно выполнимых, и для ее реше­ ния применяют, как правило, электромеханические, электро­ химические или цифровые интеграторы. В последнем случае аналоговый сигнал преобразуется в цифровую форму, что по­ зволяет использовать цифровые запоминающие устройства для длительного хранения информации.

Использование АЗЭ на магнитных элементах для накопле­ ния и хранения аналоговой информации вместо традиционного конденсатора со свойственными ему токами утечки позволяет создать принципиально новый вид интегрирующего устройства, эквивалентного по своим свойствам электромеханическим инте­ граторам, но обладающего по сравнению с ними существенными преимуществами [Л. 66].

В предположении, что одним из перечисленных в гл. 2 спо­ собов разрешена задача считывания магнитного потока, прин­ ципиальную возможность построения магнитных интеграторов можно видеть из простейшей схемы на рис. 3-17, где в торои­ дальном ферромагнитном сердечнике осуществлена отрица­ тельная обратная связь по скорости нарастания потока Ф3ап-

1см

Фзап

XП. СМ

вых

- 0

0-

142

Если в качестве материала сердечника выбран ферромагне­ тик с прямоугольной петлей гистерезиса, то после снятия вход­

пов магнитных интеграторов с памятью [Л. 66]. Интегратор

143

универсальные ЭВМ . Однако использование этих средств со­ пряжено с рядом известных технических трудностей, вытекаю­ щих из принципа последовательности при выполнении операций,

сосредоточено на создании параллельных систем и автоматов, обладающих способностью к самоорганизации и более простых

запоминающие элементы (АЗЭ) . Характерной чертой обучаю­

адаптивных элементов в систему чаще всего имеет матричный принцип, поэтому в дальнейшем многоэлементные устройства, обладающие способностью к самоорганизации и выполненные на базе адаптивных элементов, для краткости будем именовать обучающимися матричными структурами (ОМС) . Применение

О МС обеспечивает такие преимущества, как высокое быстро­ действие из-за параллельности всех операций, возможность

большого числа элементов, возможность непосредственной обра­ ботки входных сигналов в аналоговой форме, относительная простота и надежность.

Следует отметить, что надежность ОМС является следствием как высокой надежности самих АЭ, так и структурной организа­ ции, предусматривающей параллельность действия. Ввиду этого даже при выходе из строя ряда элементов система в целом оста­ ется работоспособной.

Вдальнейшем для конкретизации изложения в основном

задач.

сдвумя основными аспектами {Л. 116]:

свыбором признаков объекта хъ ..., хп, являющихся коор­ динатами многомерного вектора образа х; эта задача является наиболее трудной;

сразделением выбранного пространства признаков на обла­ сти, или с задачей собственно классификации.

На обоих этапах решения задачи распознавания широкое

распространение находят функции вида [Л. 8, 116, 118]:

ных элементов, объединенных по матричному принципу, как это показано на рис. 4-1. Коэффициенты dk представляют собой «веса», накопленные в АЭ. Выбор базисных функций ф г ( \ ) пред­ ставляет собой специальную проблему, однако, если они уже выбраны, принципиально их реализация возможна с помощью

146

q>, - (x )=Xj. В таком случае распознающие машины называются линейными или при соответствующей организации выходных устройств матрицы кусочно-линейными [Л. 119]. Примером устройств такого класса является «Мадалайн», предложенная Уидроу.

2. Функции фг(х ) являются пороговыми. В таком случае мы приходим к перцептрону Розенблата, предложенному им как

а коэффициенты с,& соответствуют относительным частотам по­ явления входных сигналов того или иного уровня, то матрица может реализовать машину условной вероятности [Л. 121]. Реа­ лизация оказывается тем более простой, что большинство из адаптивных элементов обладает накопительными характеристи­ ками, необходимыми для подсчета эмпирической частоты *.

* Подсчет эмпирической частоты появления значений признаков для каждого класса требует в этом случае условия, чтобы при обучении предъ­ являлось по равному числу представителей из всех классов при равных веро­ ятностях появления объектов из любого класса.

4. Схема рис. 4-1 допускает простое обобщение, позволяющее тем не менее реализовать более широкий класс функций:

Здесь qk, вообще говоря, заранее может быть не задано и опре­ деляется в зависимости от конкретных условий обучения. В от­

занная схема позволяет осуществить целый ряд методов по вос­ становлению плотности распределения [Л. 122], как, например, метод «потенциальных» функций или близкие к нему. Заметим,

Рассмотренные выше схемы на рис. 4-1 и 4-2 являются осно­ вой при создании обучающихся матричных структур любого ти­ па. Выходные сигналы SR(x) таких схем можно в дальнейшем обрабатывать по-разному: квантовать по уровню, подавать на экстремальный детектор, использовать для мажоритарной логи­ ки и т. д. Особый интерес представляет случай, когда выходные сигналы элементарных матриц подаются на вход других ма­ триц; возникающая многослойная ОМС позволяет, прежде чем

ется принципиальной, так как ограниченность в длине обучаю­ щей выборки и в объеме памяти, всегда сопутствующая реше­ нию практических проблем, приводит к тому, что и самые изо­ щренные методы классификации оказываются бессильными, если признаки выбраны неудачно [Л. 116]. Там же указано, что в настоящее время значительная часть методов преобразования исходного пространства использует линейные преобразования. Последние же, как это следует из вышеизложенного, осуществи­ мы в рамках ОМС *. Отметим, что целый ряд систем, предназна­ ченных для распознавания сложных зрительных изображений и использующих современное представление о механизме зрения,

* Понятно, что если и решающие функции являются линейными, то оба слоя такой ОМС можно объединять в один. Принципиальный смысл много­ слойной ОМС именно в том и заключается, что следующие друг за другом любые два слоя осуществляют такие преобразования, которые нельзя выпол­ нить в одном.

148

целиком соответствует возможностям реализации таких систем на многослойной ОМС [Л. 118, 123, 124, 125]. Ограничиваясь эти­ ми примерами, подчеркнем важное для реализации обстоятель­ ство, что, несмотря на различие функций, осуществляемое от­ дельными слоями, все они имеют одинаковую структуру, способ­ ную к настройке. В этом отношении организация многослойных ОМС приближается к организации однородных структур [Л. 126].

необязательно играл бы роль «веса», но и мог бы выполнять некоторые другие функции. Приведем пример.

Часто в задачах распознавания приходится считать расстоя­ ния в той или иной метрике. С одной стороны, такая задача мо-

Рис. 4-2. Структурная схема реализации функций типа (4-2).

149

жет быть успешно решена с помощью «весовых» адаптивных элементов. Например, для эвклидовой метрики будут следующие соотношения:

в «весовых» адаптивных элементах. Однако если бы существо­ вал адаптивный элемент с характеристикой

о создании «невесовых» адаптивных элементов остается полно­ стью открытым.

4-3. Обучение матричных структур на АЭ. Применение для целей обучения ЭВМ.

Как указывалось в предыдущем разделе, ОМС в основе своей работы имеют вычисление функций типа (4-1) или (4-2). На­ хождение параметров адаптации или «весов», входящих в эти формулы, осуществляется в процессе обучения матричных струк­ тур.

С точки зрения технической реализации алгоритмов обучения их удобно рассматривать в двух аспектах.

а) Исходя из необходимого в процессе обучения объема па­ мяти, все алгоритмы можно разделить на рекуррентные и нере­ куррентные. Применение первых делает объем памяти независи­ мым от длины обучающей выборки, и каждый новый член вы­ борки вносит свой вклад лишь в изменение параметров адапта­ ции, а потом он может быть «забыт». Нерекуррентные алгоритмы требуют запоминания всех членов выборки или некоторой части ее, но в любом случае объем памяти здесь больше, чем в первом случае, и он зависит, вообще говоря, от длины выборки и ее

150