Введение

В настоящее время, по оценкам специалистов, ожидается значительный технологический рост в области проектирования и практической реализации искусственных нейронных сетей (ИНС) и нейрокомпьютеров (НК). За последние годы открыто немало новых возможностей ИНС и работы в этой области становятся важным вкладом в промышленность, науку и технологии, приобретают большое экономическое значение. До сих пор все попытки понять и смоделировать процессы обработки информации мозгом человека особого успеха не имели, хотя разработки по нейронному моделированию ведутся уже более 50 лет (некоторые из них представлены в первом разделе первой части пособия). Поэтому грядущий взрывной рост в области нейрокомпьютерных технологий по всей вероятности будет связан с новыми открытиями в области нейронного моделирования – достаточно разгадать тайну функционирования хотя бы одной области мозга, чтобы получить примерное представление о работе остальных.

Можно предположить, что открытие биологических основ обработки информации вызовет существенную активизацию работ в области построения искусственного мозга в рамках грандиозного научного и технологического проекта, по сравнению с которым глобальные проекты прошлого и настоящего, такие как исследование космоса, достижения ядерной физики, молекулярной биологии и генной инженерии покажутся весьма скромными. Ожидается, что экономический эффект от этого проекта будет достаточно быстрым и значительным, появится реальная возможность построения «умных» машин и систем для замены людей при выполнении монотонных, однообразных и опасных работ. Конечно, для достижения этих целей важно развитие и других областей информатики, искусственного интеллекта, микро– и наноэлектроники.

Потенциальными областями применения ИНС являются те, где человеческий интеллект малоэффективен, а традиционные вычисления трудоемки или не отражают реальные физические процессы и объекты, иными словами, актуальность использования НС многократно возрастает при решении плохо формализованных задач, к числу которых относятся:

• аппроксимация многомерных зависимостей;

• моделирование процессов предсказания и прогноза:

• кодирование и декодирование информации;

• классификация входных данных и распознавание образов;

• автоматизация процессов принятия решений и управления.

Рассмотренные в первой части пособия многослойные НС прямого распространения не всегда обеспечивают наилучшее решение указанных задач и не исчерпывают всего многообразия нейросетевых парадигм, поэтому без изложения основ функционирования рекуррентных (с обратными связями) НС, самоорганизующихся НС и НС с нечеткой логикой, а также принципов программной и аппаратной реализации НС изложенный материал был бы неполон.

5.Рекуррентные нейронные сети

Рекуррентные ИНС – это сети с обратной связью (ОС) между различными слоями нейронов. Их главная особенность – динамические зависимости на каждом этапе функционирования, поскольку благодаря ОС изменение состояния одного нейрона отражается на всей сети. Возникающий при этом переходный процесс завершается формированием нового устойчивого состояния (в общем случае отличного от предыдущего), параметры которого могут быть определены из решения системы нелинейных дифференциальных уравнений (ДУ)

(5.1)

где b_i – порог, задаваемый внешним источником; _i – численная const, аналогичная постоянной времени в уравнениях, описывающих динамические процессы; . Решения (5.1) y_i=f(u_i) описывают выходные состояния нейронов в точках минимумов энергетической функции Ляпунова

(5.2)

которые называются аттракторами из-за тяготения к ним ближайшего окружения.