21. Понятие нейроинформатики, история развития

Первой попыткой создания и исследования искусственных нейронных сетей считается работа Дж. Маккалока (J. McCulloch) и У. Питтса (W. Pitts) "Логическое исчисление идей, относящихся к нервной деятельности" (1943 г.), в которой были сформулированы основные принципы построения искусственных нейронов и нейронных сетей..

Огромный вклад в нейронауку внесла детекторная теория. Ее основоположником считается Дж. Маккалок, который в 1959 году опубликовал в статью под названием "О чем глаза лягушки говорят мозгу лягушки", где впервые было введено понятие нейрона-детектора. Показали, что нейроны зрительной коры кошки избирательно реагируют на линии определенного наклона. Объединенные в вертикальные колонки с общим для них наклоном, эти нейроны образуют анализатор, определяющий наклон линии в локальном участке пространства.

Большим прорывом в области нейроинтеллекта стало создание нейрофизиологом Френком Розенблатом в 1962 г. модели однослойной нейронной сети, названной персептроном. (как предсказание погоды, анализ электрокардиограмм и искусственное зрение.

Позднее Марвин Минский, используя точные математические методы, строго доказал ряд теорем, показав, что используемые однослойные сети теоретически не способны решить многие простые задачи, например, реализовать логическую функцию "Исключающее ИЛИ". Безупречность доказательств Минского, подкрепленная его авторитетом в ученых кругах, явилась одной из причин задержки развития нейроинтеллекта почти на два десятилетия. Однако ряд наиболее настойчивых ученых, таких как Кохонен, Гроссберг, Андерсон продолжили исследования, постепенно создавая теоретические основы для построения и применения искусственных нейронных сетей.

За последние десятилетия теория о нейроинтеллекте приобрела новое дыхание. Было предложено много интересных разработок, таких, например, как когнитон, способный с высокой достоверностью распознавать достаточно сложные образы (например, иероглифы) независимо от поворота и масштаба изображения. Автором когнитона является японский ученый К. Фукушима (K. Fukushima). В 1982 году американский биофизик Дж. Хопфилд (J. Hopfield) предложил интересную модель сети, получившей в будущем его имя. Позднее было разработано ряд эффективных алгоритмов: сеть встречного потока (R. Hecht-Neilsen), двунаправленная ассоциативная память (B. Kosko) и другие.

22. Биологический и формальный нейрон.

Элементом клеточной структуры мозга является нервная клетка - нейрон. Нейрон выполняет прием, элементарное преобразование и дальнейшую передачу информации другим нейронам. Информация переносится в виде импульсов нервной активности, имеющих электрохимическую природу.

Возбуждение нейрона в виде спайка передается другим нейронам, которые таким образом объединены в проводящую нервные импульсы сеть. Участки мембраны на аксоне, где размещаются области контакта аксона данного нейрона с дендритами другими нейронов, называются синапсами. В области синапса, имеющего сложное строение, происходит обмен информацией о возбуждении между нейронами. Синапсы влияют на силу импульса. В зависимости от типа вырабатываемого медиатора (специфические химические вещества, вызывающие изменения проницаемости локального участка мембраны.)синапс может обладать возбуждающим (эффективно проводящим возбуждение) или тормозящим действием.

При прохождении синапса сила импульса меняется в опр. число раз – вес синапса. Импульсы, поступившие к нейрону одновременно по неск. дендритам суммируются. Если суммарный импульс превышает некот порог, нейрон возбуждается, формирует составной импульс и передает его далее по аксону.

Формальный нейрон.

произвольные явления, относящиеся к высшей нервной деятельности, могут быть проанализированы и поняты, как некоторая активность в сети, состоящей из логических элементов, принимающих только два состояния ("все или ничего"). При этом для всякого логического выражения может быть найдена сеть логических элементов, имеющая описываемое этим выражением поведение.

С современной точки зрения, формальный нейрон представляет собой математическую модель простого процессора, имеющего несколько входов и один выход. Вектор входных сигналов (поступающих через "дендриды") преобразуется нейроном в выходной сигнал (распространяющийся по "аксону") с использованием трех функциональных блоков: локальной памяти, блока суммирования и блока нелинейного преобразования.

Вектор локальной памяти содержит информацию о весовых множителях, с которыми входные сигналы будут интерпретироваться нейроном.

В блоке суммирования происходит накопление общего входного сигнала (обычно обозначаемого символом net), равного взвешенной сумме входов:

Фомальные нейроны могут быть объединены в сети путем замыкания выходов одних нейронов на входы других. Типы нелинейных переходных функций:

1) Пороговая функция (рассмотренная Маккалоком и Питтсом):

отсутствуют временные задержки входных сигналов, поэтому значение net определяет полное внешненее возбуждение, воспринятое нейроном. Отклик нейрон далее описывается по принципу "все или ничего",

- значение порога

2) Линейная функция, а также ее вариант - линейная функция с погашением отрицательных сигналов:

3) Сигмоидальная функция:

Как указывалось С.Гроссбергом, сигмоидальная функция обладает избирательной чувствительностью к сигналам разной интенсивности, что соответсвует биологическим данным.