сии_шпора

20. Схема формального нейрона. Роль его составных частей

Формальный нейрон — узел искусственной нейронной сети, являющийся упрощённой моделью естественного нейрона.

Большинство моделей основывается на схеме формального нейрона У.С.Мак-Каллока и У.Питтса (1943 год), согласно которой нейрон представляет собой пороговый элемент. На входах нейрона имеются возбуждающие и тормозящие синапсы, в нейроне определяется взвешенная сумма (с учетом весов синапсов) входных сигналов, при превышении этой суммой порога нейрона вырабатывается выходной сигнал.

Функциональная схема формального нейрона Маккалока и Пиитса.

С современной точки зрения, формальный нейрон представляет собой математическую модель простого процессора, имеющего несколько входов и один выход. Вектор входных сигналов (поступающих через "дендриды") преобразуется нейроном в выходной сигнал (распространяющийся по "аксону") с использованием трех функциональных блоков: локальной памяти, блока суммирования и блока нелинейного преобразования.

Вектор локальной памяти содержит информацию о весовых множителях, с которыми входные сигналы будут интерпретироваться нейроном. Эти переменные веса являются аналогом чувствительности пластических синаптических контактов. Выбором весов достигается та или иная интегральная функция нейрона.

21. Функции активации формального нейрона, их смысл и основные виды

Формальный нейрон — узел искусственной нейронной сети, упрощённая модель естественного нейрона. Математически, искусственный нейрон обычно представляют как нелинейную функцию от единственного аргумента — линейной комбинации всех входных сигналов. Данную функцию называют функцией активации передаточной функцией. Передаточная функция определяет зависимость сигнала на выходе нейрона от взвешенной суммы сигналов на его входах. В большинстве случаев она является монотонно возрастающей и имеет область значений [-1,1] или [0,1]. Искусственный нейрон полностью характеризуется своей передаточной функцией. Использование различных передаточных функций позволяет вносить нелинейность в работу нейрона и в целом нейронной сети. Сигнал на выходе нейрона линейно связан со взвешенной суммой сигналов на его входе.

Взвешенная сумма сигналов на входе: ∑ , xi – входные сигналы, wi – веса входных сигналов.

Виды активационных функций:

1) Пороговая функция (функция Хэвисайда)

22. Сравнение ветвей компьютерной эволюции

24. Обучение нейронных сетей, сущность и основные алгоритмы обучения

Обучение нейронных сетей - процедура, в которой используются правила обучения для настройки весов.

Задача обучения нейронной сети является задачей поиска минимума функции ошибки в пространстве состояний, и, следовательно, для ее решения могут применяться стандартные методы теории оптимизации. Эта задача относится к классу многофакторных задач.

Существуют три тоерии обучения:

1."с учителем",

2."без учителя" (самообучение)

3.смешанная.

При обучении с учителем для каждого входного вектора существует целевой вектор, представляющий собой требуемый выход. Вместе они называются обучающей парой. Обычно сеть обучается на некотором числе таких обучающих пар.

В моделе обучения без учителя вес возрастает, если активированны оба нейрона, источник и приемник. В искусственной нейронной сети, использующей обучение без учителя, наращивание весов определяется произведением уровней возбуждения передающего и принимающего нейронов. Это можно записать как

wij(n+1) = w(n) + αγiγj, где wij(n) – значение веса от нейрона i к нейрону j до подстройки, wij(n+1) – значение веса от нейрона i к нейрону j после подстройки,

α –коэффициент скорости обучения, γi– выход нейрона i и вход нейрона j, γj– выход нейрона j.