- •1:В чём заключается идея коннективизма?
- •2 И 3:из чего состоит биологический нейрон?
- •4:Классическая модель формального нейрона
- •5:Что такое функция активации?
- •7:Что такое сигмаидальный нейрон?
- •8:Адалайн-нейтрон
- •9:Паде-нейрон
- •10: История развития нейрокопьютера
- •15:Однослойные нейронные сети
- •16:Многослойные нейронные сети Ответ: многослойные искусственные нейронные сети
- •Нелинейная активационная функция
- •17:Сети с обратными связями Ответ: Сети с обратными связями
- •18:Нейроэмулятор
- •19: Нейрочипы: анализ и сравнительные характеристики
- •20: Нейрокомпьютеры, реализованные на базе пцос и плис
- •21:Однослойный персептрон
- •23:Многослойный персептрон
- •Вопрос 25:аглоритм обратного распространения ошибки
- •34 Радиальные сети
- •35:Обучение радиальной сети
- •36: Рекуррентные нейронные сети
- •38: Обучение сети Хопфилда
- •42:Персептронная сеть с обратной связью
- •44,Алгоритмы обучения
- •Алгоритм нейронного газа
- •50:Методы редукции нейронной сети
Алгоритм нейронного газа
В этом алгоритме адаптация весов выполняется по той же формуле: Wk+1i=Wki+nuki*Gk(i,Xk)*(Xk-Wki).
В каждом цикле обучения все нейроны сортируются в последовательности возрастания расстояния d(Xk, Wi)
d0<d1<...<dj<...<dM-1. где j=m(i) - номер i-ого нейрона в последовательности. Для нейрона-победителя m(i)=0.
Значение ф-ции соседства i-ого нейрона Gk(i,Xk) определяется следующим выражением: Gk(i,Xk)=exp(-m(i)/sk),
где sk определяет уровень соседства и является величиной, уменьшающейся по ходу обучения. При sk, стремящемся к 0, алгоритм превращается в алгоритм WTA.
Для достижения хороших результатов самоорганизации сети обучение должно начинаться с большого значения sk, которое с течением времени обучения уменьшается до 0. Для такого уменьшения sk предлагается использовать выражение sk=smax*(smin/smax)k/kmax, ,где kmax - максимальное заданное количество циклов обучения.
Коэффициент обучения nuki тоже может уменьшаться с течением времени обучения, это уменьшение может быть линейным от numax в первом цикле до numin в цикле kmax, так и показательно в соответствии с формулой
nuk=numax*(numin/numax)k/kmax.
50:Методы редукции нейронной сети
Существует два способа сокращения (редукции) описания:
редукция "снизу вверх" - постепенное удаление параметров от наименее значимых к более значимым;
редукция "сверху вниз" - выделение наиболее значимых параметров и постепенное дополнение их менее значимыми.
Способ редукции "снизу вверх":
определяются наименее значимые параметры и устраняются вместе с соответствующими элементами системы;
оставшиеся параметры модифицируются так, чтобы наилучшим способом решить задачу;
циклически повторять пп. 1-2 до тех пор, пока задача не будет решаться с удовлетворительной точностью.