1. Единичный скачок или жесткая пороговая функция
Простая кусочно-линейная функция. Если входное значение меньше порогового, то значение функции активации равно минимальному допустимому, иначе – максимально допустимому.
2. Линейный порог или гистерезис
Несложная кусочно-линейная функция. Имеет два линейных участка, где функция активации тождественно равна минимально допустимому и максимально допустимому значению и есть участок, на котором функция строго монотонно возрастает.
3. Сигмоидальная функция или сигмоид
Монотонно
возрастающая всюду дифференцируемая 
-образная
нелинейная функция с насыщением. Сигмоид
позволяет усиливать слабые сигналы и
не насыщаться от сильных сигналов.
Гроссберг (1973 год) обнаружил, что подобная
нелинейная функция активации решает
поставленную им дилемму шумового
насыщения.
-
Как функционирует нейрон?
-
Что такое персептрон? Что такое матрица весовых коэффициентов синапсов одного слоя нейронов?
Персептрон, перцептрон (англ. perceptron, нем. Perzeptron, от лат. perceptio — понимание, познавание, восприятие), математическая модель процесса восприятия. Сталкиваясь с новыми явлениями или предметами, человек их узнаёт, то есть относит к тому или иному понятию (классу).
ПЕРСЕПТРОН (англ. perseptron, от лат. perseptio - восприятие), устройство, моделирующее процесс восприятия; впервые предложено американским ученым Ф. Розенблаттом (F. Rosenblatt) в 1957 (зрительный анализатор "Марк-1"). Впоследствии персептроном стали называть системы (часто на базе электронно-вычислительных машин) для решения задач, связанных с распознаванием образов.
-
В чем заключается работа персептронов? Как иллюстрируется работа нейронной сети геометрическим примером?
Перцептро́н, или персептрон[nb 1] (англ. perceptron от лат. perceptio — восприятие; нем. perzeptron) — математическая икомпьютерная модель восприятия информации мозгом (кибернетическая модель мозга), предложенная Фрэнком Розенблаттом в 1957 году и реализованная в виде электронной машины «Марк-1»[nb 2] в 1960 году. Перцептрон стал одной из первых моделей нейросетей, а «Марк-1» — первым в мире нейрокомпьютером. Несмотря на свою простоту, перцептрон способен обучаться и решать довольно сложные задачи. Основная математическая задача, с которой он справляется, — это линейное разделение любых нелинейных множеств, так называемое обеспечение линейной сепарабельности.
Перцептрон состоит из трёх типов элементов, а именно: поступающие от сенсоров сигналы передаются ассоциативным элементам, а затем реагирующим элементам. Таким образом, перцептроны позволяют создать набор «ассоциаций» между входными стимулами и необходимой реакцией на выходе. В биологическом плане это соответствует преобразованию, например, зрительной информации вфизиологический ответ от двигательных нейронов. Согласно современной терминологии, перцептроны могут быть классифицированы как искусственные нейронные сети: