Изменения
Нет описания правки
Одним из важнейших аспектов глубокой нейронной сети является '''функция активации'''<ref>[https://en.wikipedia.org/wiki/Activation_function Activation function. Wikipedia]</ref>, которая определяет зависимость выходного сигнала нейрона от входного сигнала или набора входных сигналов.
Ниже представлены распространенные функции активации.
== Sigmoid function ==
У ступенчатых функций есть определенное количество ограничений, связанных с ее линейностью. Если функция активации является линейной, то независимо от количества складываемых скрытых слоев в нейронной сети, конечный результат по-прежнему будет являеться линейной комбинацией исходных входных данных. Эта линейность означает, что она не может реально охватить сложность нелинейных задач, таких как оператор XOR или различные паттерны, разделенные кривыми или кругами. Другой проблемой является то, что перцептрон с ступенчатой функцией не очень «стабилен», то есть может перейти из состояния 0 в 1 и из 0 в 1 при небольших изменениях в любом из весов входного слоя.
