5
правок
Изменения
м
→Sigmoid function
[[Файл:sigmoid_function.png|border|500px|thumb|center|Рис 1. Sigmoid Function]]
Функция sigmoid, в отличие от ступенчатой функции, вводит нелинейность в выбранную модель нейронной сети. Нелинейность означает, что выход, получаемых получаемый из нейрона, который является произведением некоторых входов <math>x (x_1, x_2, ..., x_m)</math> и весов <math>w (w_1, w_2, ..., w_m)</math> плюс смещение, а затем помещаемый в преобразованный sigmoid функциюфункцией, не может быть представлен линейной комбинацией входов <math>x (x_1, x_2, ..., x_m)</math>.
== Rectified Linear Units (ReLU) ==