Изменения
→Sigmoid function
*сюда картинку*
Sigmoid function, в отличие от ступенчатой функции, вводит нелинейность в выбранную модель нейронной сети. Нелинейность означает, что выход, получаемых из нейрона, который является произведением некоторых входов x <math>x (x_1, x_2, ..., x_m)</math> и весов w <math>w (w_1, w_2, ..., w_m)</math> плюс смещение, а затем помещаемый в sigmoid function, не может быть представлен линейной комбинацией входов x <math>x (x_1, x_2, ..., x_m)</math>.
== Rectified Linear Units (ReLU) ==