Изменения

Необходимость регуляризации можно увидеть и на другом примере {{---}} при использовании логистической регресии. Представьте, что ваша обучающая выборка была линейно разделима. В таком случае в процессе оптимизации значения весов модели уйдут в бесконечность , и вместо сигмойды получится "ступенька", как представлено представленная на Рис. 3.

Это плохо, ибо мы переобучились на нашу произошло затачивание под обучающую выборку. Как и в предыдущем примере, побороться с этим можно путем добавлением регуляризации, не дающей весам принимать слишком большие значения.