Изменения

Перейти к: навигация, поиск

Регуляризация

1074 байта добавлено, 03:10, 19 января 2020
Мотивация
==Мотивация==
Как говорилось ранее, регуляризация полезна для борьбы с <переобучением>. Если вы выбрали сложную модель, и при этом у вас недостаточно данных, то легко можно получить итоговую модель, которая хорошо описывает обучающую выборку, но не обобщается на тестовую.
 
В качестве наглядного примера можно рассмотреть линейные регрессионные модели.
Восстановить зависимость для нескольких точек можно пытаться полиномами разной степени.
 
{|align="center"
|-valign="top"
|[[Файл:High_bias_reg.png|200px|thumb|Рис 1. Недообучение. M=1]]
|[[Файл:Normal_bias_reg.png|200px|thumb|Рис 2. Норма. M=2]]
|[[Файл:High_variance_reg.png|200px|thumb|Рис 3. Переобучение. M=4]]
|}
==Основные виды регуляризации==
193
правки

Навигация