193
правки
Изменения
→Свойства регуляризаторов
==Свойства регуляризаторов==
'''<tex>L_{2}</tex>-регуляризация'''
Минимизация регуляризованного cоответствующим образом эмпирического риска приводит в данном случае к выбору такого вектора параметров <tex>\beta</tex>, которое не слишком сильно отклоняется от нуля. В линейных классификаторах это позволяет избежать проблем мультиколлинеарности и переобучения.
'''<tex>L_{1}</tex>-регуляризация'''
Данный вид регуляризации также позволяет ограничить значения вектора <tex>\beta</tex>. Однако, он также обладает интересным и полезным на практике свойством - обнуляет значения некоторых параметров, что в случае с линейными моделями приводит к отбору признаков.
Запишем задачу настройки вектора параметров <tex>\beta</tex>:
<tex>Q(\beta) = sum_{i}^l
'''Эластичная сеть'''
==Вероятностная интерпретация регуляризации==
