193
правки
Изменения
→Регуляризация в линейной регрессии
==Регуляризация в линейной регрессии==
В [[Линейная регрессия | линейной регрессии]] моделируется линейная зависимость между зависимой и независимой переменной. Таким образом, модель алгоритмов для нее состоит из функций вида:
:$g(x, \beta) = \sum_{j}^n \beta_{j} f_{j}(x)$
К сожалению, могут возникнуть проблемы мультиколлинеарности и переобучения в случае, если ковариационная матрица $\sum = F^T F$ плохо обусловлена. Одним из способов борьбы с этими проблемами является '''регуляризация'''.
В основной статье о [Виды регрессии | видах регрессии]] представлены виды модификации линейной регрессии регресиии с различными регуляризаторами ($L_{1}$ и $L_{2}$) и их отличие. Описание в данном разделе будет похожим, однако здесь будет рассмотрен эффект от их добавления регуляризаторов немного детальнее.
===Гребневая регрессия===
