193
правки
Изменения
→Лассо регрессия
===Лассо регрессия===
Итоговый минимизируемый функционал с поправкой:
:<tex>Q_{\tau}(\beta) = ||F \beta - y||^2 + \tau ||\beta||</tex>
Запишем систему для этой регрессии в виде минимизации неизменного функционала $Q$ при неравенстве-ограничении:
:$\begin{cases} Q(\beta) = \| F\beta - y \|^2 \rightarrow min_{\beta} \\ \sum_{j=1}^n|\beta_{j}| \leq \chi \\ \end{cases}$
Так как используется $L_{1}$-регуляризатор, коэффициенты $\beta_{j}$ постепенно обнуляются с уменьшением \chi. Происходит отбор признаков, поэтому параметр \chi называют еще ''селективностью''. Параметр \chi "зажимает" вектор коэффициентов \beta, отсюда и название метода - лассо (англ. ''LASSO, least absolute shrinkage and selection operator'').
===Сравнение гребниевой и лассо регрессий===
