Изменения

Перейти к: навигация, поиск

Регуляризация

2 байта добавлено, 14:10, 21 января 2020
Нет описания правки
:<tex>Q(\beta) = \sum\limits_{i=1}^l\mathcal{L}_{i}(\beta) + \lambda \sum\limits_{j=1}^n{|\beta_{j}|}</tex>,
где <tex>\mathcal{L}_{i}(\beta) = \mathcal{L}(y_{i}, g(x_{i}, \beta))</tex> {{---}} некоторая ограниченная гладкая функция потерь. Сделаем замену переменных, чтобы функционал стал гладким. Каждой переменной <tex>\beta_{j}</tex> поставим в соответствие две новые неотрицательные переменные:
:<tex>\begin{cases} u_{j}=\fracdfrac{1}{2}(|\beta_{j}| + \beta_{j}) \\ v_{j}=\fracfdrac{1}{2}(|\beta_{j}| - \beta_{j}) \end{cases} </tex>
Тогда:
:<tex>\begin{cases} \beta_{j} = u_{j} - v_{j} \\ |\beta_{j}| = u_{j} + v_{j} \end{cases}</tex>
193
правки

Навигация