Изменения

Перейти к: навигация, поиск

Регуляризация

4 байта добавлено, 13:51, 21 января 2020
Градиентный спуск
:<tex>Q_{\tau}(w) = Q(w) + \frac{\tau}{2}\|w\|^2</tex>
Это приводит к появлению аддитивной поправки в градиенте:
:<tex>Q′τ Q′_{\tau}(w) = Q′(w) + \tau</tex>
В результате правило обновления весов принимает вид:
:<tex>w := w(1 - \eta \tau) - \eta Q'(w)</tex>
193
правки

Навигация