Изменения

Перейти к: навигация, поиск

Регуляризация

2 байта добавлено, 05:57, 5 апреля 2021
Градиентный спуск
:<tex>Q_{\tau}(w) = Q(w) + \dfrac{\tau}{2}\|w\|^2</tex>
Это приводит к появлению аддитивной поправки в градиенте:
:<tex>Q_{\tau}'(w) = Q′(w) + \tauw</tex>
В результате правило обновления весов принимает вид:
:<tex>w := w(1 - \eta \tau) - \eta Q'(w)</tex>
Анонимный участник

Навигация