Изменения

Перейти к: навигация, поиск

Регуляризация

2 байта убрано, 21 январь
Градиентный спуск
:<tex>Q_{\tau}(w) = Q(w) + \frac{\tau}{2}\|w\|^2</tex>
Это приводит к появлению аддитивной поправки в градиенте:
:<tex>Q′_Q_{\tau}'(w) = Q′(w) + \tau</tex>
В результате правило обновления весов принимает вид:
:<tex>w := w(1 - \eta \tau) - \eta Q'(w)</tex>
193
правки

Навигация