193
правки
Изменения
→Гррадиентный спуск
:<tex>Q′τ (w) = Q′(w) + \tau</tex>
В результате правило обновления весов принимает вид:
:<tex>w := w(1 - \eta \tau) - \eta Q'(w)</tex>Таким образом,вся модификация сводится к появлению неотрицательного множителя <tex>(1 − \eta \tau)<\tex>, приводящего к постоянному уменьшению весов. '''Достоинства'''* Предотвращается паралич,* повышается устойчивость весов в случае мультиколлинеарности,* повышается обобщающая способность алгоритма и снижается риск переобучения. '''Недостатки'''* Параметр <tex>\tau</tex> необходимо выбирать с помощью [[Кросс-валидация | кросс-валидации]], что связано с большими вычислительными затратами.
===Метод опорных векторов===
