Изменения

Перейти к: навигация, поиск

Batch-normalization

188 байт добавлено, 19:06, 22 января 2019
Обучение нейронных сетей с пакетной нормализацией
|-
|[[Файл:step8.png|300px]]
|Далее, пользуясь правилом вычисления производной при умножении, как в уравнении <tex>(5)</tex>, вычисляется градиент по параметру <tex>\gamma</tex>, и градиент . Градиент выхода умножается на данную константу, получая уравнение <tex>(1)</tex>, и передается в следующий узел.
|-
|[[Файл:step7.png|300px]]
|Данный шаг вычисляется аналогично предыдущему, получая уравнение <tex>(1)</tex>применяя правило вычисления производной при умножении.
|-
|[[Файл:step6.png|300px]]
|-
|[[Файл:step3.png|300px]]
|Получаем производную квадратавходящей функции.
|-
|[[Файл:step2.png|300px]]
Анонимный участник

Навигация