210
правок
Изменения
→Модификации
==Модификации==
Существует несколько модификаций и вариаций метода нормализации батчей:
# В работе <ref>https://arxiv.org/pdf/1603.09025.pdf</ref> был предложен способ применения нормализации батчей к [[Рекуррентные нейронные сети|рекуррентным нейронным сетям]].
# Расширение метода нормализации батчей было предложено в <ref>https://arxiv.org/pdf/1804.08450.pdf</ref>. Метод получил название декоррелированная нормализация батчей (англ. Decorrelated Batch Normalization). В данном методе кроме операций масштабирования и сдвига была предложено использование специальной функции затирания данных.
# В <ref>https://arxiv.org/pdf/1607.06450.pdf</ref> был предложен метод нормализации слоев (англ. Layer Normalization), который решает проблему выбора размера батча.
