Изменения
→Идея
Но для скрытых слоев нейронной сети такой метод не подходит, так как распределение входных данных для каждого узла скрытых слоев изменяется каждый раз, когда происходит обновление параметров в предыдущем слое.
Эта проблема называется '''внутренним смещением ковариации''' (англ. internal covariate shift).
Для решения данной проблемы необходимо часто приходится использовать маленький коэффициент скорости обучения и методы регуляризации при обучении модели.
Другим способом устранения внутреннего смещения ковариации является метод пакетной нормализации.
