Изменения

Перейти к: навигация, поиск

Batch-normalization

552 байта добавлено, 19:30, 9 января 2019
Нет описания правки
==Идея==
[[Файл:covariate-shift1.png|upright=1.5600px|thumb|Пример свертки Верхние две строки роз показывают первое подмножество данных, а нижние две строки показывают другое подмножество данных. Данные подмножества имеют довольно различные распределения. На графиках показано распределение двух матриц классов в пространстве объектов с дополнением нулямииспользованием красных и зеленых точек. Синяя линия показывает границу между двумя классами.]]
Нормализация входного слоя обычно выполняется путем масштабирования функции активации. Например, когда у нас есть признаки со значениями от 0 до 1 и некоторые признаки со значениями от 1 до 1000, то их необходимо нормализовать, чтобы ускорить обучение. То же самое можно сделать и для скрытых слоев нейронных сетей.
210
правок

Навигация