Изменения

Перейти к: навигация, поиск

Обсуждение участника:Mishenkoil

843 байта убрано, 18:31, 9 мая 2022
правки
Принцип выбора начальных значений весов Инициализация {{---}} это процесс установки настраиваемых параметров для слоев, составляющих модель очень нашей глубокой сети. Выбор правильного метода инициализации важен: установка всех весов в 0 будет серьезным препятствием для качества обучения, так как ни один из весов изначально не будет активеннашей модели. Также это позволяет сократить время сходимости и минимизировать функцию потерь. Присваивать весам значения из интервала <tex>[-1, 1]</tex> — тоже обычно не лучший вариант — на самом деле, иногда (Установка параметров в зависимости от задачи и сложности модели) от правильной инициализации модели 0 или константное значение может зависетьпривести к тому, достигнет она высочайшей производительности или что наша сеть вообще не будет сходитьсяобучаться. Даже если задача не предполагает такой крайности, удачно выбранный способ инициализации весов может значительно влиять на способность модели к обучению, так как он предустанавливает параметры модели с учетом функции потерь<ref>[https://habr.com/company/wunderfund/blog/315476/ Тонкая настройка нейронной сети, Habr]</ref>. Всегда можно Поэтому важно уметь выбрать случайно начальное приближение, но лучше выбирать определённым образомправильный метод.
===Инициализация случайными числами===
50
правок

Навигация