Изменения

Перейти к: навигация, поиск

Инициализация параметров глубокой сети

314 байт добавлено, 23:38, 11 мая 2022
tensorflow xavier
conv1 = torch.nn.Conv2d(...)
torch.nn.init.xavier_uniform(conv1.weight)
 
====Пример инициализации Xavier на языке Python с библиотекой TensorFlow====
 
<font color=darkgreen># инициализация параметров тензора 2x2</font>
initializer = tf.keras.initializers.GlorotUniform()
values = initializer(shape=(2, 2))
===Метод инициализации He<ref>[https://arxiv.org/pdf/1502.01852.pdf Delving deep into rectifiers: Surpassing human-level performance on ImageNet classification ]</ref>===
50
правок

Навигация