Изменения

Перейти к: навигация, поиск

Механизм внимания

147 байт добавлено, 16:10, 9 декабря 2020
м
Сверточный модуль внимания
*<math>F_2 = A_2(F_1) \otimes F_1</math>
Здесь за <math> \otimes </math> обозначено поэлементное произведение, а тензоры <math>A_1(F)</math> и <math>A_2(F_1)</math> копируются вдоль недостающих измерений. <math>F_1 \in \mathbb{R}^{C \times H \times W}</math> {{---}} тензор после применения канального модуля внимания, <math>F_2 \in \mathbb{R}^{C \times H \times W}</math> является выходным множеством {{---}} выходное множество признаков.
=== Канальный модуль внимания ===
85
правок

Навигация