Изменения

Перейти к: навигация, поиск

Механизм внимания

1 байт добавлено, 15:12, 12 декабря 2020
м
Сверточный модуль внимания
*<math>F_2 = A_2(F_1) \otimes F_1</math>
Здесь за <math> \otimes </math> обозначено поэлементное произведение, а тензоры <math>A_1(F)</math> и <math>A_2(F_1)</math> копируются вдоль недостающих измерений.<math>F_1 \in \mathbb{R}^{C \times H \times W}</math> {{---}} тензор после применения канального модуля внимания, <math>F_2 \in \mathbb{R}^{C \times H \times W}</math> {{---}} выходное множество признаков.
=== Канальный модуль внимания ===
85
правок

Навигация