Изменения

Перейти к: навигация, поиск

Механизм внимания

28 байт добавлено, 15:31, 9 декабря 2020
м
Convolutional Block Attention Module
==Модули внимания==
===Convolutional Block Attention ModuleСверточный модуль внимания===
[[Файл:ConvolutionalBlockAttentionModule.png|600px|thumb|right|Сверточный модуль внимания]]
'''Convolutional Block Attention ModuleСверточный модуль внимания''' {{---}} простой, но эффективный модуль внимания для [[:Сверточные_нейронные_сети|сверточных нейросетей]]. Данный модуль внимания состоит из двух последовательно применяемых подмодулей {{---}} канального (''Channel Attention Module'', применяется ко всем каналам одного пикселя с изображения) и пространственного (''Spatial Attention Module'', применяется ко всему изображению с фиксированным каналом).
Более формально говоря: на вход подается множество признаков <math>F \in \mathbb{R}^{C \times H \times W}</math>, где <math>C</math> {{---}} число каналов, <math>H</math> {{---}} высота, а <math>W</math> {{---}} длина изображения. Канальный подмодуль <math>A_1(F)</math> принадлежит множеству <math>\mathbb{R}^{C \times 1 \times 1}</math>, а пространственный <math>A_2(F)</math> принадлежит множеству <math>\mathbb{R}^{1 \times H \times W}</math>. Таким образом применение модуля можно описать так:
85
правок

Навигация