89
правок
Изменения
→Конформер
Блок Конформера состоит из двух модулей прямой связи (англ. ''feed forward''), между которыми расположены модуль многоголового самовнимания (англ. ''Multi-Head Self Attention'') и сверточный модуль, с последующим слоем нормализации.
[[Файл:Multi_Head_Self_Attention_module.png|600px400px|thumb|right|Модуль многоголового самовнимания]]
'''Модуль многоголового самовнимания'''