1632
правки
Изменения
м
Обычно слой использующийся ===Пример использования обобщенного механизма внимания для задачи машинного перевода===Для лучшего понимания работы обобщенного механизма внимания представляет собой обычную, чаще всего однослойную, нейронную сеть на вход которой подаются <math>h_t, t = 1 \ \ldots m</math>, а также вектор <math>d</math> будет рассмотрен пример его применения в котором содержится некий контекст зависящий от конкретно задачи (пример <math>d</math> для задачи задаче машинного перевода использующего ''Seq2Seq'' арихитектуру)при помощи Seq2seq сетей для решения которой он изначально был представлен.
Выходом данного слоя будет являтся вектор <math>s</math> (англ====Базовая архитектура ''Seq2seq''====[[File:Seq2SeqBasic. png|350px|thumb|Пример работы базовой ''Seq2seq'' сети]]Для понимания механизма внимания в ''Seq2seq'' сетях необходимо базовое понимание ''scoreSeq2seq'') {{---}} оценки на основании которых на скрытое состояние <math>h_i</math> будет "обращено внимание"архитектуры до введения механизма внимания.
Далее для нормализации значений <math>s</math> используется <math>softmax</math>''Seq2seq'' состоит из двух [[:Рекуррентные_нейронные_сети|RNN]] {{---}} ''Энкодера'' и ''Декодера''. Тогда <math>e = softmax(s)</math>
<math>softmax</math> здесь используется благодоря своим свойствам: ''Энкодер'' {{---}} принимает предложение на языке ''A'' и сжимает его в вектор скрытого состояния.
Несмотря на тоЗдесь <math>x_i, h_i, d_i, y_i</math> имеют те же назначения, что нейронные сети рассматриваются как "черный ящик" и интерпретировать их внутренности в понятных человеку терминах часто невозможно, все же механизм варианте без механизма внимания интуитивно понятный людям смог улучшить результаты машинного перевода для алгоритма используемого в статье.
=== Базовая архитектура ''Seq2SeqАгрегатор скрытых состояний энкодера (желтый)'' {{---}} агрегирует в себе все вектора <math>h_i</math> и возвращает всю последовательность векторов <math>h ===[[File:Seq2SeqBasic.png|450px|thumb|Пример работы базовой ''Seq2Seq'' сетиh_1, h_2, h_3, h_4]]Данный пример рассматривает применение механизма внимания в задаче машинного перевода в применении к архитектуре ''Seq2Seq''</math>.
''Seq2Seq'' состоит из двух [[:Рекуррентные_нейронные_сети|RNN]] <math>c_i</math> {{---}} ''Encoder'' и ''Decoder''вектор контекста на итерации <math>i</math>.
Рассмотрим пример работы ''Seq2Seq'' сети:
<math>x_i</math> ==Модули внимания=====Сверточный модуль внимания===[[Файл:ConvolutionalBlockAttentionModule.png|601px|thumb|right|Сверточный модуль внимания]]'''Сверточный модуль внимания''' (англ. ''сonvolutional block attention module'') {{---}} слова простой, но эффективный модуль внимания для [[:Сверточные_нейронные_сети|сверточных нейросетей]]. Применяется для задач детектирования обьектов на изображениях и классификации с входными данными больших размерностей. Данный модуль внимания состоит из двух последовательно применяемых подмодулей {{---}} канального (применяется ко всем каналам одного пикселя с изображения) и пространственного (применяется ко всему изображению с фиксированным каналом), оба эти подмодуля описаны в предложении на языке ''A''следующих разделах.
''Блоки энкодера (зеленый)'' {{---}} блоки энкодера получающие на вход *<math>x_i</math> и передающие скрытое состояние <math>h_iF_1 = A_1(F) \otimes F</math> на следующую итерацию.
Здесь Данная методика показала себя настолько эффективной в задаче машинного перевода, что позволила отказаться от использования [[:Рекуррентные_нейронные_сети|RNN]] и заменить их на обычные нейронные сети в комбинации с механизмом ''Self-attention'' в архитектуре трансформер<mathref>x_i, h_i, d_i, y_ihttps://papers.nips.cc/paper/7181-attention-is-all-you-need.pdf</mathref> имееют те же назначения, что и в варианте без механизма внимания.
''Аггрегатор скрытых состояний энкодера (желтый)'' {{---}} аггрегирует в себе все вектора <math>h_i</math> и возвращает всю последовательность векторов <math>h = Это позволило ускорить работу алгоритма, поскольку ранее предложение обрабатывалось последовательно при помощи [[h_1, h_2, h_3, h_4:Рекуррентные_нейронные_сети|RNN]]</math>. При использовании трансформера каждое слово в предложении может обрабатываться параллельно.
<math>c_i</math> {{Основным отличием ''Self---}} вектор контекста на итерации <math>i</math>Attention'' от [[:Механизм_внимания#Обобщенный механизм внимания|обобщенного механизма внимания]] является, что он делает заключения о зависимостях исключительно между входными данными.
Таким образом при помощи механизма внимания достигается "фокусирование" декодера на определенных скрытых состояниях. В случаях машинного перевода эта возможность помогает декодеру предсказывать на какие скрытые сосояния при исходных определенных словах на языке Также ''A'' необходимо обратить больше внимания при переводе данного слова на язык ''BSelf-Attention''успешно применяется применяется в [[:Generative_Adversarial_Nets_(GAN)|GAN]] сетях, в частности в алгоритме SAGAN<ref>https://arxiv.org/abs/1805.08318</ref>.
rollbackEdits.php mass rollback
'''Механизм внимания в рекуррентных нейронных сетях''' (англ. ''attention mechanism'', ''attention model'') {{---}} дополнительный слой используемый техника используемая в [[:Рекуррентные_нейронные_сети|рекуррентных нейронных сетях ]] (сокращенно сокр. ''RNN'')и [[:Сверточные_нейронные_сети|сверточных нейронных сетях]] (сокр. ''CNN'') для "обращения внимания" последующих слоев сети на скрытое состояние нейронной сети <math>h_t</math> в момент времени <math>t</math>поиска взаимосвязей между различными частями входных и выходных данных.
Изначально механизм внимания был представлен в контексте [[:Рекуррентные_нейронные_сети|рекуррентных]] ''Seq2seq''<ref>[https://en.wikipedia.org/wiki/Seq2seq Wiki -- Seq2seq]</ref> сетей <ref>https://arxiv.org/abs/1409.0473</ref> для "обращения внимания" блоков декодеров на скрытые состояния [[:Рекуррентные_нейронные_сети|статье описывыющей данную техникуRNN] и ] для любой итерации энкодера, а не только последней. После успеха этой методики в машинном переводе последовали ее внедрения в других задачах [[:Механизм_внимания#Пример использования для архитектуры Seq2SeqОбработка_естественного_языка|применение именно в ''Seq2Seq'' сетяхобработки естественного языка]], и лишь позже был использован в применения к [[:Сверточные_нейронные_сети|CNN]] для генерации описания изображения<ref>https://arxiv.org/abs/1502.03044</ref> и [[:Generative_Adversarial_Nets_(GAN)|статье применительно к генерации описания изображенийпорождающих состязательных сетях]]<ref>https://arxiv.org/abs/1805.08318</ref> (сокр. ''GAN'').
== Обобщенное описание Обобщенный механизм внимания==[[File:AttentionGeneral.png|350px|thumb|Обобщенное описание механизма '''Обобщенный механизм внимания]][[:Рекуррентные_нейронные_сети|Рекуррентные нейронные сети]] используются при обработке данных, для которых важна их последовательность''' (англ. В классическом случае применения [[:Рекуррентные_нейронные_сети|RNN]] результатом является только последнее скрытое состояние <math>h_m</math>, где <math>m</math> general attention) {{---}} длина последовательности входных данных. Использование разновидность механизма внимания позволяет использовать информацию полученную не только из последнего скрытого состояниния, но задачей которой является выявление закономерности между входными и любого скрытого состояния выходными данными. Изначально механизм внимания представленный в оригинальной статье<mathref>h_t<https://arxiv.org/abs/math> для любого <math>t1409.0473</mathref>подразумевал именно этот тип внимания.
''Декодер'' {{---}} выдает слово на языке ''B'', принимает последнее скрытое состояние энкодера и предыдущее предсказанное слово. Рассмотрим пример работы ''Seq2seq'' сети: <math>x_i</math> {{---}} слова в предложении на языке ''A''. <math>h_i</math> {{---}} скрытое состояние энкодера. ''Блоки энкодера (зеленый)'' {{---}} блоки энкодера получающие на вход <math>x_i</math> и передающие скрытое состояние <math>h_i</math> на следующую итерацию. <math>d_i</math> {{---}} скрытое состояние декодера. <math>y_i</math> {{---}} слова в предложении на языке ''B''. ''Блоки декодера (фиолетовый)'' {{---}} блоки декодера получающие на вход <math>y_{i-1}</math> или специальный токен '''start''' в случае первой итерации и возвращаюшие <math>y_i</math> {{---}} слова в предложении на языке ''B''. Передают <math>d_i</math> {{---}} скрытое состояние декодера на следующую итерацию. Перевод считается завершенным при <math>y_i</math>, равном специальному токену '''end'''. ====Применение механизма внимания для ''Seq2seq''====Несмотря на то, что нейронные сети рассматриваются как "черный ящик" и интерпретировать их внутренности в понятных человеку терминах часто невозможно, все же механизм внимания интуитивно понятный людям смог улучшить качество машинного перевода базового ''Seq2seq'' алгоритма. Успех использования этого подхода в задаче машинного перевода обусловлен лучшим выводом закономерностей между словами находящимися на большом расстоянии друг от друга. Несмотря на то, что [[:Долгая_краткосрочная_память|LSTM и GRU]] блоки используются именно для улучшения передачи информации с предыдущих итераций [[:Рекуррентные_нейронные_сети|RNN]] их основная проблема заключается в том, что влияние предыдущих состояний на текущее уменьшается экспоненциально от расстояния между словами, в то же время механизм внимания улучшает этот показатель до линейного<ref>https://towardsdatascience.com/transformers-141e32e69591</ref>. [[:Рекуррентные_нейронные_сети|RNN]] используются при обработке данных, для которых важна их последовательность. В классическом случае применения [[:Рекуррентные_нейронные_сети|RNN]] результатом является только последнее скрытое состояние <math>h_m</math>, где <math>m</math> {{---}} длина последовательности входных данных. Использование механизма внимания позволяет использовать информацию полученную не только из последнего скрытого состояния, но и любого скрытого состояния <math>h_t</math> для любого <math>t</math>.=====Устройство слоя механизма внимания=====[[File:AttentionGeneral.png|350px|thumb|Обобщенный механизм внимания в [[:Рекуррентные_нейронные_сети|RNN]]]]Слой механизма внимания представляет собой обычную, чаще всего однослойную, нейронную сеть на вход которой подаются <math>h_t, t = 1 \ \ldots m</math>, а также вектор <math>d</math> в котором содержится некий контекст зависящий от конкретной задачи. В случае ''Seq2seq'' сетей вектором <math>d</math> будет являться скрытое состояние <math>d_{i-1}</math> предыдущей итерации декодера. Выходом данного слоя будет является вектор <math>s</math> (англ. ''score'') {{---}} оценки на основании которых на скрытое состояние <math>h_i</math> будет "обращено внимание". Далее для нормализации значений <math>s</math> используется <math>softmax</math><ref>[https://ru.wikipedia.org/wiki/Softmax Wiki -- Функция softmax]</ref>. Тогда <math>e = softmax(s)</math> <math>softmax</math> здесь используется благодаря своим свойствам: *<math>\forall s:\colon\ \sum_{i=1}^n softmax(s)_i = 1, </math>*<math>\forall s,\ i: \colon \ softmax(s)_i >= 0 </math>
Далее считается <math>c</math> (англ. ''context vector'')
<math>с = \sum_{i=1}^m e_i h_i</math>
Результатом работы слоя внимания является <math>c</math> который, содержит в себе информацию обо всех скрытых состоянях состояниях <math>h_i</math> пропорционально оценке <math>e_i</math>.
== Пример использования для архитектуры ===Применение механизма внимания к базовой ''Seq2SeqSeq2seq'' архитектуре=====[[File:Seq2SeqAttention.png|350px|thumb|Пример добавления механизма внимания в работы ''Seq2SeqSeq2seq'' сеть поможет лучше понять его предназначение. сети с механизмом внимания]]Изначально При добавлении механизма в оригинальной статье<ref>данную архитектуру между [[https://arxiv.org/abs/1409.0473Рекуррентные_нейронные_сети|Neural Machine Translation by Jointly Learning to Align and TranslateRNN]</ref> применяется механизм ] ''Энкодером'' и ''Декодером'' слоя механизма внимания в контексте именно Seq2Seq сети.получится следующая схема:
''EncoderБлоки механизма внимания (красный)'' {{---}} принимает предложение на языке ''A'' <math>h</math> и сжимает его в вектор скрытого состояния<math>d_{i - 1}</math>, возвращает <math>c_i</math>.
''DecoderБлоки декодера (фиолетовый)'' {{---}} выдает слово на языке по сравнению с обычной ''BSeq2seq''сетью меняются входные данные. Теперь на итерации <math>i</math> на вход подается не <math>y_{i-1}</math>, принимает последнее скрытое состояние энкодера а конкатенация <math>y_{i-1}</math> и предыдущее предыдущее предсказаное слово<math>c_i</math>.
Таким образом при помощи механизма внимания достигается "фокусирование" декодера на определенных скрытых состояниях. В случаях машинного перевода эта возможность помогает декодеру предсказывать на какие скрытые состояния при исходных определенных словах на языке ''A'' необходимо обратить больше внимания при переводе данного слова на язык ''B''. То есть на какие слова из исходного текста обратить внимание при переводе конкретного слова на язык назначения.
Более формально говоря: на вход подается множество признаков <math>h_iF \in \mathbb{R}^{C \times H \times W}</math>, где <math>C</math> {{---}} число каналов, <math>H</math> {{---}} высота, а <math>W</math> {{---}} скрытое состояние энкодерадлина изображения. Канальный подмодуль <math>A_1(F)</math> принадлежит множеству <math>\mathbb{R}^{C \times 1 \times 1}</math>, а пространственный <math>A_2(F)</math> принадлежит множеству <math>\mathbb{R}^{1 \times H \times W}</math>.Таким образом применение модуля можно описать так:
*<math>d_iF_2 = A_2(F_1) \otimes F_1</math> {{---}} скрытое состояние декодера.
Здесь за <math>y_i\otimes </math> обозначено поэлементное произведение, а тензоры <math>A_1(F)</math> и <math>A_2(F_1)</math> копируются вдоль недостающих измерений. <math>F_1 \in \mathbb{R}^{C \times H \times W}</math> {{---}} тензор после применения канального модуля внимания, <math>F_2 \in \mathbb{R}^{C \times H \times W}</math> {{---}} слова в предложении на языке ''B''выходное множество признаков.
=== Канальный модуль внимания ===[[Файл:ChannelAttentionModule.png|600px|thumb|right|Канальный модуль внимания]]'''Канальный модуль внимания'''Блоки декодера (фиолетовый)англ. ''channel attention module'' {{---}} блоки декодера получающие ) реализуется за счет исследования внутриканальных взаимосвязей во входных данных, то есть пытается извлечь информацию из яркости каналов одного пикселя. Фокусируется на вход том, "какая" информация находится в данных. Для более эффективной реализации используется сжатие входных данных по измерениям <math>H</math> и <math>W</math> с помощью [[:Сверточные_нейронные_сети#Пулинговый слой|пулингов]] <math>y_MaxPool</math> и <math>AvgPool</math>, которые применяются независимо к входному тензору. В результате которого получаются два вектора <math>F^c_{i-1max}</math> или специальный токен '''start''' в случае первой итерации и возвращаюшие <math>y_iF^c_{avg}</math> из <math>\mathbb{R}^{---C}} слова в предложении на языке ''B''</math>. Передают После чего к этим двум векторам независимо применяется одна и та же [[:Нейронные_сети,_перцептрон#Многослойные нейронные сети|полносвязная нейронная сеть]] с одним скрытым слоем малой размерности (при этом ее входные и выходные вектора принадлежат <math>d_i\mathbb{R}^{C}</math> ). После этого полученные из нейросети вектора поэлементно складываются, к результату поэлементно применяется сигмоидная функция активации и добавляются недостающие единичные размерности. Полученный тензор из <math>\mathbb{R}^{---C \times 1 \times 1}} скрытое состояние декодера на следующую итерацию. Перевод считается завершенным при </math> как раз и является результатом применения <math>y_iA_1(F)</math>, равном специальному токену '''end'''поэлементное произведение которого со входом <math>F</math> дает тензор <math>F_1</math>.
=== Применение механизма Пространственный модуль внимания для ''Seq2Seq'' ===При добавлении механизма в данную архитектуру между [[Файл:Рекуррентные_нейронные_сетиScreenshot (203).png|600px|thumb|RNNright|Пространственный модуль внимания]] '''EncoderПространственный модуль внимания'' и ' (англ. ''Decoderspatial attention module'' слоя механизма внимания получится следуюшая схема) реализуется за счет исследования пространственных взаимосвязей, то есть пытается извлечь информацию из взаимного расположения пикселей. В отличие от канального фокусируется на том, "где" находится информация во входных данных. В данном случае для сжатия размерности используются те же [[:Сверточные_нейронные_сети#Пулинговый слой|пулинги]], но относительно измерения <math>C</math>. Таким образом на выходе мы получаем две матрицы <math>F^s_{max}</math> и <math>F^s_{avg}</math> из <math>\mathbb{R}^{H \times W}</math>. После чего они конкатенируются и к полученному тензору размерности <math>\mathbb{R}^{2 \times H \times W}</math> применяется [[:Сверточные_нейронные_сети#Свертка|свертка]], уменьшающая число каналов до одного и не меняющая остальные размерности, а к результату поэлементно применяется сигмоидная функция активации. Полученный тензор из <math>\mathbb{R}^{1 \times H \times W}</math> как раз является результатом применения <math>A_2(F_1)</math>, поэлементное произведение которого с <math>F_1</math> дает выходной тензор <math>F_2</math>, который называется выходным множеством признаков c размерностью <math>\mathbb{R}^{C \times H \times W}</math>.
==Self-Attention==[[File:Seq2SeqAttentionTransformerSelfAttentionVisualization.png|450px250px|thumb|Пример работы ''Seq2SeqSelf-Attention'' сети с механизмом внимания]]'''Self-Attention''' {{---}} разновидность механизма внимания, задачей которой является выявление закономерности только между входными данными.
Рассмотрим предложение ''Блоки механизма внимания (красный)'The animal didn' {{t cross the street because it was too tired''' и результат работы алгоритма ''Self---}} механизм вниманияattention'' для слова '''it'''. Принимает <math>h</math> и <math>d_{i - 1}</math>, возвращает <math>c_i</math>Полученный вектор соответствует взаимосвязи слова '''it''' со всеми остальными словам в предложении.
Из визуализации вектора можно заметить, что механизм ''Self-attention''Блоки декодера (фиолетовый)обнаружил взаимосвязь между словами '''it''' и '' {{---}} по сравнению с обычной 'animal'Seq2Seq'' сетью меняются входные данные. Теперь на итерации <math>i</math> на вход подается не <math>y_{i-1}</math>Этот результат можно интуитивно объяснить с человеческой точки зрения, что позволяет алгоритмам машинного обучения, использующим данный подход, а конкатенация <math>y_{i-1}</math> и <math>c_i</math>лучше решать задачу принимая во внимание контекстные взаимосвязи.
==См. также==
*[[:Рекуррентные_нейронные_сети|Рекуррентные нейронные сети]]
==Источникиинформации==*[https://blog.floydhub.com/attention-mechanism/amp/ Статья о механизме внимания, его типах и разновидностях]
*[https://www.coursera.org/lecture/nlp-sequence-models/attention-model-lSwVa Лекция Andrew Ng о механизме внимания в NLP]
*[https://towardsdatascience.com/intuitive-understanding-of-attention-mechanism-in-deep-learning-6c9482aecf4f Статья с подробно разборанными примерами и кодом на ''Python'' и ''TensorFlow'']
*[http://jalammar.github.io/illustrated-transformer/ Статья c примерами работы Self-attention]
*[https://arxiv.org/pdf/1807.06521.pdf Статья о сверточном модуле внимания (CBAM)]
==Примечания==
