1632
правки
Изменения
м
(или проще для "обращения внимания" на определенные части входных данных в зависимости от текущего контекста. (как лучше?)) Изначально механизм внимания был представлен в контексте [[:Рекуррентные_нейронные_сети|рекуррентных]] ''Seq2seq'' <ref>[https://en.wikipedia.org/wiki/Seq2seq Wiki -- Seq2seq]</ref> сетей <ref>https://arxiv.org/abs/1409.0473 статье</ref> для "обращения внимания" блоков декодеров на скрытые состояния [[:Рекуррентные_нейронные_сети|RNN]] энкодера для любой итерацииэнкодера, а не только последней.
[[File:AttentionGeneral.png|350px|thumb|Обобщенный механизм внимания в [[:Рекуррентные_нейронные_сети|RNN]]]]'''Обобщенный механизм внимания''' (англ. general attention) {{---}} один из видов разновидность механизма внимания, при котором выясняются задачей которой является выявление закономерности между входными и выходными данными.Изначально механизм внимания представленный в оригинальной статье<ref>https://arxiv.org/abs/1409.0473</ref> подразумевал именно этот тип внимания.
Несмотря на то, что нейронные сети рассматриваются как "черный ящик" и интерпретировать их внутренности в понятных человеку терминах часто невозможно, все же механизм внимания интуитивно понятный людям смог улучшить результаты машинного перевода для алгоритма используемого в статье<math>d_i</math> {{---}} скрытое состояние декодера.
Обычно слой использующийся для механизма внимания представляет собой обычную, чаще всего однослойную, нейронную сеть на вход которой подаются <math>h_t, t = 1 \ \ldots m</math>, а также вектор <math>d</math> в котором содержится некий контекст зависящий от конкретно задачи. В случае ''Seq2seq'' сетей вектором <math>d</math> будет являться скрытое состояние <math>d_{i-1}</math> предыдущей итерации декодера.
====Базовая архитектура ''Seq2seq''====[[File:Seq2SeqBasic.png|450px|thumb|Пример работы базовой ''Seq2seq'' сети]]Данный пример рассматривает применение Здесь <math>x_i, h_i, d_i, y_i</math> имеют те же назначения, что и в варианте без механизма внимания в задаче машинного перевода в применении к архитектуре ''Seq2seq''.
''Энкодер'' <math>c_i</math> {{---}} принимает предложение вектор контекста на языке ''A'' и сжимает его в вектор скрытого состоянияитерации <math>i</math>.
Рассмотрим пример работы Таким образом при помощи механизма внимания достигается "фокусирование" декодера на определенных скрытых состояниях. В случаях машинного перевода эта возможность помогает декодеру предсказывать на какие скрытые состояния при исходных определенных словах на языке ''Seq2seqA'' сети:необходимо обратить больше внимания при переводе данного слова на язык ''B''. То есть на какие слова из исходного текста обратить внимание при переводе конкретного слова на язык назначения.
<math>x_i</math> {{---}} слова в предложении на языке ''A''.
<math>h_i</math> ==Модули внимания=====Сверточный модуль внимания===[[Файл:ConvolutionalBlockAttentionModule.png|601px|thumb|right|Сверточный модуль внимания]]'''Сверточный модуль внимания''' (англ. ''сonvolutional block attention module'') {{---}} скрытое состояние энкодерапростой, но эффективный модуль внимания для [[:Сверточные_нейронные_сети|сверточных нейросетей]]. Применяется для задач детектирования обьектов на изображениях и классификации с входными данными больших размерностей. Данный модуль внимания состоит из двух последовательно применяемых подмодулей {{---}} канального (применяется ко всем каналам одного пикселя с изображения) и пространственного (применяется ко всему изображению с фиксированным каналом), оба эти подмодуля описаны в следующих разделах.
''Блоки энкодера (зеленый)'' Более формально говоря: на вход подается множество признаков <math>F \in \mathbb{R}^{C \times H \times W}</math>, где <math>C</math> {{---}} число каналов, <math>H</math> {{---}} высота, а <math>W</math> {{---}} блоки энкодера получающие на вход длина изображения. Канальный подмодуль <math>A_1(F)</math> принадлежит множеству <math>\mathbb{R}^{C \times 1 \times 1}</math>, а пространственный <math>x_iA_2(F)</math> и передающие скрытое состояние принадлежит множеству <math>h_i\mathbb{R}^{1 \times H \times W}</math> на следующую итерацию.Таким образом применение модуля можно описать так:
''Блоки декодера Здесь за <math> \otimes </math> обозначено поэлементное произведение, а тензоры <math>A_1(фиолетовыйF)'' {{---}} блоки декодера получающие на вход </math> и <math>y_{i-1}A_2(F_1)</math> или специальный токен '''start''' в случае первой итерации и возвращаюшие копируются вдоль недостающих измерений. <math>y_iF_1 \in \mathbb{R}^{C \times H \times W}</math> {{---}} слова в предложении на языке ''B''. Передают тензор после применения канального модуля внимания, <math>d_iF_2 \in \mathbb{R}^{C \times H \times W}</math> {{---}} скрытое состояние декодера на следующую итерацию. Перевод считается завершенным при <math>y_i</math>, равном специальному токену '''end'''выходное множество признаков.
Здесь === Пространственный модуль внимания ===[[Файл:Screenshot (203).png|600px|thumb|right|Пространственный модуль внимания]]'''Пространственный модуль внимания''' (англ. ''spatial attention module'') реализуется за счет исследования пространственных взаимосвязей, то есть пытается извлечь информацию из взаимного расположения пикселей. В отличие от канального фокусируется на том, "где" находится информация во входных данных. В данном случае для сжатия размерности используются те же [[:Сверточные_нейронные_сети#Пулинговый слой|пулинги]], но относительно измерения <math>C</math>. Таким образом на выходе мы получаем две матрицы <math>F^s_{max}</math> и <math>F^s_{avg}</math> из <math>\mathbb{R}^{H \times W}</math>. После чего они конкатенируются и к полученному тензору размерности <math>\mathbb{R}^{2 \times H \times W}</math>x_iприменяется [[:Сверточные_нейронные_сети#Свертка|свертка]], h_iуменьшающая число каналов до одного и не меняющая остальные размерности, d_iа к результату поэлементно применяется сигмоидная функция активации. Полученный тензор из <math>\mathbb{R}^{1 \times H \times W}</math> как раз является результатом применения <math>A_2(F_1)</math>, y_iпоэлементное произведение которого с <math>F_1</math> дает выходной тензор <math>F_2</math> имеют те же назначения, что и в варианте без механизма вниманиякоторый называется выходным множеством признаков c размерностью <math>\mathbb{R}^{C \times H \times W}</math>.
''Блоки механизма внимания (красный)'' {{---}} механизм вниманияЭто позволило ускорить работу алгоритма, поскольку ранее предложение обрабатывалось последовательно при помощи [[:Рекуррентные_нейронные_сети|RNN]]. Принимает <math>h</math> и <math>d_{i - 1}</math>, возвращает <math>c_i</math>При использовании трансформера каждое слово в предложении может обрабатываться параллельно.
Таким образом при помощи механизма внимания достигается "фокусирование" декодера на определенных скрытых состояниях. В случаях машинного перевода эта возможность помогает декодеру предсказывать на какие скрытые состояния при исходных определенных словах на языке Рассмотрим предложение '''The animal didn't cross the street because it was too tired''' и результат работы алгоритма ''Self-attention'' для слова '''it'A'' необходимо обратить больше внимания при переводе данного . Полученный вектор соответствует взаимосвязи слова на язык ''B'it'''со всеми остальными словам в предложении.
==Из визуализации вектора можно заметить, что механизм ''Self-Attention==attention'' обнаружил взаимосвязь между словами '''it''' и '''animal'''. Этот результат можно интуитивно объяснить с человеческой точки зрения, что позволяет алгоритмам машинного обучения, использующим данный подход, лучше решать задачу принимая во внимание контекстные взаимосвязи.
TODOТакже ''Self-Attention'' успешно применяется применяется в [[:Generative_Adversarial_Nets_(GAN)|GAN]] сетях, в частности в алгоритме SAGAN<ref>https://arxiv.org/abs/1805.08318</ref>.
rollbackEdits.php mass rollback
'''Механизм внимания''' (англ. ''attention mechanism'', ''attention model'') {{---}} техника используемая в [[:Рекуррентные_нейронные_сети|рекуррентных нейронных сетях]] (сокр. ''RNN'') и [[:Сверточные_нейронные_сети|сверточных нейронных сетях]] (сокр. ''CNN'') для поиска взаимосвязей между различными частями входных и выходных данных.
После успеха этой методики в машинном переводе последовали ее внедрения в других задачах [[:Обработка_естественного_языка|обработки естественного языка]] и применения к [[:Сверточные_нейронные_сети|CNN]] для генерации описания изображения<ref>https://arxiv.org/abs/1502.03044</ref> и [[:Generative_Adversarial_Nets_(GAN )|порождающих состязательных сетях]]<ref>SAGANhttps://arxiv.org/abs/1805.08318</ref>(сокр. ''GAN'').
==Обобщенный механизм внимания==
===Пример использования обобщенного механизма внимания для задачи машинного перевода===
Для лучшего понимания работы обобщенного механизма внимания будет рассмотрен пример его применения в задаче машинного перевода при помощи Seq2seq сетей для решения которой он изначально был представлен<ref>. ====Базовая архитектура ''Seq2seq''====[[File:Seq2SeqBasic.png|350px|thumb|Пример работы базовой ''Seq2seq'' сети]]Для понимания механизма внимания в ''Seq2seq'' сетях необходимо базовое понимание ''Seq2seq'' архитектуры до введения механизма внимания. ''Seq2seq'' состоит из двух [[https://arxivРекуррентные_нейронные_сети|RNN]] {{---}} ''Энкодера'' и ''Декодера''. ''Энкодер'' {{---}} принимает предложение на языке ''A'' и сжимает его в вектор скрытого состояния. ''Декодер'' {{---}} выдает слово на языке ''B'', принимает последнее скрытое состояние энкодера и предыдущее предсказанное слово.org Рассмотрим пример работы ''Seq2seq'' сети: <math>x_i</abs/1409math> {{---}} слова в предложении на языке ''A''.0473 Neural Machine Translation by Jointly Learning to Align and Translate] <math>h_i</refmath>{{---}} скрытое состояние энкодера.
''Блоки энкодера (зеленый)'' {{---}} блоки энкодера получающие на вход <math>x_i</math> и передающие скрытое состояние <math>h_i</math> на следующую итерацию.
<math>y_i</math> {{---}} слова в предложении на языке ''B''. ''Блоки декодера (фиолетовый)'' {{---}} блоки декодера получающие на вход <math>y_{i-1}</math> или специальный токен '''start''' в случае первой итерации и возвращаюшие <math>y_i</math> {{---}} слова в предложении на языке ''B''. Передают <math>d_i</math> {{---}} скрытое состояние декодера на следующую итерацию. Перевод считается завершенным при <math>y_i</math>, равном специальному токену '''end'''. ====Применение механизма внимания для ''Seq2seq''====Несмотря на то, что нейронные сети рассматриваются как "черный ящик" и интерпретировать их внутренности в понятных человеку терминах часто невозможно, все же механизм внимания интуитивно понятный людям смог улучшить качество машинного перевода базового ''Seq2seq'' алгоритма. Успех этого использования этого подхода в задаче машинного перевода обусловлен лучшим выводом закономерностей между словами находящимися на большом расстоянии друг от друга. Несмотря на то, что ''[[:Долгая_краткосрочная_память|LSTM'' и ''GRU'' ]] блоки используются именно для улучшения передачи информации с предыдущих итераций ''[[:Рекуррентные_нейронные_сети|RNN'' ]] их основная проблема заключается в том, что влияние предыдущих состояний на текущее уменьшается экспоненциально от расстояния между словами, в то же время механизм внимания улучшает этот показатель до линейного<ref>https://towardsdatascience.com/transformers-141e32e69591</ref>.
[[:Рекуррентные_нейронные_сети|RNN]] используются при обработке данных, для которых важна их последовательность. В классическом случае применения [[:Рекуррентные_нейронные_сети|RNN]] результатом является только последнее скрытое состояние <math>h_m</math>, где <math>m</math> {{---}} длина последовательности входных данных. Использование механизма внимания позволяет использовать информацию полученную не только из последнего скрытого состояния, но и любого скрытого состояния <math>h_t</math> для любого <math>t</math>.
=====Устройство слоя механизма внимания=====
[[File:AttentionGeneral.png|350px|thumb|Обобщенный механизм внимания в [[:Рекуррентные_нейронные_сети|RNN]]]]
Слой механизма внимания представляет собой обычную, чаще всего однослойную, нейронную сеть на вход которой подаются <math>h_t, t = 1 \ \ldots m</math>, а также вектор <math>d</math> в котором содержится некий контекст зависящий от конкретной задачи.
Выходом данного слоя будет является вектор <math>s</math> (англ. ''score'') {{---}} оценки на основании которых на скрытое состояние <math>h_i</math> будет "обращено внимание".
Далее для нормализации значений <math>s</math> используется <math>softmax</math><ref>[https://ru.wikipedia.org/wiki/Softmax Wiki -- Функция softmax]</ref>. Тогда <math>e = softmax(s)</math>
<math>softmax</math> здесь используется благодоря благодаря своим свойствам:
*<math>\forall s\colon\ \sum_{i=1}^n softmax(s)_i = 1, </math>
<math>с = \sum_{i=1}^m e_i h_i</math>
Результатом работы слоя внимания является <math>c</math> который, содержит в себе информацию обо всех скрытых состоянях состояниях <math>h_i</math> пропорционально оценке <math>e_i</math>. =====Применение механизма внимания к базовой ''Seq2seq'' архитектуре=====[[File:Seq2SeqAttention.png|350px|thumb|Пример работы ''Seq2seq'' сети с механизмом внимания]]При добавлении механизма в данную архитектуру между [[:Рекуррентные_нейронные_сети|RNN]] ''Энкодером'' и ''Декодером'' слоя механизма внимания получится следующая схема:
''Seq2seqАгрегатор скрытых состояний энкодера (желтый)'' состоит из двух [[:Рекуррентные_нейронные_сети|RNN]] {{---}} ''Энкодера'' агрегирует в себе все вектора <math>h_i</math> и ''Декодера''возвращает всю последовательность векторов <math>h = [h_1, h_2, h_3, h_4]</math>.
''ДекодерБлоки механизма внимания (красный)'' {{---}} выдает слово на языке ''B'', принимает последнее скрытое состояние энкодера <math>h</math> и предыдущее предыдущее предсказаное слово<math>d_{i - 1}</math>, возвращает <math>c_i</math>.
''Блоки декодера (фиолетовый)'' {{---}} по сравнению с обычной ''Seq2seq'' сетью меняются входные данные. Теперь на итерации <math>i</math> на вход подается не <math>y_{i-1}</math>, а конкатенация <math>y_{i-1}</math> и <math>c_i</math>.
*<math>d_iF_1 = A_1(F) \otimes F</math> {{---}} скрытое состояние декодера.
*<math>y_iF_2 = A_2(F_1) \otimes F_1</math> {{---}} слова в предложении на языке ''B''.
====Применение механизма Канальный модуль внимания для ''Seq2seq''====[[FileФайл:Seq2SeqAttentionChannelAttentionModule.png|450px600px|thumb|Пример работы right|Канальный модуль внимания]]''Seq2seq'Канальный модуль внимания' сети '' (англ. ''channel attention module'') реализуется за счет исследования внутриканальных взаимосвязей во входных данных, то есть пытается извлечь информацию из яркости каналов одного пикселя. Фокусируется на том, "какая" информация находится в данных. Для более эффективной реализации используется сжатие входных данных по измерениям <math>H</math> и <math>W</math> с механизмом вниманияпомощью [[:Сверточные_нейронные_сети#Пулинговый слой|пулингов]]При добавлении механизма в данную архитектуру между <math>MaxPool</math> и <math>AvgPool</math>, которые применяются независимо к входному тензору. В результате которого получаются два вектора <math>F^c_{max}</math> и <math>F^c_{avg}</math> из <math>\mathbb{R}^{C}</math>. После чего к этим двум векторам независимо применяется одна и та же [[:Рекуррентные_нейронные_сетиНейронные_сети,_перцептрон#Многослойные нейронные сети|RNNполносвязная нейронная сеть]] ''Энкодер'' с одним скрытым слоем малой размерности (при этом ее входные и выходные вектора принадлежат <math>\mathbb{R}^{C}</math>). После этого полученные из нейросети вектора поэлементно складываются, к результату поэлементно применяется сигмоидная функция активации и добавляются недостающие единичные размерности. Полученный тензор из <math>\mathbb{R}^{C \times 1 \times 1}</math> как раз и ''Декодер'' слоя механизма внимания получится следуюшая схема:является результатом применения <math>A_1(F)</math>, поэлементное произведение которого со входом <math>F</math> дает тензор <math>F_1</math>.
==Self-Attention==[[File:TransformerSelfAttentionVisualization.png|250px|thumb|Пример работы ''Self-Attention'']]'''Агрегатор скрытых состояний энкодера (желтый)Self-Attention''' {{---}} агрегирует в себе все вектора <math>h_i</math> и возвращает всю последовательность векторов <math>h = [h_1разновидность механизма внимания, h_2, h_3, h_4]</math>задачей которой является выявление закономерности только между входными данными.
Данная методика показала себя настолько эффективной в задаче машинного перевода, что позволила отказаться от использования [[:Рекуррентные_нейронные_сети|RNN]] и заменить их на обычные нейронные сети в комбинации с механизмом ''Self-attention'' в архитектуре трансформер<mathref>c_i<https://papers.nips.cc/paper/math> {{7181-attention-is-all-you-}} вектор контекста на итерации <math>ineed.pdf</mathref>.
Основным отличием ''Блоки декодера (фиолетовый)'' {{--Self-}} по сравнению с обычной ''Seq2seqAttention'' сетью меняются входные данные. Теперь на итерации <math>i</math> на вход подается не <math>y_{i-1}</math>от [[:Механизм_внимания#Обобщенный механизм внимания|обобщенного механизма внимания]] является, а конкатенация <math>y_{i-1}</math> и <math>c_i</math>что он делает заключения о зависимостях исключительно между входными данными.
==См. также==
*[https://towardsdatascience.com/intuitive-understanding-of-attention-mechanism-in-deep-learning-6c9482aecf4f Статья с подробно разборанными примерами и кодом на ''Python'' и ''TensorFlow'']
*[http://jalammar.github.io/illustrated-transformer/ Статья c примерами работы Self-attention]
*[https://arxiv.org/pdf/1807.06521.pdf Статья о сверточном модуле внимания (CBAM)]
==Примечания==
