Изменения

Диалоговые системы (англ. conversational agents, CACAs) {{---}} компьютерные системы, предназначенные для общения с человеком. Они имитируют поведение человека и обеспечивают естественный способ получения информации, что позволяет значительно упростить руководство пользователя и тем самым повысить удобство взаимодействия с такими системами.

Классический метод построения целеориентированных систем заключается в использовании цепочки модулей (пайплайна), которая изображена на рисунке 1[[Файл : Ds-pipeline-to.png | 500px | thumb | right |Рисунок 2. Диаграмма классической архитектуры диалоговой системы]]

[[Файл Описание модулей: Ds-pipeline-to.png | 400px | thumb | right |Рисунок 1. Диаграмма классической архитектуры диалоговой системы]]

* '''ASR'''. На вход поступает речь пользователя, которая затем [[Распознавание речи | распознается ]] и переводится в текст. Результат работы компонента называют ''гипотезой'', так как полученный текст может соответствовать исходному сообщению не полностью.

* '''NLU'''. Фраза в текстовом виде анализируется системой: определяется домен, намерение, именованные сущности. Для распознавания намерений может применяться обученный на эмбеддингах [[Векторное представление слов | векторном представлении фраз]] классификатор. [[Обработка естественного языка#spaCy | Распознавание именованных сущеностей ]] является отдельной задачей извлечения информации. Для ее решения используются [[Теория формальных языков | формальные языки]], статистические модели и их комбинациякомбинации. В результате работы компонента создается формальное описание фразы {{---}} семантический фрейм.

* '''NLG'''. В соответствии с выбранным действием осуществляется генерация ответа пользователю на естественном языке. Для генерации применяются [[Генерация текста | генеративные модели или шаблоны]].

'''Сущность Именованная сущность (англ. named entity)''' {{---}} слово во фразе пользователя, которое можно отнести к определенному типу.}} {{Определение | definition='''Слот (англ. named entity)''' {{---}} параметр запроса пользователя, найденный в его фразеограниченный множеством допустимых значений.

Если заменить каждую часть классической архитектуры искусственной нейронной сетью, то получим архитектуру изображенную на рисунке 23.

[[Файл : Ds-nn-toВходом у модели с данной архитектурой может быть компонент, который выполняет предобработку фразы пользователя и передает результаты внешним сетям (Intent Network и Belief Tracker).png | 400px | thumb | right | Рисунок 2. Нейросетевая архитектура диалоговой системы]]

* '''Intent Network'''[[Файл : Ds-nn-to. Является кодирующей сетью, которая преобразует последовательность токенов png | 400px | thumb | right | Рисунок 3 <texref> w_0^t, w_1^t, \ldots, w_N^t <[https:/tex> в вектор <tex> z_t </tex>arxiv. В качестве <tex> z_t <org/pdf/tex> может выступать скрытый слой <tex> z_t^N 1604.04562.pdf Tsung-Hsien Wen, David Vandyke, A Network-based End-to-End Trainable Task-oriented Dialogue System]</texref> LSTM-сети:. Нейросетевая архитектура диалоговой системы]]

* '''Intent Network'''. Кодирующая сеть, которая преобразует последовательность токенов <tex> w_0^t, w_1^t, \ldots, w_N^t </tex> в вектор <tex> \mathbf{z}_t </tex>. В качестве вектора <tex> \mathbf{z}_t </tex> может выступать скрытый слой [[Долгая краткосрочная память | LSTM-сети]] <tex> \mathbf{z}_t^N </tex>: <br /> <tex> z_t \mathbf{z}_t = z_t\mathbf{z}_t^N = \operatorname{LSTM}(w_0^t, w_1^t, ..., w_N^t) </tex>

* '''Belief Tracker'''. В реализации используется [[Рекуррентные нейронные сети | RNN-сеть]], на вход которой поступает предобработанная фраза пользователя. Дает распределение вероятностей <tex> p_s\mathbf{p}_s^t </tex> по всем значениям определенного слота <tex> s </tex>.

* '''Policy networkDatabase Operator'''. Объединяет системные модули. Выходом является вектор <tex> o_t </tex>, который представляет системное действие. Распределение вероятностей для каждого слота Выполняет запрос к базе данных по сущностям <tex> \hat p_s^t </tex> пребразуется в вектор <tex> \hat p_s^t </tex>, который состоит из трех компонент: суммарная вероятность, вероятность, что пользователь сказал, что слот его не интересует, и вероятность, что слот не был упомянут. Также вектор x_t сжимается до нескольких компонент, которые определяют количество совпадений.<tex> o_t = { \tanh(W_{zo} z_t + W_operatorname{poargmax} \hat p_t + W_mathbf{xop} _s^t \hat x_t), </tex>где матрицы <tex> W_{zo} </tex>, <tex>W_{po} </tex> и возвращает вектор <tex> W_\mathbf{xox} _t </tex> {{---}} параметры, а <tex> \hat p_t = \hat p_s^t </tex> {{---}} конкатенациягде единицей отмечается та запись (сущность в БД), которая соответствует запросу.

* '''Generation NetworkPolicy network'''. Генерирует предложениеОбъединяет системные модули. Выходом является вектор <tex> \mathbf{o}_t </tex>, который представляет системное действие. Распределение вероятностей для каждого слота <tex> \mathbf{p}_s^t </tex> пребразуется в вектор <tex> \mathbf{\hat p}_s^t </tex>, который состоит из трех компонент: суммарная вероятность, вероятность, что пользователь выразил безразличие к слоту, и вероятность, используя что слот не был упомянут. Также вектор действия <tex> \mathbf{x}_t </tex> сжимается в one-hot-вектор <tex> \mathbf{\hat x}_t </tex>, где каждая компонента определяет количество подходящих записей.<br /> <tex> \mathbf{o }_t = \tanh(W_{zo} \mathbf{z}_t + W_{po} \mathbf{\hat p}_t + W_{xo} \mathbf{\hat x}_t), </tex> <br /> где матрицы <tex> W_{zo} </tex>, <tex>W_{po} </tex> и генератор языка<tex> W_{xo} </tex> {{---}} параметры, а <tex> \mathbf{\hat p}_t = \bigoplus \mathbf{\hat p}_s^t </tex> {{---}} конкатенация.

Данную архитектуру также называют ''сквозной '' (англ. end-to-end trainable), так как на данных обучается каждая ее часть обучается . Модель с данной архитектурой можно обобщить на данныхнамерения, которые не наблюдались во время обучения.

Полиси нетворк {| class="wikitable"|+ Преимущества и недостатки подходов к построению диалога|-! !! Классический (на основе правил) !! Нейросетевой|- рекурентная сеть| style="background:#eaecf0;" | '''Преимущества''' ||* Детерминированность, которая хранит состояния* свободное расширение, из которых декодируется ответ* интерпретируемость. В ответе есть специальные токены||* Самостоятельно обучается, вместо которых подставляются данные* не нужно думать о структуре разговора. |-| style="background:#eaecf0;" | '''Недостатки''' ||* Может быть громоздким,* надо прописывать руками,* сложнее разрабатывать нелинейные диалоговые модели.||* Черный ящик,* нельзя быть уверенным в результате,* сложно изменять,* может долго обучаться и работать.|}

https://arxivДанный тип систем обычно используется чтобы занять пользователя, например, во время ожидания выполнения задачи.org/abs/1604Система поддерживает бессодержательный, но связный диалог.04562

End-toСистемы с ограниченными ответами (англ. retrieval/example-end (E2Ebased) генеративные диалоговые модели основаны на кодер-декодер нейронных сетяхпо последовательности фраз выдают наиболее подходящий ответ из списка возможных. Идея заключается в использвании кодирующей сети для трансляции конекста диалога в распределение и затем использовать декодирующуюю сеть для генерации ответа системы. Такие модели не требуют создавать промежуточные состояния вручную и могут обобщаться на реакцииПреимуществом таких систем является то, что ответы строго контролируются: можно удалить нежелательные шутки, которые не наблюдались во время обучениянецензурные или критикующие выражения.

Именованная сущность (просто сущность) [[Файл : Ds-iris.png | 350px | thumb | right |Рисунок 4 <ref>[https://www.aclweb.org/anthology/P12- параметр запроса3007.pdf Rafael E. Banchs, Haizhou Li, IRIS: a Chat-oriented Dialogue System based on the Vector Space Model]</ref>. Архитектура IRIS]]

Системы имеющие такую структуру имеют проблему масштабированияс генерацией ответов (англ. Накапливается большое число правил, которые сложно согласовывать друг с другомgeneration-based) генерируют ответ пословно. Время на сопровождение Такие системы быстро растетболее гибкие, а затраченных ресурсов становится большено фильтровать их сложней. Часто для генерации диалога используются seq2seq-модели, чем нанят живого человека другими вариантами являются расширенный [[Вариационный автокодировщик | вариационный автокодировщик]] или [[Generative Adversarial Nets (GAN) | генеративно-состязательная сеть]]. Высокую производительность при генерации диалогов позволяют получить предобученные языковые модели на основе Трансформера.

=== Нейросетевая '''[https://arxiv.org/pdf/1801.05032.pdf AliMe Assist]''' {{---}} помощник для пользователей магазина AliExpress. Его архитектура ===представлена на рисунке 5. Серым цветом выделены блоки, где используются методы машинного обучения. Система состоит из 3 подсистем: поиск информации или решения, выполнение задачи для клиента и простое общение в чате. Для извлечения намерения вопрос <tex> q </tex> проверяется на соответствие шаблонам при помощи [[Бор | бора]] (англ. trie-based pattern matching). Если соответствие найти не удалось, то вопрос передается классификатору, построенному на [[Сверточные нейронные сети | сверточной сети]]. На вход сети подаются вектора слов вопроса и семантических тэгов, которые относятся к нему и контексту (предыдущему вопросу). Для получения векторного представления используется [[Векторное представление слов#fastText | FastText]]. Выбор CNN-сети вместо RNN основан на том, что первая сеть учитывает контекстную информацию слов (слова перед и после текущего слова) и работает быстрей. Точность классификации 40 намерений составляет 89,91%.

Как извлекать намерение? Можно использовать регулярные выражения'''[https://ru. Но один и тот же запрос на естественном языке можно построить поwikipedia.org/wiki/%D0%9A%D0%BE%D1%80%D1%82%D0%B0%D0%BD%D0%B0_(%D0%B3%D0%BE%D0%BB%D0%BE%D1%81%D0%BE%D0%B2%D0%BE%D0%B9_%D0%BF%D0%BE%D0%BC%D0%BE%D1%89%D0%BD%D0%B8%D0%BA) Microsoft Cortana]''' {{---разному}} виртуальный голосовой помощник. Состоит из можества навыков, часто такой подход будет ошибатьсянатренированных на конкретные задачи. Сложно описать В отличие от классической архитектуры, где выбирается подходящий навык, здесь текст проходит через все возможные способы задания запросанавыки, после чего выбирается подходящий ответ. Каждый навык использует контекст (результаты обработки предыдущей фразы), сформированный всеми навыками. При таком подходе требуется больше ресурсов, но он позволяет существенно увеличить точность. Схематично процесс обработки фразы пользователя представлен на рисунке 6.

Целеориентированные диалоговые системы[[Файл : Ds-cortana-arch. Позволяет решать одну задачуpng | 600px | thumb | right |Рисунок 6<ref>[https://www. microsoft.com/en-us/research/wp-content/uploads/2016/12/CortanaLUDialog-FromSLTproceedings.pdf R. Sarikaya, P. A. Crook, AN OVERVIEW OF END–TO–END LANGUAGE UNDERSTANDING AND DIALOG MANAGEMENT FOR PERSONAL DIGITAL ASSISTANTS]</ref>. Архитектура Кортаны]]

Модель на основе нейронных сетей [https://ru.wikipedia.org/wiki/%D0%90%D0%BB%D0%B8%D1%81%D0%B0_(end%D0%B3%D0%BE%D0%BB%D0%BE%D1%81%D0%BE%D0%B2%D0%BE%D0%B9_%D0%BF%D0%BE%D0%BC%D0%BE%D1%89%D0%BD%D0%B8%D0%BA)#%D0%90%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7_%D0%B7%D0%B0%D0%BF%D1%80%D0%BE%D1%81%D0%B0_%D0%B8_%D1%84%D0%BE%D1%80%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D0%B0 '''Яндекс Алиса'''] {{--to-end)}} виртуальный голосовой помощник от компании Яндекс. Относится к классу чат-ориентированных систем, но имеет множество навыков, каждый из которых может быть представлен в виде целеориентированной системы. Алиса запускает навык по его активационной фразе. Фактически навык является веб-сервисом, который реализует DM и NLG модули классической архитектуры. При помщи платформы [https://dialogs.yandex.ru/developer Яндекс Диалоги] разработчики могут создавать свои навыки и монетизировать их, но перед публикацией навык проходит обязательную модерацию. Распознавание голоса выполняется сервисом [https://cloud.yandex.ru/services/speechkit SpeechKit].

Энкодер[https://ru.wikipedia.org/wiki/Siri '''Сири'''] {{-Декодер --}} виртуальный помощник компании Apple. Является неотъемлемой частью iOS и доступна для большинства устройств, выпускаемых компанией. Поддерживает широкий спектр пользовательских команд, включая выполнение действий с телефоном, проверку основной информации, планирование событий и напоминаний, управление настройками устройства, поиск в интернете, взаимодействие с вниманиемприложениями. Приспосабливается к каждому пользователю индивидуально, изучая его предпочтения в течение долгого времени.

Чатоирентированные системы как правило используются для развлечения и общения в чате=== DeepPavlov. В разработке так же используются либо retrieval-based methods и генеативные модели, ai ===

Проблема в проектировании Основывается на таких библиотеках как [https://www.tensorflow.org/ TensorFlow], [https://keras.io/ Keras] и [https://pytorch.org/ PyTorch]. Включает множество компонентов, каждый из которых решает отдельную задачу диалоговых систем:невозможно вручную спроектировать изменение состояния . Имеется модель для распознавания именованных сущностей, намерений, обработки истории диалога, как в целеориентированных системаханализа поведения пользователя и другие. Одним Поведение агента диалоговой системы определяется набором навыков, каждый из решений является использование иерархического кодера, чтобы определить иерархическую структуру в диалогекоторых строится из модулей.Seq2seqКогда агент получает фразу пользователя, поддержа большого количества темспециальный менеджер решает, но неглубокаякакому навыку передать ее для обработки. Схема ядра представлена на рисунке 7. Пример использования на языке Python:

'''from''' deeppavlov.agents.default_agent.default_agent '''import''' DefaultAgent '''from''' deeppavlov.skills.pattern_matching_skill '''import''' PatternMatchingSkill '''from''' deeppavlov.agents.processors.highest_confidence_selector '''import''' HighestConfidenceSelector <font color="grey">''# Создание сконфигурированных навыков''</font> hello =PatternMatchingSkill(responses= С ограниченными ответами ['Hello wordl! :)'], patterns=['hi', 'hello', 'good day']) bye =PatternMatchingSkill(['Goodbye word! :(', 'See you around.'], ['bye', 'chao', 'see you']) fallback =PatternMatchingSkill(['I don\'t understand, sorry :/', 'I can say "Helo world!" 8)']) <font color="grey">''# Создание менеджера, который выбирает наиболее вероятный навык''</font> skill_manager = HighestConfidenceSelector() <font color="grey">''# Создание агента''</font> HelloBot = Agent([hello, bye, fallback], skills_selector=skill_manager) <font color="grey">''# Тестирование''</font> '''print'''(HelloBot(['Hello!', 'Boo...', 'Bye.']))

ELIZAиалоговая системаАрхитектура схематично изображена на рисунке 8. Для передачи сообщений по каналу используются ''коннекторы''. Имеются коннекторы для [https://rasa.com/docs/rasa/connectors/telegram Телеграма], [https://rasa.com/docs/rasa/connectors/your-own-website собственного веб-психоаналитик (сейчассайта], ее назвали бы чат-бот)[https://rasa.com/docs/rasa/connectors/slack Slack], родом из 60можно создавать [https://rasa.com/docs/rasa/connectors/custom-ых годовconnectors свои] коннекторы.

Диалоговая операционная система[[Файл : Ds-rasa.png | 500px | thumb | right |[https://rasa.com/docs/rasa/img/architecture.png Рисунок 8]. Архитектура Rasa]]

DeepPavlovЛучшие модели по качеству отслеживания состояния диалога (англ.aidialogue state tracking):

Включает множество компонентов{| class="wikitable"|-! Модель !! Точность связок !! Точность слотов !! Особенности|-| [https://arxiv.org/abs/2006.01554 CHAN] || 52.68 || 97.69 || Использование контекстной иерархической [[Механизм внимания | сети внимания]], при помощи которых создаются скилыдинамическое регулирование весов различных слотов во время обучения. Множество скилов объединяются в диалоговый агент |-| [https://www.aclweb.org/anthology/2020.acl-main.567.pdf SAS] || 51.03 || 97.20 || Применение механизма внимания к слотам, разделение информации слотов.|-| [https://www.aclweb.org/anthology/2020.acl-main.636.pdf MERET] || 50.91 || 97.07 || [[Обучение с подкреплением | Обучение с которым взаимодействуют пользователи на естественном языкеподкреплением]]. |}

Языковые Лучшие моделипо качеству определения намерений: word2vec, esim, gpt, bert. Хорошей языковой модели достаточно около 100 примеров для хорошей классификации намерения.

[[Файл Набор данных: Perfect-n2nSnips.png | 200px | thumb | right | ]]

*[[Распознавание Механизм внимания]]*[[Синтез речи]]

 * [https://arxivwww.youtube.com/watch?v=uLsI4fanlRI&t=4327s Лекция по подходам к построению диалоговых систем от Михаила Бурцева]* [https://www.youtube.com/watch?v=Asftac_wcs8 Семинар Multitask vs Transfer от Антона Астахова]* [http://datareview.info/article/neyronnyiy-mashinnyiy-perevod-s-primeneniem-gpu-vvodnyiy-kurs-chast-2/ Нейронный машинный перевод с применением GPU. Вводный курс. Часть 2]* [https://www.cs.cmu.orgedu/~tianchez/absdata/1605TianchezPhdProposal.07683 pdf Tiancheng Zhao, Learning Generative End-to-End Goalend Dialog Systems with Knowledge]* [https://www.alibabacloud.com/blog/progress-in-dialog-management-model-research_596140 Alibaba Clouder, Progress in Dialog Management Model Research]* [https://github.com/voicy-ai/DialogStateTracking DialogStateTracking]* [https://habr.com/ru/company/abbyy/blog/437008/ NLP. Основы. Техники. Саморазвитие. Часть 1]* [https://habr.com/ru/company/abbyy/blog/449514/ NLP. Основы. Техники. Саморазвитие. Часть 2: NER]* [https://www.baeldung.com/java-pattern-matching-suffix-tree Fast Pattern Matching of Strings Using Suffix Tree in Java]* [https://arxiv.org/pdf/1905.05709.pdf Minlie Huang, Xiaoyan Zhu, Challenges in Building Intelligent Open-domain Dialog Systems]* [https://github.com/AtmaHou/Task-Oriented Dialog-Dialogue-Research-Progress-Survey Dataset and methods survey for Task-oriented Dialogue]