Изменения

Диалоговые системы (англ. conversational agents, CACAs) {{---}} компьютерные системы, предназначенные для общения с человеком. Они имитируют поведение человека и обеспечивают естественный способ получения информации, что позволяет значительно упростить руководство пользователя и тем самым повысить удобство взаимодействия с такими системами.

Классический метод построения целеориентированных систем заключается в использовании цепочки модулей (пайплайна), которая изображена на рисунке 1[[Файл : Ds-pipeline-to.png | 500px | thumb | right |Рисунок 2. Диаграмма классической архитектуры диалоговой системы]]

[[Файл Описание модулей: Ds-pipeline-to.png | 400px | thumb | right |Рисунок 1. Диаграмма классической архитектуры диалоговой системы]]

* '''ASR'''. На вход поступает речь пользователя, которая затем [[Распознавание речи | распознается ]] и переводится в текст. Результат работы компонента называют ''гипотезой'', так как полученный текст может соответствовать исходному сообщению не полностью.

* '''NLU'''. Фраза в текстовом виде анализируется системой: определяется домен, намерение, именованные сущности. Для распознавания намерений может применяться обученный на эмбеддингах [[Векторное представление слов | векторном представлении фраз]] классификатор. [[Обработка естественного языка#spaCy | Распознавание именованных сущеностей ]] является отдельной задачей извлечения информации. Для ее решения используются [[Теория формальных языков | формальные языки]], статистические модели и их комбинациякомбинации. В результате работы компонента создается формальное описание фразы {{---}} семантический фрейм.

* '''NLG'''. В соответствии с выбранным действием осуществляется генерация ответа пользователю на естественном языке. Для генерации применяются [[Генерация текста | генеративные модели или шаблоны]].

Обычно после распознавания именованных сущностей выполняется ''заполнение слотов'' (англ. slot filling), в ходе которого каждая найденная сущность приводится к своей нормальной форме с учетом ее типа и множества возможных значений. Заполнение слотов позволяет не учитывать морфологию сущности при дальнейшей ее обработке. Простейшим подходом к решению данной задачи нормализации сущностей является поиск с использованием расстояния Левенштейна. После определения типа сущности, она сравнивается с другими сущностями того же типа из базы данных. В качестве нормальной формы выбирается та, до которой расстояние наименьшее, либо можно выбрать несколько сущностей с наименьшим расстоянием и предоставить выбор пользователю (такой подход также применим для исправления опечаток). Для получения численного представления текста используются различные языковые модели: [[Векторное представление слов#word2vec | Word2Vec]], [https://github.com/coetaur0/ESIM ESIM], [[Генерация текста#GPT-2 | GPT]], [[Векторное представление слов#BERT | BERT]]. Каждой определяется свой способ представления слов или их последовательности для наиболее точного извлечения смысловых значений. С хорошей языковой моделью достаточно около 100 примеров для хорошей классификации намерения <ref>[https://image.slidesharecdn.com/intentdetectionbenchmarkaugust2017-170817145622/95/nlu-intent-detection-benchmark-by-intento-august-2017-31-1024.jpg?cb=1503310100 Konstantin Savenkov, Intent Detection Benchmark by Intento]</ref>.

Если заменить каждую часть классической архитектуры искусственной нейронной сетью, то получим архитектуру изображенную на рисунке 23.

[[Файл : Ds-nn-toВходом у модели с данной архитектурой может быть компонент, который выполняет предобработку фразы пользователя и передает результаты внешним сетям (Intent Network и Belief Tracker).png | 400px | thumb | right | Рисунок 2. Нейросетевая архитектура диалоговой системы]]

* '''Intent Network'''. Кодирующая сеть, которая преобразует последовательность токенов <tex> w_0^t, w_1^t, \ldots, w_N^t </tex> в вектор <tex> \mathbf{z}_t </tex>. В качестве вектора <tex> \mathbf{z}_t </tex> может выступать скрытый слой LSTM-сети <tex> \mathbf{z}_t^N </tex>Описание каждой части:<br />: <tex> \mathbf{z}_t = \mathbf{z}_t^N = \operatorname{LSTM}(w_0^t, w_1^t, ..., w_N^t) </tex>

* '''Belief Tracker'''. В реализации используется RNN[[Файл : Ds-nn-сетьto. Дает распределение вероятностей png | 400px | thumb | right | Рисунок 3 <texref> \mathbf{p}_s^t <[https://arxiv.org/pdf/tex> по всем значениям определенного слота <tex> s 1604.04562.pdf Tsung-Hsien Wen, David Vandyke, A Network-based End-to-End Trainable Task-oriented Dialogue System]</texref>.Нейросетевая архитектура диалоговой системы]]

* '''Database OperatorIntent Network'''. Выполняет запрос к базе данных по сущностям Кодирующая сеть, которая преобразует последовательность токенов <tex> w_0^t, w_1^t, \{ ldots, w_N^t </tex> в вектор <tex> \operatornamemathbf{argmaxz} _t </tex>. В качестве вектора <tex> \mathbf{p}_s^t \z} _t </tex> и возвращает вектор может выступать скрытый слой [[Долгая краткосрочная память | LSTM-сети]] <tex> \mathbf{xz}_t ^N </tex>:<br /> <tex> \mathbf{z}_t = \mathbf{z}_t^N = \operatorname{LSTM}(w_0^t, где единицей отмечается та запись (сущность в БД)w_1^t, которая соответствует запросу..., w_N^t) </tex>

* '''Policy networkBelief Tracker'''. Объединяет системные модули. Выходом является вектор <tex> \mathbf{o}_t </tex>В реализации используется [[Рекуррентные нейронные сети | RNN-сеть]], который представляет системное действиена вход которой поступает предобработанная фраза пользователя. Распределение Дает распределение вероятностей для каждого слота <tex> \mathbf{p}_s^t </tex> пребразуется в вектор <tex> \hat \mathbf{p}_s^t </tex>, который состоит из трех компонент: суммарная вероятность, вероятность, что пользователь выразил безразличие к слоту, и вероятность, что слот не был упомянут. Также вектор <tex> \mathbf{x}_t </tex> сжимается в one-hot-вектор по всем значениям определенного слота <tex> \hat \mathbf{x}_t s </tex>, где каждая компонента определяет количество подходящих записей.

: * '''Database Operator'''. Выполняет запрос к базе данных по сущностям <tex> o_t = \tanh(W_{zo\operatorname{argmax} z_t + W_\mathbf{pop}_s^t \} </tex> и возвращает вектор <tex> \hat p_t + W_mathbf{xox} \hat x_t), _t </tex>, где единицей отмечается та запись (сущность в БД), которая соответствует запросу.

* '''Policy network'''. Объединяет системные модули. Выходом является вектор <tex> \mathbf{o}_t </tex>, который представляет системное действие. Распределение вероятностей для каждого слота <tex> \mathbf{p}_s^t </tex> пребразуется в вектор <tex> \mathbf{\hat p}_s^t </tex>, который состоит из трех компонент: суммарная вероятность, вероятность, что пользователь выразил безразличие к слоту, и вероятность, что слот не был упомянут. Также вектор <tex> \mathbf{x}_t </tex> сжимается в one-hot-вектор <tex> \mathbf{\hat x}_t </tex>, где каждая компонента определяет количество подходящих записей.<br /> <tex> \mathbf{o}_t = \tanh(W_{zo} \mathbf{z}_t + W_{po} \mathbf{\hat p}_t + W_{xo} \mathbf{\hat x}_t), </tex> <br /> где матрицы <tex> W_{zo} </tex>, <tex>W_{po} </tex> и <tex> W_{xo} </tex> {{---}} параметры, а <tex> \hat \mathbf{\hat p}_t = \bigoplus \hat \mathbf{\hat p}_s^t </tex> {{---}} конкатенация, .

* '''Generation Network'''. Генерирует предложение, используя вектор действия <tex> \mathbf{o }_t </tex> и генератор языка. Предложение содержит специальные токены, которые заменяются на сущности из базы данных по указателю.

Полиси нетворк == Чат-- рекурентная сеть, которая хранит состояния, из которых декодируется ответ. В ответе есть специальные токены, вместо которых подставляются данные. ориентированные диалоговые системы ==

Эмбединги предложений попадают в энекодерСистемы с ограниченными ответами (англ. Закодированный диалог попадает в памятьretrieval/example-based) по последовательности фраз выдают наиболее подходящий ответ из списка возможных. Там вектора усредняются и получается вектор состоянияПреимуществом таких систем является то, что ответы строго контролируются: можно удалить нежелательные шутки, нецензурные или критикующие выражения.

End-to-end '''Интерактивная система неформальных ответов''' (E2Eангл. informal response interactive system, IRIS) генеративные диалоговые модели основаны представлена на кодеррисунке 4. Прямоугольником обозначены функциональные модули, цилиндром {{---декодер нейронных сетях}} базы данных. Идея заключается в использвании кодирующей сети для трансляции конекста Здесь выполняется сравнение не только текущей фразы пользователя, но и вектора текущей истории диалога с другими диалогами в распределение и затем использовать декодирующуюю сеть для генерации ответа системы. Такие модели не требуют создавать промежуточные состояния вручную и могут обобщаться на реакциибазе данных, которые не наблюдались во время обучениячто позволяет учесть контекст.

Именованная сущность Первая фраза пользователя попадает в модуль инициализации, который обеспечивает приветствие пользователя и извлечение его имени. Имя пользователя используется менеджером диалога, чтобы инициализировать вектор истории диалога. Если пользователь не известен системе (просто сущностьего имя отуствует в Vocabulary Learning) -- параметр запроса, то система инициализирует историю случайным вектором из хранилища историй. Когда инициализация заканчивается, система спрашивает пользователя, чего он хочет.

Для Системы с генерацией ответов (англ. generation-based) генерируют ответ пословно. Такие системы более гибкие, но фильтровать их сложней. Часто для генерации ответа используют генеративные диалога используются seq2seq-модели, либо шаблоныдругими вариантами являются расширенный [[Вариационный автокодировщик | вариационный автокодировщик]] или [[Generative Adversarial Nets (GAN) | генеративно-состязательная сеть]]. Высокую производительность при генерации диалогов позволяют получить предобученные языковые модели на основе Трансформера.

Системы имеющие такую структуру имеют проблему масштабирования. Накапливается большое число правил, которые сложно согласовывать друг с другом. Время на сопровождение == Существующие диалоговые системы быстро растет, а затраченных ресурсов становится больше, чем нанят живого человека ==

Каноническая '''[https://arxiv.org/pdf/1801.05032.pdf AliMe Assist]''' {{---}} помощник для пользователей магазина AliExpress. Его архитектура показана представлена на рисунке5. Серым цветом выделены блоки, где используются методы машинного обучения. Система состоит из 3 подсистем: поиск информации или решения, выполнение задачи для клиента и простое общение в чате. Для извлечения намерения вопрос <tex> q </tex> проверяется на соответствие шаблонам при помощи [[Бор | бора]] (англ. trie-based pattern matching). Если соответствие найти не удалось, то вопрос передается классификатору, построенному на [[Сверточные нейронные сети | сверточной сети]]. На вход сети подаются вектора слов вопроса и семантических тэгов, которые относятся к нему и контексту (предыдущему вопросу). Для получения векторного представления используется [[Векторное представление слов#fastText | FastText]]. Выбор CNN-сети вместо RNN основан на том, что первая сеть учитывает контекстную информацию слов (слова перед и после текущего слова) и работает быстрей. Точность классификации 40 намерений составляет 89,91%.

Как извлекать намерение? Можно использовать регулярные выражения[[Файл : Ds-cortana-arch.png | 600px | thumb | right |Рисунок 6<ref>[https://www.microsoft. Но один и тот же запрос на естественном языке можно построить поcom/en-разномуus/research/wp-content/uploads/2016/12/CortanaLUDialog-FromSLTproceedings.pdf R. Sarikaya, P. A. Crook, часто такой подход будет ошибатьсяAN OVERVIEW OF END–TO–END LANGUAGE UNDERSTANDING AND DIALOG MANAGEMENT FOR PERSONAL DIGITAL ASSISTANTS]</ref>. Сложно описать все возможные способы задания запросаАрхитектура Кортаны]]

Целеориентированные диалоговые [https://ru.wikipedia.org/wiki/%D0%90%D0%BB%D0%B8%D1%81%D0%B0_(%D0%B3%D0%BE%D0%BB%D0%BE%D1%81%D0%BE%D0%B2%D0%BE%D0%B9_%D0%BF%D0%BE%D0%BC%D0%BE%D1%89%D0%BD%D0%B8%D0%BA)#%D0%90%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7_%D0%B7%D0%B0%D0%BF%D1%80%D0%BE%D1%81%D0%B0_%D0%B8_%D1%84%D0%BE%D1%80%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D0%B0 '''Яндекс Алиса'''] {{---}} виртуальный голосовой помощник от компании Яндекс. Относится к классу чат-ориентированных систем, но имеет множество навыков, каждый из которых может быть представлен в виде целеориентированной системы. Позволяет решать одну задачуАлиса запускает навык по его активационной фразе. Фактически навык является веб-сервисом, который реализует DM и NLG модули классической архитектуры. При помщи платформы [https://dialogs.yandex.ru/developer Яндекс Диалоги] разработчики могут создавать свои навыки и монетизировать их, но перед публикацией навык проходит обязательную модерацию. Распознавание голоса выполняется сервисом [https://cloud.yandex.ru/services/speechkit SpeechKit].

Модель на основе нейронных сетей (end[https://ru.wikipedia.org/wiki/Siri '''Сири'''] {{-to-end):-}} виртуальный помощник компании Apple. Является неотъемлемой частью iOS и доступна для большинства устройств, выпускаемых компанией. Поддерживает широкий спектр пользовательских команд, включая выполнение действий с телефоном, проверку основной информации, планирование событий и напоминаний, управление настройками устройства, поиск в интернете, взаимодействие с приложениями. Приспосабливается к каждому пользователю индивидуально, изучая его предпочтения в течение долгого времени.

Проблемы: валидных ответов может быть несколькоСуществует множество фреймворков, контекст может находится за пределами диалогакоторые значительно упрощают построение диалоговых систем. Рассмотрим самые популярные из них.

== Чаториентированные системы = DeepPavlov.ai ===

Чатоирентированные системы Основывается на таких библиотеках как правило используются [https://www.tensorflow.org/ TensorFlow], [https://keras.io/ Keras] и [https://pytorch.org/ PyTorch]. Включает множество компонентов, каждый из которых решает отдельную задачу диалоговых систем. Имеется модель для развлечения распознавания именованных сущностей, намерений, обработки истории диалога, анализа поведения пользователя и общения в чатедругие. Поведение агента диалоговой системы определяется набором навыков, каждый из которых строится из модулей. В разработке так же используются либо retrieval-based methods и генеативные моделиКогда агент получает фразу пользователя, специальный менеджер решает, какому навыку передать ее для обработки. Схема ядра представлена на рисунке 7. Пример использования на языке Python:

Проблема в проектировании таких систем '''from''' deeppavlov.agents.default_agent.default_agent '''import''' DefaultAgent '''from''' deeppavlov.skills.pattern_matching_skill '''import''' PatternMatchingSkill '''from''' deeppavlov.agents.processors.highest_confidence_selector '''import''' HighestConfidenceSelector <font color="grey">''# Создание сконфигурированных навыков''</font> hello = PatternMatchingSkill(responses=['Hello wordl! :)'], patterns=['hi', 'hello', 'good day'])невозможно вручную спроектировать изменение состояния диалога bye = PatternMatchingSkill(['Goodbye word! :(', как в целеориентированных системах'See you around. Одним из решений является использование иерархического кодера'], ['bye', чтобы определить иерархическую структуру в диалоге.'chao', 'see you']) fallback = PatternMatchingSkill(['I don\'t understand, sorry :/', 'I can say "Helo world!" 8)']) <font color="grey">''# Создание менеджера, который выбирает наиболее вероятный навык''</font> skill_manager = HighestConfidenceSelector() <font color="grey">''# Создание агента''</font> HelloBot = Agent([hello, bye, fallback], skills_selector=skill_manager) <font color="grey">''# Тестирование''</font>Seq2seq '''print'''(HelloBot(['Hello!', поддержа большого количества тем'Boo...', но неглубокая'Bye. ']))

[[Файл : Ds-dp-arch.png | 450px | thumb | right |[https://image.slidesharecdn.com/deeppavlovos2019-190529124953/95/deeppavlov-2019-21-638.jpg?cb=== С ограниченными ответами ===1559135208 Рисунок 7]. Схема ядра DeepPavlov]]

ELIZA[[Файл : Ds-rasa.png | 500px | thumb | right |иалоговая система-психоаналитик (сейчас, ее назвали бы чат-бот), родом из 60-ых годов[https://rasa.com/docs/rasa/img/architecture.png Рисунок 8]. Архитектура Rasa]]

Диалоговая операционная Данные для тренировки хранятся в формате YAML <ref>[https://rasa.com/docs/rasa/training-data-format Формат тренировочных данных в Rasa]</ref>. Имеется несколько типов тренировочных данных. Данные для NLU содержат намерения и примеры к ним. Опционально в примерах можно выделить тип сущности и ее значение или указать сентимент (настроение пользователя). Ответы бота (responses) разбиваются на именованные группы, откуда итоговый ответ выбирается случайно. Истории (stories) используются для выявления шаблонов диалога, чтобы системамогла правильно реагировать на последовательности фраз пользователя, которые не были описаны явно. Каждая история описывает последовательность шагов. Шагом может быть намерение, которым определяется фраза пользователя, или действие, которым может быть группа ответов бота. Имеется возможность описать форму, чтобы пользователь мог ввести данные (например, электронную почту), и использовать ее в качестве действия. Правила похожи на истории, но они определяют последовательность шагов более строго, без применения машинного обучения.

== Фреймворки Оценка качества модели ==

Существует множество фрейморков, которые значительно упрощают построение диалоговых системЛучшие модели по качеству отслеживания состояния диалога (англ. dialogue state tracking):

DeepPavlov{| class="wikitable"|-! Модель !! Точность связок !! Точность слотов !! Особенности|-| [https://arxiv.aiorg/abs/2006.01554 CHAN] || 52.68 || 97.69 || Использование контекстной иерархической [[Механизм внимания | сети внимания]], динамическое регулирование весов различных слотов во время обучения.|-| [https://www.aclweb.org/anthology/2020.acl-main.567.pdf SAS] || 51.03 || 97.20 || Применение механизма внимания к слотам, разделение информации слотов.|-| [https://www.aclweb.org/anthology/2020.acl-main.636.pdf MERET] || 50.91 || 97.07 || [[Обучение с подкреплением | Обучение с подкреплением]].|}

Включает множество компонентовКачество определяется по двум метрикам: ''точность слотов'' (англ. slot accuracy) {{---}} запрошенный слот верный, при помощи которых создаются скилыи ''точность связок'' (англ. Множество скилов объединяются joint goal accuracy) {{---}} каждый слот в диалоговый агент с которым взаимодействуют пользователи на естественном языкестостоянии верный. Для оценки по данному криетрию обычно используется набор данных [http://dialogue.mi.eng.cam.ac.uk/index.php/corpus/ MultiWOZ].

Языковые модели{| class="wikitable"|-! Модель !! [https://en.wikipedia.org/wiki/Accuracy_and_precision Точность (accuracy)] !! Особенности|-| [https: word2vec, esim, gpt, bert//arxiv.org/pdf/1811.05370.pdf ELMo + BLSTM-CRF] || 99. Хорошей 29 || Улучшение языковой модели достаточно около 100 примеров ELMo, обучение без учителя для хорошей классификации намеренияповышения производительности.|-| [https://github.com/sz128/slot_filling_and_intent_detection_of_SLU Enc-dec + ELMo] || 99.14 || Применение кодера-декодера с языковой моделью ELMo.|-| Stack-Propagation + BERT || 99.0 || -//-|}

[[Файл : Perfect-n2n== См.png | 200px | thumb | right | ]]также ==

*[[Распознавание Механизм внимания]]*[[Синтез речи]]

 * [https://arxivwww.youtube.com/watch?v=uLsI4fanlRI&t=4327s Лекция по подходам к построению диалоговых систем от Михаила Бурцева]* [https://www.youtube.com/watch?v=Asftac_wcs8 Семинар Multitask vs Transfer от Антона Астахова]* [http://datareview.info/article/neyronnyiy-mashinnyiy-perevod-s-primeneniem-gpu-vvodnyiy-kurs-chast-2/ Нейронный машинный перевод с применением GPU. Вводный курс. Часть 2]* [https://www.cs.cmu.orgedu/~tianchez/absdata/1605TianchezPhdProposal.07683 pdf Tiancheng Zhao, Learning Generative End-to-End Goalend Dialog Systems with Knowledge]* [https://www.alibabacloud.com/blog/progress-in-dialog-management-model-research_596140 Alibaba Clouder, Progress in Dialog Management Model Research]* [https://github.com/voicy-ai/DialogStateTracking DialogStateTracking]* [https://habr.com/ru/company/abbyy/blog/437008/ NLP. Основы. Техники. Саморазвитие. Часть 1]* [https://habr.com/ru/company/abbyy/blog/449514/ NLP. Основы. Техники. Саморазвитие. Часть 2: NER]* [https://www.baeldung.com/java-pattern-matching-suffix-tree Fast Pattern Matching of Strings Using Suffix Tree in Java]* [https://arxiv.org/pdf/1905.05709.pdf Minlie Huang, Xiaoyan Zhu, Challenges in Building Intelligent Open-domain Dialog Systems]* [https://github.com/AtmaHou/Task-Oriented Dialog-Dialogue-Research-Progress-Survey Dataset and methods survey for Task-oriented Dialogue]