Изменения

Обычно целеориентированные и чат-ориентированные системы исследуют отдельно, но на практике многие системы являются универсальными. Схема идеальной универсальной модели диалоговой системы приведена на рисунке 1. Модель является абстрактной, ее полной реализации не существует.

[[Файл : Perfect-n2n.png | 200px 600px | thumb | right |

Этапы обучения общего кодера (блок 3): * обучение с моделированием языка на данных диалога,* ''тонкая настройка'' на всех специфичных для задач данных. Обучение блоков 4 и 5: * предобучение для каждой задачи,* тонкая настройка на всех специфичных для задач данных. Блоки 6 и 7 обучаются на всех специфичных для задач данных. {{Определение | definition='''Тонкая настройка''' (англ. fine-turning) {{---}} подход к обучению, когда модель, обученная на большом количестве данных, повторно обучается на сравнительно небольшом количестве специфичных данных, чтобы скорректировать веса.}} История диалога (блок 0) используется, чтобы обратиться к множеству внешних источников информации(блок 1). Затем формируется полный контекст диалога, который включает персональные данные пользователя, информацию из внешних источников, историю диалога(блок 2). Контекст при помощи трансформера структурируется и передается множеству компонентов, которые решают определенные задачи: в блоке 4 выполняется оценка настроения пользования (англ. sentiment), поиск именованных сущностей (NER), [[Обработка естественного языка#Частеречная разметка | выделение частей речи (POS)]], разрешение ''кореферентности''; в блоке 5 множество специфичных диалоговых моделей выдают свой ответ. Набор полученных ответов кодируется (блок 6) и ранжируется (блок 7) с учетом контекста. {{Определение | definition='''Разрешение кореферентности''' (англ. сoreference resolution) {{---}} задача поиска в тексте всех выражений, которые ссылаются на определенную сущность в тексте.}}

Классический метод построения целеориентированных систем заключается в использовании цепочки модулей (пайплайнаконвейера), которая изображена на рисунке 2.

[[Файл : Ds-pipeline-to.png | 400px 500px | thumb | right |

* '''NLU'''. Фраза в текстовом виде анализируется системой: определяется домен, намерение, именованные сущности. Для распознавания намерений может применяться обученный на [[Векторное представление слов | эмбеддингахвекторном представлении фраз]] классификатор. [[Обработка естественного языка#spaCy | Распознавание именованных сущеностей ]] является отдельной задачей извлечения информации. Для ее решения используются [[Теория формальных языков | формальные языки]], статистические модели и их комбинации. В результате работы компонента создается формальное описание фразы {{---}} семантический фрейм.

* '''NLG'''. В соответствии с выбранным действием осуществляется генерация ответа пользователю на естественном языке. Для генерации применяются [[Генерация текста | генеративные модели или шаблоны]].

'''Именованная сущность (англ. named entity)''' {{---}} слово во фразе пользователя, которое можно отнести к определенному типу.<br />}} {{Определение | definition=

Обычно после распознавания именованных сущностей выполняется ''заполнение слотов'' (англ. slot filling), в ходе которого каждая найденная сущность приводится к своей нормальной форме с учетом ее типа и множества возможных значений. Заполнение слотов позволяет не учитывать морфологию сущности при дальнейшей ее обработке. Простейшим подходом к решению данной задачи нормализации сущностей является поиск с использованием расстояния Левенштейна. После определения типа сущности, она сравнивается с другими сущностями того же типа из базы данных. В качестве нормальной формы выбирается та, до которой расстояние наименьшее, либо можно выбрать несколько сущностей с наименьшим расстоянием и предоставить выбор пользователю (такой подход также применим для исправления опечаток).

Для получения эмбеддингов численного представления текста используются различные языковые модели: [[Векторное представление слов#word2vec | Word2Vec]], [https://github.com/coetaur0/ESIM ESIM], [[Генерация текста#GPT-2 | GPT]], [[Векторное представление слов#BERT| BERT]]. Каждой определяется свой способ представления слов и предложений или их последовательности для наиболее точного извлечения их смысловых значений. С хорошей языковой моделью достаточно около 100 примеров для хорошей классификации намерения <ref>[https://image.slidesharecdn.com/intentdetectionbenchmarkaugust2017-170817145622/95/nlu-intent-detection-benchmark-by-intento-august-2017-31-1024.jpg?cb=1503310100 Konstantin Savenkov, Intent Detection Benchmark by Intento]</ref>.

* '''Belief Tracker'''. В реализации используется [[Рекуррентные нейронные сети | RNN-сеть]], на вход которой поступает предобработанная фраза пользователя. Дает распределение вероятностей <tex> \mathbf{p}_s^t </tex> по всем значениям определенного слота <tex> s </tex>.

'''Интерактивная система неформальных ответов''' (англ. informal response interactive system, IRIS) представлена на рисунке 14. Прямоугольником обозначены функциональные модули, цилиндром {{---}} базы данных. Особенностью данной системы является то, , Здесь выполняется сравнение не только текущей фразы пользователя, но и вектора текущей истории диалога с другими диалогами в базе данных, что позволяет учесть контекст.  [[Файл : Ds-iris.png | 350px | thumb | right |Рисунок 4 <ref>[https://www.aclweb.org/anthology/P12-3007.pdf Rafael E. Banchs, Haizhou Li, IRIS: a Chat-oriented Dialogue System based on the Vector Space Model]</ref>. Архитектура IRIS]] Первая фраза пользователя попадает в модуль инициализации, который обеспечивает приветствие пользователя и извлечение его имени. Имя пользователя используется менеджером диалога, чтобы инициализировать вектор истории диалога. Если пользователь не известен системе (его имя отуствует в Vocabulary Learning), то система инициализирует историю случайным вектором из хранилища историй. Когда инициализация заканчивается, система спрашивает пользователя, чего он хочет.  В каждой новой фразе менеджер диалога при помощи модуля Dynamic replacement выполняет замену слов из словаря на плейсхолдеры (Dynamic replacementих определения, например, Иван <tex> \to </tex> имя), после чего выполняется токенизация и векторизация фразы. Если встречаются токены, которых нет ни в истории, ни в словаре, то они обозначаются считаются неизветсными (англ. unknown vocabulary terms (, OOVs). Неизвестные токены обрабатываются специальным модулем (Vocabulary learning), который либо получает определение от пользователя, либо или из внешнего источника информации. Система вычисляет косинусное расстояние <tex>c_1</tex> между текущей фразой пользователя и всеми фразами, хранимыми в базе данных. Это Полученное значение используется, чтобы извлечь от 50 до 100 фраз, которые могут быть стать ответами. Затем вычисляется та же метрика, но уже между вектором текущей истории диалога (которая включает высказывания как высказывания пользователя, так и фразы системы) и векторами других историй<tex>c_2</tex>. Чтобы усилить последние фразы в текущей истории, используется ''коэффициент забывания''. Полученные метрики объединяются при помощи logлог-linear линейной комбинации <tex> e^{c_1 w_1c_1 + c_2w_2c_2} </tex>, фразы ранжируютсягде <tex>w_1, w_2</tex> {{---}} настраиваемые веса, и а результат используется для ранжирования потенциальных ответов. Итоговый ответ выбирается случайная сверхуслучайно среди нескольких ответов на вершине списка.

[[Файл : Ds-iris.png | 350px | thumb | right |Рисунок . Архитектура AliMe Assist]] Модель с такой архитектурой можно обучить на фильмахсубтитрах фильмов. Данные для русского языка можно найти на Толоке<ref> [https://toloka.ai/ru/datasets Наборы данных Толоки]</ref> <ref>[https://contest.yandex.ru/algorithm2018/contest/7914/enter/ Диалоги из фильмов, которые предоставлялись на соревновании Яндекс.Алгоритм 2018 (нужна регистрация)]</ref>.

Системы с генерацией ответов (англ. generation-basebased) генерируют ответ пословно. Такие системы более гибкие, но фильтровать их сложней. Часто для генерации диалога используются seq2seq-модели, другими вариантами являются расширенный [[Вариационный автокодировщик | вариационный автокодировщик]] или [[Generative Adversarial Nets (GAN) | генеративно-состязательная сеть]]. Высокую производительность при генерации диалогов позволяют получить предобученные языковые модели на основе Трансформера.

DOS (Dialog Operating System) '''[https://arxiv.org/pdf/1801.05032.pdf AliMe Assist]''' {{---}} диалоговая операционная система помощник для пользователей магазина AliExpress. Его архитектура представлена на рисунке 5. Серым цветом выделены блоки, где используются методы машинного обучения. Система состоит из 3 подсистем: поиск информации или решения, выполнение задачи для клиента и простое общение в чате. Для извлечения намерения вопрос <tex> q </tex> проверяется на основе DeepPavlovсоответствие шаблонам при помощи [[Бор | бора]] (англ. trie-based pattern matching). Если соответствие найти не удалось, то вопрос передается классификатору, построенному на [[Сверточные нейронные сети | сверточной сети]]. На вход сети подаются вектора слов вопроса и семантических тэгов, которые относятся к нему и контексту (предыдущему вопросу). Для получения векторного представления используется [[Векторное представление слов#fastText | FastText]]. Выбор CNN-сети вместо RNN основан на том, что первая сеть учитывает контекстную информацию слов (слова перед и после текущего слова) и работает быстрей. Точность классификации 40 намерений составляет 89,91%.

'''AliMe Assist''' {{[[Файл : Ds---}} помощник для пользователей магазина AliExpressalime. Его архитектура представлена на рисунке . Серым цветом выделены блоки, где используются методы машинного обучения. Система состоит из 3 подсистем: поиск информации или решения, выполнение задачи для клиента и путая переписка в чате. Для извлечения намерения вопрос png | 350px | thumb | right |Рисунок 5<texref> q <[https://tex> проверяется на соответствие шаблонам при помощи дерева суффиксов (англarxiv. trie-based pattern matching)org/pdf/1801. Если соответствие найти не удалось, то вопрос передается классификатору, построенному на CNN-сети05032. На вход сети подаются эмбеддинги слов вопроса и семантических тэгов, которые относятся к нему и контексту (предыдущему вопросу). Для получения эмбеддингов используется FastText. Выбор CNNpdf Feng-сети вместо RNN основан на томLin Li, что первая сеть учитывает контекстную информацию слов (слова перед и после текущего слова) и работает быстрей. Точность классификации 40 намерений составляет 89Minghui Qiu,91%AliMe Assist: An Intelligent Assistant for Creating an Innovative E-commerce Experience]</ref>.Архитектура AliMe Assist]]

'''[[Файл https: Ds//ru.wikipedia.org/wiki/%D0%A1%D1%8F%D0%BE%D0%B0%D0%B9%D1%81 Xiaolce]''' {{-alime--}} чат-бот, развиваемый китайским отделением Microsoft. Состоит из множества навыков, которые делятся на эмоциональные и рациональные. Имеется навык для комменирования картинок или сочинения по ним стихов. Сценарии диалога делятся на персональные и социальные. Бот старается установить эмоциональную связь с пользователем, чтобы продлить диалог с ним.png | 350px | thumb | right |Рисунок '''[https://ru. Архитектура AliMe Assist]wikipedia.org/wiki/%D0%9A%D0%BE%D1%80%D1%82%D0%B0%D0%BD%D0%B0_(%D0%B3%D0%BE%D0%BB%D0%BE%D1%81%D0%BE%D0%B2%D0%BE%D0%B9_%D0%BF%D0%BE%D0%BC%D0%BE%D1%89%D0%BD%D0%B8%D0%BA) Microsoft Cortana]''' {{---}} виртуальный голосовой помощник. Состоит из можества навыков, натренированных на конкретные задачи. В отличие от классической архитектуры, где выбирается подходящий навык, здесь текст проходит через все навыки, после чего выбирается подходящий ответ. Каждый навык использует контекст (результаты обработки предыдущей фразы), сформированный всеми навыками. При таком подходе требуется больше ресурсов, но он позволяет существенно увеличить точность. Схематично процесс обработки фразы пользователя представлен на рисунке 6.

Xiaolce {{[[Файл : Ds-cortana-arch.png | 600px | thumb | right |Рисунок 6<ref>[https://www.microsoft.com/en-us/research/wp-}} чатcontent/uploads/2016/12/CortanaLUDialog-бот, развиваемый китайским отделением MicrosoftFromSLTproceedings. Состоит из множества навыков, которые делятся на эмоциональные и рациональныеpdf R. Имеется навыкSarikaya, который комментирует картинки или сочиняет по ним стихиP. Сценарии диалога делятся на персональные и социальныеA. Бот старается установить эмоциональную связь с пользователемCrook, чтобы продлить диалог с нимAN OVERVIEW OF END–TO–END LANGUAGE UNDERSTANDING AND DIALOG MANAGEMENT FOR PERSONAL DIGITAL ASSISTANTS]</ref>.Архитектура Кортаны]]

Microsoft Cortana [https://ru.wikipedia.org/wiki/%D0%90%D0%BB%D0%B8%D1%81%D0%B0_(%D0%B3%D0%BE%D0%BB%D0%BE%D1%81%D0%BE%D0%B2%D0%BE%D0%B9_%D0%BF%D0%BE%D0%BC%D0%BE%D1%89%D0%BD%D0%B8%D0%BA)#%D0%90%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7_%D0%B7%D0%B0%D0%BF%D1%80%D0%BE%D1%81%D0%B0_%D0%B8_%D1%84%D0%BE%D1%80%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D0%B0 '''Яндекс Алиса'''] {{---}} виртуальный голосовой помощникот компании Яндекс. Состоит из можества Относится к классу чат-ориентированных систем, но имеет множество навыков, натренированных на конкретные задачикаждый из которых может быть представлен в виде целеориентированной системы. Алиса запускает навык по его активационной фразе. В отличие от Фактически навык является веб-сервисом, который реализует DM и NLG модули классической архитектуры. При помщи платформы [https://dialogs.yandex.ru/developer Яндекс Диалоги] разработчики могут создавать свои навыки и монетизировать их, где выбирается подходящий но перед публикацией навык, здесь текст проходит через все навыки, после чего выбирается подходящий ответобязательную модерацию. Также каждый навык использует результаты обработки предыдущей фразы от всех навыковРаспознавание голоса выполняется сервисом [https://cloud. При таком подходе требуется больше ресурсов, но он позволяет существенно увеличить точностьyandex. Схематично процесс обработки фразы пользователя представлен на рисунке ru/services/speechkit SpeechKit].

[[Файл https: Ds//ru.wikipedia.org/wiki/Siri '''Сири'''] {{--cortana-arch}} виртуальный помощник компании Apple. Является неотъемлемой частью iOS и доступна для большинства устройств, выпускаемых компанией. Поддерживает широкий спектр пользовательских команд, включая выполнение действий с телефоном, проверку основной информации, планирование событий и напоминаний, управление настройками устройства, поиск в интернете, взаимодействие с приложениями.png | 350px | thumb | right |Рисунок Приспосабливается к каждому пользователю индивидуально, изучая его предпочтения в течение долгого времени. Архитектура]]

Существует множество фрейморковфреймворков, которые значительно упрощают построение диалоговых систем. Рассмотрим самые популярные из них.

Основывается на таких библиотеках как [https://www.tensorflow.org/ TensorFlow], [https://keras.io/ Keras ] и [https://pytorch.org/ PyTorch]. Включает множество компонентов, каждый из которых решает отдельюу отдельную задачу диалоговых систем. Имеется модель для распознавания именованных сущностей, намерений, обработки истории диалога, анализа поведения пользователя и другие. Поведение агента диалоговой системы определяется набором навыков, каждый из которых строится из модулей. Когда агент получает фразу пользователя, специальный менеджер решает, какому навыку передать ее для обработки. Схема ядра представлена на рисунке 7. Пример использования на языке Python:

'''from''' deeppavlov.agents.default_agent.default_agent '''import''' DefaultAgent '''from''' deeppavlov.skills.pattern_matching_skill '''import''' PatternMatchingSkill '''from''' deeppavlov.agents.processors.highest_confidence_selector '''import''' HighestConfidenceSelector <font color="grey">''# Создание сконфигурированных навыков''</font> hello = PatternMatchingSkill(responses=['Hello wordl! :)'], patterns=[Файл 'hi', 'hello', 'good day']) bye = PatternMatchingSkill(['Goodbye word! : Ds-dp-arch(', 'See you around.png | 300px | thumb | right |'], ['bye', 'chao', 'see you']) fallback = PatternMatchingSkill(['I don\'t understand, sorry :/', 'I can say "Helo world!" 8)']) <font color="grey">''# Создание менеджера, который выбирает наиболее вероятный навык''</font> skill_manager = HighestConfidenceSelector() <font color="grey">''# Создание агента''</font>Рисунок HelloBot = Agent([hello, bye, fallback], skills_selector=skill_manager) <font color="grey">''# Тестирование''</font> '''print'''(HelloBot(['Hello!', 'Boo. Схема ядра DeepPavlov]..', 'Bye.']))

{|-valign="top" |[[Файл: Ds-deeppavlovdp-helloarch.png | 450px | thumb | 600px right | [https://image.slidesharecdn.com/deeppavlovos2019-190529124953/95/deeppavlov-2019-21-638.jpg?cb=1559135208 Рисунок 7]. Тривиальный бот на Схема ядра DeepPavlov ]] |}

Архитектура схемотично изображени схематично изображена на рисунке 18. Для передачи сообщений по каналу используются ''коннекторы''. В качестве катала вводаИмеются коннекторы для [https://rasa.com/docs/rasa/connectors/вывода может быть Телеграмtelegram Телеграма], собственный [https://rasa.com/docs/rasa/connectors/your-own-website собственного веб-сайтсайта], [https://rasa.com/docs/rasa/connectors/slack Slack], поддерживаются кастомные можно создавать [https://rasa.com/docs/rasa/connectors/custom-connectors свои] коннекторы. [[Файл : Ds-rasa.png | 500px | thumb | right |[https://rasa.com/docs/rasa/img/architecture.png Рисунок 8]. Архитектура Rasa]] Данные для тренировки хранятся в формате YAML <ref>[https://rasa.com/docs/rasa/training-data-format Формат тренировочных данных в Rasa]</ref>. Имеется несколько типов тренировочных данных. Данные для NLU содержат намерения и примеры к ним. Опционально в примерах можно выделить тип сущности и ее значение или указать сентимент (настроение пользователя). Ответы бота (responses) разбиваются на именованные группы, откуда итоговый ответ выбирается случайно. Истории (stories) используются для выявления шаблонов диалога, чтобы система могла правильно реагировать на последовательности фраз пользователя, которые не были описаны явно. Каждая история описывает последовательность шагов. Шагом может быть намерение, которым определяется фраза пользователя, или действие, которым может быть группа ответов бота. Имеется возможность описать форму, чтобы пользователь мог ввести данные (например, электронную почту), и использовать ее в качестве действия. Правила похожи на истории, но они определяют последовательность шагов более строго, без применения машинного обучения. == Оценка качества модели == Лучшие модели по качеству отслеживания состояния диалога (англ. dialogue state tracking): {| class="wikitable"|-! Модель !! Точность связок !! Точность слотов !! Особенности|-| [https://arxiv.org/abs/2006.01554 CHAN] || 52.68 || 97.69 || Использование контекстной иерархической [[Механизм внимания | сети внимания]], динамическое регулирование весов различных слотов во время обучения.|-| [https://www.aclweb.org/anthology/2020.acl-main.567.pdf SAS] || 51.03 || 97.20 || Применение механизма внимания к слотам, разделение информации слотов.|-| [https://www.aclweb.org/anthology/2020.acl-main.636.pdf MERET] || 50.91 || 97.07 || [[Обучение с подкреплением | Обучение с подкреплением]].|} Качество определяется по двум метрикам: ''точность слотов'' (англ. slot accuracy) {{---}} запрошенный слот верный, и ''точность связок'' (англ. joint goal accuracy) {{---}} каждый слот в стостоянии верный. Для оценки по данному криетрию обычно используется набор данных [http://dialogue.mi.eng.cam.ac.uk/index.php/corpus/ MultiWOZ]. Лучшие модели по качеству заполнения слотов:

Данные {| class="wikitable"|-! Модель !! [https://en.wikipedia.org/wiki/F-score F1] !! Особенности|-| [https://github.com/sz128/slot_filling_and_intent_detection_of_SLU Enc-dec + BERT] || 97.17 || Применение кодера-декодера с языковой моделью BERT.|-| [https://www.aclweb.org/anthology/D19-1214.pdf Stack-Propagation + BERT] || 97.0 || Использование намерений для тренировки хранятся в формате YAMLзаполнения слотов, обнаружение намерений на уровне токенов.|-| [https://arxiv.org/pdf/1902.10909.pdf Joint BERT] || 97.0 || Модель заполнения слотов на основе BERT. |}

storiesНабор данных: [https://github.com/sonos/nlu- story: greet and subscribe steps: benchmark/tree/master/2017- intent: greet 06- action: utter_greet custom- intent: subscribe - action: newsletter_form - active_loop: newsletter_formengines Snips].

Лучшие модели по качеству определения намерений:  {| class="wikitable"|-! Модель !! [https://en.wikipedia.org/wiki/Accuracy_and_precision Точность (accuracy)] !! Особенности|-| [https://arxiv.org/pdf/1811.05370.pdf ELMo + BLSTM-CRF] || 99.29 || Улучшение языковой модели ELMo, обучение без учителя для повышения производительности.|-| [Файл https: Ds//github.com/sz128/slot_filling_and_intent_detection_of_SLU Enc-rasadec + ELMo] || 99.png 14 | 300px | thumb Применение кодера-декодера с языковой моделью ELMo.| right -|Stack-Propagation + BERT || 99.0 || -//-|}Рисунок Набор данных: Snips. ]]

* [упсhttps://www.youtube.com/watch?v=uLsI4fanlRI&t=4327s Лекция по подходам к построению диалоговых систем от Михаила Бурцева]* [https://www.youtube.com/watch?v=Asftac_wcs8 Семинар Multitask vs Transfer от Антона Астахова]* [http://datareview.info/article/neyronnyiy-mashinnyiy-perevod-s-primeneniem-gpu-vvodnyiy-kurs-chast-2/ Нейронный машинный перевод с применением GPU. Вводный курс. Часть 2]* [https://www.cs.cmu.edu/~tianchez/data/TianchezPhdProposal.pdf Tiancheng Zhao, Learning Generative End-to-end Dialog Systems with Knowledge]* [https://www.alibabacloud.com/blog/progress-in-dialog-management-model-research_596140 Alibaba Clouder, Progress in Dialog Management Model Research]* [https://github.com/voicy-ai/DialogStateTracking DialogStateTracking]* [https://habr.com/ru/company/abbyy/blog/437008/ NLP. Основы. Техники. Саморазвитие. Часть 1]* [https://habr.com/ru/company/abbyy/blog/449514/ NLP. Основы. Техники. Саморазвитие. Часть 2: NER]* [https://www.baeldung.com/java-pattern-matching-suffix-tree Fast Pattern Matching of Strings Using Suffix Tree in Java]* [https://arxiv.org/pdf/1905.05709.pdf Minlie Huang, Xiaoyan Zhu, Challenges in Building Intelligent Open-domain Dialog Systems]* [https://github.com/AtmaHou/Task-Oriented-Dialogue-Research-Progress-Survey Dataset and methods survey for Task-oriented Dialogue]