Изменения

Перейти к: навигация, поиск

Интерпретируемые модели

71 байт убрано, 22:51, 14 января 2021
Суррогатные модели
[[Файл:Lime.png|thumb|400px| рис. 2. Построение локальной суррогатной модели<ref name="img">Александр Дьяконов "Интерпретации чёрных ящиков" Рис.11 [https://dyakonov.org/2018/08/28/%D0%B8%D0%BD%D1%82%D0%B5%D1%80%D0%BF%D1%80%D0%B5%D1%82%D0%B0%D1%86%D0%B8%D0%B8-%D1%87%D1%91%D1%80%D0%BD%D1%8B%D1%85-%D1%8F%D1%89%D0%B8%D0%BA%D0%BE%D0%B2/]</ref>.]]
'''Суррогатная модель''' {{---}} это модель, обученная на выводе Для интерпретации модели (далее именуемый как черный ящик), которую требуется интерпретироватьможно использовать суррогатные модели обученная на выводе черного ящика, при различных входных данных. На основе суррогатной модели описывается поведение черного ящика.
Есть два типа суррогатных моделей: глобальная и локальная.
* Глобальная суррогатная модель {{---}} это модель обученная обучена на всем выводе черного ящика. Такая модель полностью повторяет поведение черного ящика, соответственно интерпретирует его на всей выборке.* Локальная суррогатная модель {{---}} это модель обученная обучена на выводе в какой-то окрестности определенной точки (рис. 2, где ЧЯ {{---}} черный ящик). Такая модель зачастую плохо интерпретирует всю выборку, но хорошо справляется с этой задачей в данной окрестности.
Глобальную суррогатную модель довольно сложно построить, поэтому чаще всего прибегают к локальным моделям и интерпретируют определенные объекты.
9
правок

Навигация