Изменения

Перейти к: навигация, поиск

Интерпретируемые модели

131 байт добавлено, 02:53, 15 января 2021
Суррогатные модели
[[Файл:Lime.png|thumb|400px| рис. 2. Построение локальной суррогатной модели<ref name="img">Александр Дьяконов "Интерпретации чёрных ящиков" Рис.11 [https://dyakonov.org/2018/08/28/%D0%B8%D0%BD%D1%82%D0%B5%D1%80%D0%BF%D1%80%D0%B5%D1%82%D0%B0%D1%86%D0%B8%D0%B8-%D1%87%D1%91%D1%80%D0%BD%D1%8B%D1%85-%D1%8F%D1%89%D0%B8%D0%BA%D0%BE%D0%B2/]</ref>.]]
Для интерпретации модели (далее именуемой как черный ящик) можно использовать интерпретируемую суррогатную модель, обученную на выводе черного ящика при различных входных данных. На основе суррогатной модели описывается Так как суррогатная модель будет повторять поведение черного ящика, то на её основе можно интерпретировать черный ящик.
Есть два типа суррогатных моделей: глобальная и локальная.
9
правок

Навигация