=== Суррогатные модели ===
Суррогатная модель {{---}} это интерпретируемая модель, обученная на выводе изначальной [[Файл:Lime.png|thumb|400px| рис. 2. Построение локальной суррогатной модели, которую требуется интерпретировать, и уже на её основе описывают первичную модель.]]
Есть два типа суррогатных моделей: глобальная и локальная. Глобальная '''Суррогатная модель ''' {{---}} это интерпретируемая модель построенная , обученная на всём выводе изначальноймодели (далее именуемый как черный ящик), локальная модель {{---}} это модель построенная на выводе в какой-то окрестностикоторую требуется интерпретировать, для описания поведения изначальной в определенной точкепри различных входных данных. На основе суррогатной модели описывается поведение черного ящика.
Одна из реализацией локальной суррогатной модели является '''LIME'''Есть два типа суррогатных моделей: глобальная и локальная. * Глобальная суррогатная модель {{---}} это модель обученная на всем выводе черного ящика. Такая модель полностью повторяет поведение черного ящика, соответственно интерпретирует его на всей выборке.* Локальная суррогатная модель {{---}} это модель обученная на выводе в какой-то окрестности определенной точки (рис. 2, где ЧЯ {{---}} черный ящик). Такая модель зачастую плохо интерпретирует всю выборку, но хорошо справляется с этой задачей в данной окрестности. Глобальную суррогатную модель довольно сложно построить, поэтому чаще всего прибегают к локальным моделям и интерпретируют определенные объекты.
'''LIME''' {{---}} (англ. Local Interpretable Model-agnostic Explanations) <ref name="Lime">Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin "Explaining the Predictions of Any Classifier" [https://www.kdd.org/kdd2016/papers/files/rfp0573-ribeiroA.pdf]</ref>
Даже если простая модель не сможет смоделировать сложную во всём пространстве, в окрестности конкретной точки это вполне возможно. Локальные модели объясняют конкретный ответ чёрного ящика. Эта идея показана на рис. 2. У нас есть чёрный ящик (ЧЯ), который построен на данных. В некоторой точке он выдал ответ, мы генерируем выборку в окрестности этой точки, узнаём ответы ЧЯ и настраиваем обычный линейный классификатор. Он описывает ЧЯ в окрестности точки, хотя во всём пространстве он сильно отличается от ЧЯ. Из рис. 2 понятны достоинства и недостатки такого подхода.библиотека <ref name="lime_exp>Реализация Lime [https://github.com/marcotcr/lime]</ref> [[Файл:lime.png|500px]] ''рис. 2. Построение локальной суррогатной модели, которая строит локальную суррогатную модель.''
== См. также ==
