Изменения
→Способы создания интерпретируемой модели
Одна из реализацией данной идеи является библиотека '''SHAP'''.
'''SHAP''' (англ. SHapley Additive exPlanations) {{---}} (англ. SHapley Additive exPlanations) это библиотека, которая для оценки важности признаков рассчитываются значения Шэпли<ref name="Shapley>Статья в википедии о значениях Шэпли [https://en.wikipedia.org/wiki/Shapley_value]</ref> (происходит оценка предсказаний модели с и без данного признака).
Важность i-го признака здесь вычисляется по такой формуле:<ref name="exp"> Реализация Shap [https://github.com/slundberg/shap]</ref>
