Изменения
→Важность признаков
<math>\begin{equation*} \phi_{i}(p) =\sum_{S \subseteq \{1,2..n\} / \{i\}} \frac{|S|!(n - |S| -1)!}{n!}(p(S \cup \{ i \}) - p(S)) \end{equation*}</math>
где:<math>p(S \cup \{ i \})</math> {{---}} это предсказание модели с i-тым признаком,<math>p(S)</math> {{---}} это предсказание модели без i-того признака,<math>n</math> {{---}} количество фичей,<math>S</math> произвольный набор признаков без i-того признака \\где '''f(S)''' {{---}} ответ модели, обученной на подмножестве '''S''' множества '''n''' признаков (на конкретном объекте — вся формула записывается для конкретного объекта).<ref name="habr">Павел Трошенков "Как интерпретировать предсказания моделей в SHAP" [https://habr.com/ru/post/428213]</ref>.
Видно, что вычисление требует переобучения модели на всевозможных подмножествах признаках, поэтому на практике применяют приближения формулы.
