CatBoost

Статья посвящена работе с библиотекой CatBoost

---

Режимы работы

• Регрессия (mse - функция потерь)
• Классификация (надо сделать вероятности, функция потерь - максимизируем вероятность того что все объекты в обучающей выборке классифицированы правильно, вероятность - это сигмоида над значением формулы) predict_proba - для вероятности (складывать нельзя)/ predict - просто рез (и тут можно складывать значени] нескольких моделей)
• Мультиклассификация
• Ранжирования - (объекты с попарной классификацией).

---

Оптимизируемые функции

Поддерживает много оптимизируетмых функций. Для конкретной модели выбирается одна оптимизируемая функция.

---

Метрики

Поддерживает много метрик.

---

Шаги обучения

• Строим дерево
• Считаем значение в листьях

---

Построение дерева

Процесс построения происходит жадно. Выбираем первую вершину, далее выбираем лучшее дерево с одной вершиной. Далее смотрим скоры и выбираем лучшее дерево.
Дерево строится по слоям. Гарантировано на каждом слое один и тот же сплит (условие, по которому мы делим)

Как выбрать лучшее дерево?

Смотрим на сколько меняется функция ошибки, выбираем такое дерево, чтобы оно как можно лучше приближало вектор градиентов.

---

Как работает градиентный бустинг?

• В основе CatBoost лежит грдиентный бустинг.

• Градиент функции ошибки - все производные по всем значениям функции

Отметим, что существует идеальный шаг по градиенту, однако листьев в дереве меньше, чем документов в датасете.
Поэтому мы можем пытаться приближать тот самый идеальный шаг.
Чтобы найти лучший сплит, проверяем похожесть после одного шага алгоритма по градиенту - это скор.

---

Работа с датасетом

CatBoost поддерживает несколько режимов выборки данных

• Бутстрап Бернулли - выбираем документ с вероятностью p. Регулируется параметром sample rate
• Байесовский бутстрап - байесовское распределение. Регулируется параметром bagging temp

 Отметим, что бутстрап используется только для выбора структуры дерева, для подсчета значения в листьях используем всю выборку. Это сделано так как выбор структуры дерева происходит долго, нужно несколько раз пересчитывать значения, поэтому использовать всю выборку - слишком дорого. Однако значения в листьях с уже готовой структурой дерева считаются один раз, и для большей точности можно позволить использовать весь датасет.

---

Рандомизация скора

Есть рандомизация скора. Score += random_strength *  Rand (0, lenofgrad * q), где q - множитель, уменьшающийся при увеличении итерации. Таким образом, рандом уменьшается ближе к концу.рандома

---

Бинаризация фичей

Пробовать все - долго. Поэтому выбираем сетку заранее и ходим по ней. Есть несколько способов выбора:

• Uniform. Равномерно разбиваем отрезок от минимума значения для данной фичи до максимума.
• Медианная сетка. Задаем количество разбиений над множеством значений, далее идем по объектам в порядке сортировки и разбиваем на группы по k объектов, где k - количество объектов в одном слоте разбиения.
• UniformAndQuantiles. Комбинация 1 и 2 пунктов.

---

Работа с категориальными фичами

• LabelEncoding - работает плохо, так как появляется отношения порядка между объектами.
• One-hot encoding - работает, если различных значений фичи не много. Иначе одна фича размножится на множество фичей и влиять на модель заведомо сильнее остальных фичей.

Лучше не делать препроцессинг самим, из-за проблем, описанных выше. В CatBoost можно задать параметр cat_features, передав туда индексы категориальных фичей. Также можно отрегулировать параметр one_hot_max_size - максимальное количество различных значений у категориальной фичи, чтобы она могла в последствии быть подвержена one-hot encoding.

---

Подбор параметров

Ниже описаны гиперпараметры, на который стоит обратить внимание при использовании библиотеки.

• cat_features
• Overfitting detector
• Число итераций и learning rate
• L2_reg
• Random_srength
• Bagging_temp
• Глубина дерева (стоит попробовать 10 и 6)