Изменения

1) * Регрессия (mse - функция потерь) 2) * Классификация (надо сделать вероятности, функция потерь - максимизируем вероятность того что все объекты в обучающей выборке классифицированы правильно, вероятность - это сигмоида над значением формулы) predict_proba - для вероятности (складывать нельзя)/ predict - просто рез (и тут можно складывать значени] нескольких моделей) 3) * Мультиклассификация 4) * Ранжирования - (объекты с попарной классификацией). 

  1) * Строим дерево 2) * Считаем значение в листьях

* CatBoost поддерживает несколько режимов выборки данных:

1) * Бутстрап Бернулли - выбираем документ с вероятностью ''p''. Регулируется параметром ''sample rate'' 2) * Байесовский бутстрап - байесовское распределение. Регулируется параметром ''bagging temp''

* Пробовать все - долго. Поэтому выбираем сетку заранее и ходим по ней. Есть несколько способов выбора:  1) Uniform. Равномерно разбиваем отрезок от минимума значения для данной фичи до максимума. 2) Медианная сетка. Задаем количество разбиений над множеством значений, далее идем по объектам в порядке сортировки и разбиваем на группы по k объектов, где k - количество объектов в одном слоте разбиения. 3) UniformAndQuantiles. Комбинация 1 и 2 пунктов.  MaxSumLog - точно правильная динамика GreedyLogSUm - жадно не точно но быстрее

  1) * LabelEncoding - работает плохо, так как появляется отношения порядка между объектами. 2) * One-hot encoding - работает, если различных значений фичи не много. Иначе одна фича размножится на множество фичей и влиять на модель заведомо сильнее остальных фичей.

 * Ниже описаны гиперпараметры, на который стоит обратить внимание при использовании библиотеки. 1) * cat_features 2) * Overfitting detector 3) * Число итераций и learning rate 4) * L2_reg 5) * Random_srength 6) * Bagging_temp 7) * Глубина дерева (стоит попробовать 10 и 6)