Изменения

Перейти к: навигация, поиск

Алгоритмы бустинга

875 байт добавлено, 04:54, 14 июня 2022
Нет описания правки
[[Бустинг, AdaBoost | Бустинг]] {{---}} это композиция алгоритмов, где на каждой итерации алгоритм пытается исправить все ошибки композиции предыдущих алгоритмов.
 
== LogitBoost ==
 
== BrownBoost ==
'''while''' <tex>s > 0</tex>
'''return''' <tex>H(x) = \textrm{sign}\left(\sum\limits_{i=1} \alpha_i h_i(x)\right)</tex> <font color=green>//$H(x)$ {{---}} результирующий классификатор</font>
 
=== Мультиклассовая классификация ===
Данный алгоритм можно обобщить с бинарной классификации на мультиклассовую при помощи метода Error-Correcting Output Codes (ECOC)<ref>[https://www.jmlr.org/papers/volume1/allwein00a/allwein00a.pdf E. L. Allwein, R. E. Schapire, and Y. Singer {{---}} Reducing multiclass to binary: A
unifying approach for margin classi�ers.]</ref>. Для этого введем ECOC матрицу
 
Для каждого элемента $(x_n, y_n)$ и класса $j$ будут пересчитываться следующим образом:
<center><tex>r_{i+1, j}(x_n, y_n) = r_{i,j}(x_n, y_n) + \alpha_i h_{i,j}(x_n) \lambda_j^n</tex></center>
где $\lambda_j^n$ соответствует элементу класса $j$ в ECOC матрице.
== Примечания==
<references />
11
правок

Навигация