== Бустинг ==
'''Бустинг ''' (англ. boosting — улучшение) — это процедура последовательного построения композиции алгоритмов машинного обучения, когда каждый следующий алгоритм стремится компенсировать недостатки композиции всех предыдущих алгоритмов. Бустинг представляет собой жадный алгоритм построения композиции алгоритмов.
=== AdaBoost ===Алгоритмы бустинга:
Алгоритм <li>[[Бустинг, AdaBoost|AdaBoost]] (сокр. от adaptive boosting) — адаптивный алгоритм машинного обучениябустинга, предложенный Йоавом Фройндом (Yoav Freund) и Робертом Шапиром (Robert Schapire). Является мета-алгоритмомусиливающий классификаторы, объединяя их в процессе обучения строит композицию из базовых алгоритмов обучения для улучшения их эффективности«комитет». Чувствителен к шуму. AdaBoost является алгоритмом адаптивного <li>BrownBoost — алгоритм бустинга в том смысле, что каждый следующий классификатор строится по объектамэффективный на зашумленных наборах данных<li>GradientBoost - алгоритм бустинга, которые плохо классифицируются предыдущими классификаторами.использующий идеи линейной регресии AdaBoost вызывает слабый классификатор в цикле. После каждого вызова обновляется распределение весов<li>LogitBoost - алгоритм бустинга, которые отвечают важности каждого из объектов обучающего множества для классификации. На каждой итерации веса каждого неверно классифицированного объекта возрастают, таким образом новый классификатор «фокусирует своё внимание» на этих объектах.использующий идеи логистической регресси
== Примеры кода ==
