635
правок
Изменения
→Композиции решающих деревьев
====Бэггинг====
Рассмотрим, следующий вид ансамбля — бэггинг (англ. ''bagging''). Пусть имеется обучающая выборка <tex>X</tex>. С помощью бутстрэпа сгенерируем из неё выборки <tex>X_1 ... X_M</tex>. Теперь на каждой выборке обучим свой классификатор <tex>a_i(x)</tex>. Итоговый классификатор будет усреднять ответы всех этих алгоритмов <tex>a(x) = \frac{1}{M} \sum\limits_{i = 1}^{M} a_i(x)</tex>.
== Случайный лес ==
Алгоритм построения случайного леса, состоящего из <tex>N</tex> деревьев на основе обучающей выборки <tex>X</tex>:
'''for''' (n: 1,...N):
сгенерировать выборку <tex>X_n</tex> c помощью бутстрэпа
построить решающее дерево <tex>t_n</tex> по выборку <tex>X_n</tex>
== Пример использования (через scikit-learn) ==
