Изменения

Метод бутстрэпа (англ. ''bootstrap'') — один из первых и самых простых видов ансамблей, который позволяет оценивать многие статистики сложных распределений и заключается . Этот алгоритм применяется для классификации многомерных объектов. Рассматриваемый алгоритм помогает добиться качественной классификации в следующемусловиях, когда разделить объекты на группы на всем пространстве параметров не представляется возможным.  Пусть имеется выборка <tex>X</tex> размера <tex>N</tex>. Количество классификаторов <tex>M</tex> Алгоритм классификации в технологии бэггинг на подпространствах:<ul><li> Равномерно возьмем берется из выборки <tex>N</tex> объектов с возвращением. Это означает, что мы будем <tex>N</tex> раз равновероятно выбирать выбирается произвольный объект выборки(считается, что каждый объект «достается» с одинаковой вероятностью), причем каждый раз мы выбираем из всех исходных объектов. Повторяется данная процедура <tex>NM</tex> объектов. Отметимраз, что из-за возвращения среди них окажутся повторыполучая для каждого классификатора свою выборку. <brli>Обозначим новую выборку через Производится независимое обучения каждого элементарного классификатора (каждого алгоритма, определенного на своем подпространстве).<texli>X_1Производится классификация основной выборки на каждом из подпространств (также независимо).</texli> Принимается окончательное решение о принадлежности объекта одному из классов. Это можно сделать несколькими разными способами, подробнее описано ниже. Повторяя процедуру <tex>M</texul> раз  Окончательное решение о принадлежности объекта классу может приниматься, например, сгенерируем одним из следующих методов:<texul>M</texli> подвыборок Консенсус: если все элементарные классификаторы присвоили объекту одну и ту же метку, то относим объект к выбранному классу.<texli>X_1 Простое большинство: консенсус достижим очень редко, поэтому чаще всего используют метод простого большинства. Здесь объекту присваивается метка того класса, который определило для него большинство элементарных классификаторов.<li> Взвешивание классификаторов: если классификаторов четное количество, то голосов может получиться поровну, еще возможно, что для эксперты одна из групп параметров важна в большей степени, тогда прибегают к взвешиванию классификаторов.То есть при голосовании голос классификатора умножается на его вес. X_M</texul>. Теперь мы имеем достаточно большое число выборок и можем оценивать различные статистики исходного распределения.