193
правки
Изменения
→Метод опорных векторов
===Метод опорных векторов===
[[Метод опорных векторов (SVM) | Метод опорных векторов(SVM)]] используется для задачи бинарной классификации. В нем строится гиперплоскость, разделяющая множества разных классов.
К сожалению, зачастую выборка является линейно неразделимой. В таком случае приходится "ослаблять ограничения", позволяя некоторым объектам попадать на территорию другого класса. Для каждого объекта от отступа отнимается некоторая положительная величина $\xi_i$, но требуется, чтобы введенные поправки были минимальны. В итоге постановка задачи ''SVM с мягким отступом'' (англ. ''soft-margin SVM'') выглядит следующим образом:
В результате получаем, что принцип оптимальной разделяющей гиперплоскости или максимизации ширины разделяющей полосы в случае неразделимой выборки тесно связан с $L_{2}$-регуляризацией, которая возникает естественным образом из постановки задачи.
Также существуют разновидности SVM с другими регуляризаторами.
* Метод релевантных векторов (англ. ''RVM, Relevance vector Machine''): $\frac{1}{2}\sum_{i=1}^l(\ln \beta_{i} + \frac{\lambda_{i}^2}{\beta_{i}})$.
==Другие использования регуляризации==
