80
правок
Изменения
→Фильтры
'''Коэффициент корреляции Пирсона''' <br>
'''Замечание'''
Важно помнить, что мы смотрим не на корреляцию, а на модуль корреляции.
<tex>r=\displaystyle \frac{\sum_{i, j}(x_{ij}-\bar{x_j})(y_i-\bar{y})}{\sqrt{\sum_{i, j}(x_{ij}-\bar{x_j})^2\sum_i(y_i-\bar{y})^2}}\in[-1;1]</tex>
'''Information gain'''<ref>[https://en.wikipedia.org/wiki/Information_gain_in_decision_trees Определение information gain]</ref>: <br> $IG(T, C)=\displaystyle -\sum_{i=1}^kp(c_i)\log_2{(p(c_i))}+\sum_{i=1}^{n}p(t_i)\sum_{j=1}^kp(c_j|t_i)\log_2{(p(c_j|t_i))}$
==Правило подрезки $k$==
* Число признаков
* Порог значимости признаков
* Интегральный порог значимости признаков
* Метод сломанной трости
* Метод локтя
==Анализ одномерных фильтров==
[[Файл:Таблица_7.jpg|600px|thumb|right|Схема процесса работы гибридного подхода]]
==Гибридный подход==
==Ансамблирование в выборе признаков==
[[Файл:ТАблица_8.jpg|600px|thumb|right|Ансамблирование в выборе признаков]]
'''Ансамблевые методы''' применяются больше для наборов данных с очень большим числом признаков. В данном подходе для начального множества признаков создается несколько подмножеств признаков, и эти группы каким-то образом объединяются, чтобы получить набор самых релевантных признаков. Это довольно гибкая группа методов, т.к. для нее можно применять различные способы выбора признаков и объединения их подмножеств.
* Объединяем ранжирования
* Объединяем меры значимости
[[Файл:Таблица_9.jpg|none|600px|thumb|Ансамбль на уровне моделей]]
[[Файл:Таблица_10.jpg|none|600px|thumb|Ансамбль на уровне ранжирований]]
[[Файл:Таблица_11.jpg|none|600px|thumb|Ансамбль на уровне мер значимости]]
==Анализ гибридных и ансамблирующих методов==
* Иногда требуется заботиться о проблеме переобучения
<references/>
