Дерево решений и случайный лес — различия между версиями
Sokolova (обсуждение | вклад) |
Sokolova (обсуждение | вклад) |
||
| Строка 1: | Строка 1: | ||
==Дерево решений== | ==Дерево решений== | ||
| + | |||
{{Определение | {{Определение | ||
|id=def1. | |id=def1. | ||
| − | |neat = | + | |neat = |
|definition= | |definition= | ||
'''Дерево решений''' (англ. ''decision tree, DT'') {{---}} логический алгоритм классификации, основанный на поиске конъюнктивных закономерностей. | '''Дерево решений''' (англ. ''decision tree, DT'') {{---}} логический алгоритм классификации, основанный на поиске конъюнктивных закономерностей. | ||
| + | }} | ||
| + | |||
| + | {{Определение | ||
| + | |id=def1 | ||
| + | |neat = | ||
| + | |definition= | ||
| + | '''Бинарное решающее дерево''' {{---}} это алгоритм классификации, задающийся бинарным деревом, в котором каждой внутренней вершине <tex> v \in V </tex> приписан предикат <tex> \betta_v : X \rarrow {0, 1} </tex>, каждой терминальной вершине v ∈ V приписано имя класса | ||
| + | <tex> c_v \in Y </tex>. При классификации объекта x ∈ X он проходит по дереву путь от корня | ||
| + | до некоторого листа, в соответствии с Алгоритмом 1.5.. | ||
}} | }} | ||
Версия 14:49, 20 января 2019
Содержание
Дерево решений
| Определение: |
| Дерево решений (англ. decision tree, DT) — логический алгоритм классификации, основанный на поиске конъюнктивных закономерностей. |
| Определение: |
| Бинарное решающее дерево — это алгоритм классификации, задающийся бинарным деревом, в котором каждой внутренней вершине приписан предикат , каждой терминальной вершине v ∈ V приписано имя класса
. При классификации объекта x ∈ X он проходит по дереву путь от корня до некоторого листа, в соответствии с Алгоритмом 1.5.. |
Основные определения
Простейший алгоритм синтеза дерева
Разновидности решающих деревьев
Тип задачи
Критерии ветвления
Критерии останова
Что находится во внутренних вершинах
Что находится в листьях
Передача информации между вершинами
- (alternating decision tree)
Рецукция решающих деревьев
Оценивание вероятностей
Полужадный синтез
Алгоритмы построения решающих деревьев
Обобщающая способность решающих деревьев
Композиции решающих деревьев
- Решающий лес
- Бустинг над решающими деревьями
История
Ссылки
- Classification and Regression Trees — лекции Cosma Shalizi, ноябрь 2009.
