Изменения

Перейти к: навигация, поиск

Дерево решений и случайный лес

9 байт добавлено, 00:12, 23 января 2019
Рекурсивный алгоритм построения бинарного дерева решений ID3
1:'''function''' ID3(<tex>U</tex>):
2: '''if''' <tex>for all</tex> <tex>u \in U</tex>: <tex>y_u = y</tex>, <tex>y \in Y</tex> '''then''' <font color=green>// создать листовую вершину <tex>v</tex> c меткой класса <tex>y_v</tex> </font> 3: v = createLeafVertex(<tex>y_v</tex>) 4: '''return''' v <font color=green>// найти предикат с максимальной информативностью </font> <tex>\beta= \mathrm{arg}\max_{\beta\in B} </tex> Gain(<tex>\beta</tex>, <tex>U</tex>) <font color=green>// разбить выборку на две части <tex>U = U_0 \cup U_1</tex> по предикату <tex>\beta</tex>: </font> 5: <tex>U_0 := \{x \in U: \beta(x) = 0\}</tex>
6: <tex>U_1 := \{x \in U: \beta(x) = 1\}</tex>
7: '''if''' <tex>U_0 = \emptyset</tex> || <tex>U_1 = \emptyset</tex> '''then''' <font color=green>// найти класс, в котором находится большинство объектов из <tex>U</tex> </font> 8: <tex>y_v </tex> = majorClass(<tex>U</tex>) 9: v = createLeafVertex(y_v) '''else''' 10: v = createVertex() 11: <tex>\beta_v = \beta</tex> 12: <tex>S_0</tex> = ID3(<tex>U_0</tex>) 13: <tex>S_1</tex> = ID3(<tex>U_1</tex>) 14: '''return''' <tex>v</tex>
===Информативность ветвления===
635
правок

Навигация