Изменения

Перейти к: навигация, поиск

Переобучение

54 байта добавлено, 18:18, 14 декабря 2018
High variance и high bias
== High variance и high bias ==
'''Bias''' {{---}} ошибка неверных предположений в алгоритме обучения. Высокий '''bias ''' может привести к недообучению.
'''Variance''' {{---}} это ошибка, вызванная большой чувствительностью к небольшим отклонениям в тренировочном наборе. Высокая дисперсия может привести к переобучению.
|}
При использовании нейронных сетей '''variance ''' увеличивается, а '''bias ''' уменьшается с увеличением количества скрытых слоев.
Для устранения '''high variance ''' и '''high bias ''' можно использовать смеси и ансамбли. Например, можно составить ансамбль (boosting) из нескольких моделей с высоким '''bias ''' и получить модель с небольшим '''bias'''. В другом случае при bagging соединяются несколько моделей с низким '''bias''', а результирующая модель позволяет уменьшить '''variance'''.
== Возможные решения ==
Анонимный участник

Навигация