Изменения
→High variance и high bias
== High variance и high bias ==
'''Bias''' {{---}} ошибка неверных предположений в алгоритме обучения. Высокий '''bias ''' может привести к недообучению.
'''Variance''' {{---}} это ошибка, вызванная большой чувствительностью к небольшим отклонениям в тренировочном наборе. Высокая дисперсия может привести к переобучению.
|}
При использовании нейронных сетей '''variance ''' увеличивается, а '''bias ''' уменьшается с увеличением количества скрытых слоев.
Для устранения '''high variance ''' и '''high bias ''' можно использовать смеси и ансамбли. Например, можно составить ансамбль (boosting) из нескольких моделей с высоким '''bias ''' и получить модель с небольшим '''bias'''. В другом случае при bagging соединяются несколько моделей с низким '''bias''', а результирующая модель позволяет уменьшить '''variance'''.
== Возможные решения ==