Изменения

Перейти к: навигация, поиск

Вариации регрессии

1111 байт добавлено, 19:05, 23 февраля 2019
Байесовская регрессия
==Байесовская регрессия==
Описанные выше методы никак не учитывали наличие в данных шума, тогда как в реальных данных он скорее всего будет присутствовать. Предположим, что в данных все же есть некоторый шум, и что он распределен нормально. Тогда задачу линейной регрессии можно записать в следующем виде:
:<tex>f(x, \beta) = \langle \beta, x \rangle + \varepsilon</tex>, где <tex>\varepsilon \sim N(0, \sigma^2)</tex>.
 
Решением этой задачи мы и будем заниматься в этом разделе.
 
'''Байесовская линейная регрессия''' (англ. ''Bayesian linear regression'') {{---}} подход в линейной регрессии, в котором предполагается что шум распределен нормально.
Рассмотрим задачу линейной регрессии [[Файл: Bayessian_regression_noise.jpg|400px|thumb|Рис.2. Регрессия и шум в данных.<texbr/>y = \overrightarrowСиняя точка {{\beta---}}^T\overrightarrowзначение из датасета, красная {x{---} + \varepsilon</tex>} значение, полученное в результате работы алгоритма регрессии. Также на рисунке зеленой линией изображена функция, где <tex>\varepsilon_i \sim N(0предсказанная алгоритмом регрессиии, \sigma^2)</tex>а черной {{---}} гауссово распределение шума.]]
В терминах вероятностей можно записать следующее:
276
правок

Навигация