Изменения

Перейти к: навигация, поиск

Обучение в реальном времени

475 байт добавлено, 03:19, 21 апреля 2020
K-Means
<tex> C(w) \stackrel{\triangle}{=} E_z Q(z,w) \stackrel{\triangle}{=} \int Q(z, w)\,\mathrm{d}P(z)\ </tex>
Каждая итерация этого алгоритма состоит из извлечения события <tex>z_t</tex> из распределения <tex>\mathrm{d}P(z)</tex> и применения следующей формулы обновления, где <tex>\gamma_t</tex> - либо положительное число, либо положительно определенная положительная матрица:
<tex> w_{t+1} = w_t - \gamma_t H(z_t, w_t) \ </tex>
<tex>Q_{mse}(z, w) = \frac{1}{2}(y - f(x, w))^2 \ </tex>
=== Перцептрон K-Means === [[Файл:KMeansOnline.PNG|420px|thumb|right|K-Means]] Алгоритм K-Means можно получить, выполнив градиентный спуск в реальном времени со следующей функцией потерь: <tex>Q_{kmeans}(x, w) \stackrel{\triangle}{=} \stackrel{K}{\min_{k = 1}}(x - w(k))^2\ </tex>
[[ФайлЭта функция потерь измеряет ошибку в положении точки <tex>x</tex>, когда мы заменяем ее ближайшим центроидом, и удовлетворяет следующему условию:RosenblattPerceptron.PNG|420px|thumb|right|Перцептрон Розенблатта состоит из фиксированной предварительной обработки и обучаемого порогового элемента]]
=== K<tex> \forall z, \forall \upsilon \in \vartheta (w), \mid Q(z, \upsilon) -Means ===Q(z, w)\mid \le \mid w - \upsilon \mid \Phi(z, w) \ </tex> Поэтому можно игнорировать недифференцируемые точки и применять алгоритм градиентного спуска в реальном времени.
[[Файл:KMeansOnline.PNG|420px|thumb|right|Метод k<tex> w_{t+1}^-средних отправляет заранее определенное количество центроидов кластера, чтобы минимизировать ошибку]]= w_t^- + \gamma_t(x_t - w_t) \ </tex>
== Источники информации ==
34
правки

Навигация