118
правок
Изменения
Нет описания правки
== Математическая основа ==
=== Функция ожидаемого риска (англ. Expected Risk Function) ===
Цель системы обучения состоит в поиске минимума функции <tex>J(w)</tex>, называемой функцией ожидаемого риска.
<tex> J (w) \thickapprox \hat{J_L}(w) \stackrel{\triangle}{=} \frac{1}{L} \sum_{n=1}^L Q(z_n,w) </tex>
=== Пакетный градиентный спуск (англ. Batch Gradient Descent) ===
[[Файл:BatchGradientDescent.PNG|420px|thumb|right|Пакетный градиентный спуск]]
Когда скорость обучения <tex>\gamma_t</tex> достаточно мала, алгоритм сходится к локальному минимуму эмпирического риска <tex>\hat{J_L}(w)</tex>. Значительное ускорение сходимости может быть достигнуто путем замены скорости обучения <tex>\gamma_t</tex> подходящей положительно определенной матрицей.
=== Градиентный спуск в реальном времени (англ. Online Gradient Descent) ===
[[Файл:OnlineGradientDescent.PNG|420px|thumb|right|Градиентный спуск в реальном времени]]
<tex> C(w) \stackrel{\triangle}{=} E_z Q(z,w) \stackrel{\triangle}{=} \int Q(z, w)\,\mathrm{d}P(z)\ </tex>
Каждая итерация этого алгоритма состоит из извлечения события <tex>z_t</tex> из распределения <tex>\mathrm{d}P(z)</tex> и применения следующей формулы обновления, где <tex>\gamma_t</tex> - либо положительное число, либо положительно определенная положительная матрица:
<tex> w_{t+1} = w_t - \gamma_t H(z_t, w_t) \ </tex>
<tex>Q_{adaline}(z, w) \stackrel{\triangle}{=} (y - w'x)^2\ </tex>
=== Многослойные сети (англ. Multi-Layer Networks)===
Многослойные сети были разработаны для преодоления вычислительных ограничений пороговых элементов. Произвольные двоичные отображения могут быть реализованы путем объединения нескольких слоев пороговых элементов, при этом каждый слой использует выходные данные элементов предыдущих слоев в качестве входных данных.
<tex>Q_{mse}(z, w) = \frac{1}{2}(y - f(x, w))^2 \ </tex>
=== Перцептрон K-Means === [[Файл:KMeansOnline.PNG|420px|thumb|right|K-Means]] Алгоритм K-Means можно получить, выполнив градиентный спуск в реальном времени со следующей функцией потерь:
<tex> w_{t+1}^- = w_t^- + \gamma_t(x_t - w_t) \ </tex>==См. также==*[[Обучение с частичным привлечением учителя]]*[[Активное обучение]]*[[Обучение с подкреплением]]*[[Файл:KMeansOnline.PNG|420px|thumb|right|Метод k-средних отправляет заранее определенное количество центроидов кластера, чтобы минимизировать ошибкуГлубокое обучение]]
== Источники информации ==
* [https://leon.bottou.org/publications/pdf/online-1998.pdf Leon Bottou. Online Learning and Stochastic Approximations. 1998]
* [https://www.analyticsvidhya.com/blog/2015/01/introduction-online-machine-learning-simplified-2/ Introduction to Online Machine Learning: Simplified]
[[Категория: Машинное обучение]]
[[Категория: Виды обучения]]
