Изменения

Перейти к: навигация, поиск

Generative Adversarial Nets (GAN)

103 байта добавлено, 00:24, 14 ноября 2018
Нет описания правки
[[File:Арх_ган.png|450px|thumb|Оригинальная архитектура GAN]]
'''Порождающие состязательные сети''' (англ. ''Generative Adversarial Nets, GAN'') {{---}} это алгоритм машинного обучения, входящий в семейство [[:Порождающие модели|порождающих моделей]] <sup>на 14.11.18 не создан</sup> и построенный на комбинации из двух нейронных сетей, одна из которых генерирует образцы, а другая же пытается отличить настоящие образцы от сгенерированных. Впервые такие сети были представлены Иэном Гудфеллоу в 2014 году.
==Постановка задачи и метод==
==Оригинальный алгоритм обучения GAN==
 [[File:Обучение_ган.png|450px|thumb|right|Визуализация сгенерированной генерирования фотографии с помощью DCGAN по одному и тому же шуму в зависимости от итерации обучения. Источник: https://arxiv.org/pdf/1701.07875.pdf]]
В процессе обучения требуется делать два шага оптимизации поочередно: сначала обновлять веса генератора <tex>\theta</tex> при фиксированном <tex>\gamma</tex>, а затем веса дискриминатора <tex>\gamma</tex> при фиксированном <tex>\theta</tex>. На практике дискриминатор обновляется <tex>k</tex> раз вместо одного; <tex>k</tex> является гиперпараметром.
'''end''' '''for'''
Обновления на основе градиента могут быть сделаны любым стандартным способом, например, [[:Cтохастический градиентный спуск|стохастическим градиентным спуском]] <sup>на 14.11.18 не создан</sup> (SGD). В оригинальной статье использовался SGD с импульсом.
==Улучшение обучения GAN==
21
правка

Навигация