Изменения

Перейти к: навигация, поиск

Порождающие модели

1745 байт добавлено, 11:29, 10 февраля 2020
Источники информации
[[Файл:Generative_v_discriminative.png|420px|thumb|right|Порождающая модель пытается генерировать убедительные 0 и 1, для этого моделирует распределение по всему пространству данных. Напротив, дискриминативная модель старается разделить данные, без необходимости точно моделировать, как объекты размещаются по обе стороны от линии.]]
 
'''Порождающие модели''' (англ. ''generative model'') {{---}} это класс моделей совместного распределения вероятностей <tex>p(x, y)</tex> для генерации новых объектов на основе исходных данных.
Порождающая модель может генерировать новые фотографии животных, которые выглядят как настоящие животные, в то время как дискриминативная модель (англ. ''discriminative model'')<ref>[https://en.wikipedia.org/wiki/Discriminative_model Discriminative model]</ref> может отличить собаку от кошки.
 
 
Мы хотим научиться создавать правдоподобный объект относительно некоторой скрытой структуры исходных объектов. Давайте изучим распределение по ним, а затем просто будем сэмплировать новый объект из этого распределения. Значит эта задача относится к классу задач [[Общие понятия#Обучение без учителя (англ. Unsupervised learning)|обучения без учителя]].
== Порождающие Вычисление распределения ==[[Файл:Taxonomy.png|500px|thumb|right]]Оценка плотности распределения является основной задачей порождающих моделей. Два основных подхода:* Явный: определить распределение <tex>p_{model}</tex>, описывающее объекты и генерировать данные из него* Неявный: получить некоторое распределение, оценить его близость с <tex>p_{model}</tex> через дивергенцию Кульбака-Лейблера<ref>[https://ru.wikipedia.org/wiki/Расстояние_Кульбака_—_Лейблера Расстояние Кульбака—Лейблера]</ref> == Глубокие порождающие модели на основе нейронных сетей ==
*[[Generative Adversarial Nets (GAN)|Порождающие состязательные сети]]
*[[Автокодировщик]]
== См. также ==
*[[Байесовская классификация#Наивный байесовский классификатор|Наивный байесовский классификатор(как пример простейшей порождающей модели)]] *[https://towardsdatascience.com/generating-passwords-with-generative-models-from-probabilistic-to-deep-learning-approaches-54d41d8810e3 Примеры генерации паролей на основе исходного распределения]
== Примечания ==
== Источники информации ==
*[https://en.wikipedia.org/wiki/Generative_model Generative_model]* [https://developers.google.com/machine-learning/gan/generative Google courses с примерами на понимание]
[[Категория: Машинное обучение]]
[[Категория: Порождающие модели]]
76
правок

Навигация