Задача трансляции изображений

2021-01-09T20:05:27Z

23.227.140.181:

{{В разработке}}

{{Определение
|definition =
'''Задача трансляции изображения (англ. Image-to-image translation)''' — это задача из области компьютерного зрения, цель которой состоит в том, чтобы научиться строить соответствия между входным и выходным изображениями, используя тренировочные данные.
}}
Другими словами, задача состоит в том, чтобы научиться преобразовывать изображение из одной области в другую, получая в итоге изображение со стилем (характеристиками) последней.

[[Файл:Horse2zebra.gif|600px|thumb|right|Пример работы трансляции изображения: превращение лошади в зебру, и наоборот. (CycleGan)<ref name="cycle">[https://github.com/junyanz/CycleGAN CycleGAN {{---}} GitHub]</ref>]]

== Описание задачи ==

Задача разделяется на два вида в зависимости от тренировочных данных. 
Различие заключается в том, что в одном случае, у нас есть четкое представление результата, который должен получиться, в то время как в другом случае, у нас есть только множество, определяющее стиль желаемого результата, но четкого результата нет.

[[File:Paired_vs_unpaired_training_data.png|400px|right|thumb|Виды тренировочных данных для задачи трансляции изображений.]]

=== Обучение на парах изображений ===

'''Трансляция изображений, обученная на парах изображений''' — это сопряженная трансляция одного изображения в другое, где тренировочные данные состоят из такого множества изображений, где каждому входному изображению соответствует выходное изображение, содержащее первое с другим стилем.

Примерами приложения являются следующие трансляции изображений:
* черно-белое изображение {{---}} цветное
* сегментация изображения (англ. segmentation map) {{---}} реальная картинка
* линии-края (англ. edges) {{---}} фотография
* генерация разных поз и одежды на человеке
* описывающий изображение текст {{---}} фотография

[[File:Examples_paired_translation.jpg|700px|center|thumb|Примеры применения задачи трансляции изображения с парными тренировочными данными. (Pix2Pix)<ref name="pix">[https://github.com/phillipi/pix2pix Pix2Pix {{---}} GitHub]</ref>]]

=== Обучение на независимых множествах ===

'''Трансляция изображения, обученная на двух независимых множествах''' — это такая трансляция изображений, тренировочные данные которой состоят из двух независимых групп, каждая описывающая свой стиль, а цель которой является научиться отображать эти две группы так, чтобы содержание изображений (общее) сохранялось, а стиль (уникальные элементы изображений) переносился.

Пример:
* тренировочные данные {{---}} два множества: <code>{реальные фотографии}, {картины К.Моне}</code>
* приложение {{---}} взяли любую фотографию, например, поле с цветами; получили поле с цветами в стиле К.Моне.

[[File:Examples_unpaired_translation.jpeg|700px|center|thumb|Примеры применения задачи трансляции изображения с непарными тренировочными данными. (CycleGan)<ref name="cycle">[https://github.com/junyanz/CycleGAN CycleGAN {{---}} GitHub]</ref>]]

== Pix2Pix ==

Pix2Pix<ref name="pix">[https://github.com/phillipi/pix2pix Pix2Pix {{---}} GitHub]</ref> {{---}} это попытка решения задачи трансляции изображений с помощью глубоких сверточных нейронных сетей.

=== Архитектура ===

[[File:Training_CGAN_pix2pix.png|400px|right|thumb|Пример процесса обучения генератора и дискриминатора для Pix2Pix.]]

Pix2Pix реализует архитектуру условных порождающих состязательных сетей (англ. CGAN), где для генератора взята U-Net<ref name="unet">[https://sci-hub.do/10.1007/978-3-319-24574-4_28 U-Net: Convolutional Networks for Biomedical Image Segmentation]</ref>-основанная архитектура, а для дискриминатора используется сверточный классификатор PatchGAN<ref name="patch">[https://sci-hub.do/10.1007/978-3-319-46487-9_43 Precomputed Real-Time Texture Synthesis with Markovian Generative Adversarial Networks]</ref>, который штрафует структуру только в масштабе участков изображения.

Генератор CGAN'a работает следующим образом: на вход подается one-hot вектор класса x и вектор шума z, в результате прохода через условный генератор выдается сгенерированное изображение этого класса, <tex>G: \{x,z\} \to y</tex>. 
Генератор Pix2Pix работает похожим образом, но вместо вектора класса подается изображение, а вектор шума и вовсе убирается, потому что он не вносит значительной случайности для результата работы генератора.

Генератор обучается с целью, чтобы его выходящие изображения максимально правдоподобными, дискриминатор же учится как можно лучше отличать фальшивые изображения от реальных.

==== Дискриминатор ====

[[File:The-PatchGAN-structure-in-the-discriminator-architecture.png|400px|right|thumb|Архитектура PatchGAN дискриминатора.]]

Для дискриминатора данной сети используется сверточный дискриминатор PatchGAN.

'''PatchGAN дискриминатор'''<ref name="patch">[https://sci-hub.do/10.1007/978-3-319-46487-9_43 Precomputed Real-Time Texture Synthesis with Markovian Generative Adversarial Networks]</ref> {{---}} это тип дискриминатора для генеративных состязательных сетей, который штрафует структуру на уровне локальных фрагментов (патчей). 
Дискриминатор PatchGAN пытается определить, является ли каждый фрагмент размера <tex>N\times N</tex> изображения настоящим или поддельным. Этот дискриминатор сверточно запускается по изображению, усредняя все ответы, чтобы посчитать окончательный результат <tex>D</tex>. 
Проще говоря, для каждого фрагмента определяется матрица классификаций, где все значения находятся в промежутке <tex>[0,1]</tex>, где <tex>0</tex> {{---}} подделка. Проходясь сверткой, в итоге получаем конечную матрицу классификаций. Таким образом, для поддельного изображения от генератора PatchGan должен попытаться вывести матрицу нулей. 
Интересно также, что <tex>N</tex> может быть намного меньше полного размера изображения и при этом давать результаты высокого качества. Это выгодно, потому что меньший PatchGAN имеет меньше параметров, работает быстрее и может применяться к изображениям произвольно большого размера. 
Такой дискриминатор эффективно моделирует изображение как Марковское случайное поле<ref>[https://en.wikipedia.org/wiki/Markov_random_field Markov random field {{---}} Wikipedia]</ref>, предполагая независимость между пикселями, разделенных диаметром более одного фрагмента.

==== Генератор ====

[[File:UNet_generator_pix2pix.png|400px|right|thumb|Архитектура Pix2Pix генератора.]]

Для генератора Pix2Pix используется UNet-генератор. 
'''UNet-генератор'''<ref name="unet">[https://sci-hub.do/10.1007/978-3-319-24574-4_28 U-Net: Convolutional Networks for Biomedical Image Segmentation]</ref> {{---}} это модель encoder-decoder с добавлением пропускаемых соединений между зеркальными слоями в стеках кодировщика и декодера.

Как работает генератор:
* на вход подается изображение <tex>x</tex>
* далее последовательно применяются свертка, батч-нормализация (англ. Batch Norm layer)<ref>[https://en.wikipedia.org/wiki/Batch_normalization Batch normalization {{---}} Wikipedia]</ref>, функция активации LeackyReLU и пулинг, что, тем самым, уменьшает количество признаков
* при этом, следуя архитектуре UNet, добавляются пропускаемые соединения между каждым слоем <tex>i</tex> и слоем <tex>n - i</tex>, где <tex>n</tex> {{---}} общее количество слоев; каждое пропускаемое соединение просто объединяет все каналы на уровне <tex>i</tex> с другими на слое <tex>n - i</tex>; таким образом, информация, которая могла быть сжата слишком много (потеряна), может все еще проникать и все еще добраться до некоторых из более поздних слоев
* после того, как достигнут слой минимального размера, начинается работа декодера, который в сущности делает то же, что и кодировщик, только содержит слой, обратный пулингу, который увеличивает количество признаков
* также в декодере добавляется dropout, чтобы достигнуть стохастичности на выходе генератора

Генератор должен не только обмануть дискриминатора, но и быть рядом с земной истиной, поэтому его '''функция ошибки''' выглядит следующим образом: 
<tex>L(G) = BCE\,Loss + \lambda*\sum_{i=1}^{n}|generated\_output - real\_output|</tex>

==== Полное описание архитектуры ====

Для того, чтобы описать полный пайплайн работы Pix2Pix, обратимся к примеру:

Пусть у вас есть набор пар, состоящий из реальных фотографий и их сегментаций. Вы хотите научиться генерировать из сегментированных изображений реальные.
* Вы помещаете сегментированное изображение в генератор U-Net, и он генерирует некоторый выход.
* Дальше сгенерированное изображение (фотография) соединяется с исходным входным изображением (сегментированное), и это все идет в PatchGan дискриминатор, который выводит матрицу классификации, состоящую из значений между 0 и 1, которая показывает, насколько реальны или поддельны разные части этого изображения.
* Затем для вычисления ошибки дискриминатора проводится 2 сравнения:
** сравнение матрицы классификации от {объединения сгенерированного изображения (фотография) с исходным входным изображением (сегментированное)} с матрицей из всех 0
** матрицы классификация от {объединения реального изображения (фотография) с исходным входным изображением (сегментированнное)} с матрицей из всех 1
* Затем для вычисления ошибки генератора проводится сравнение матрицы классификации от {объединения сгенерированного изображения с исходным входным изображением} с матрицей из всех 1, которое считается с помощью BCE Loss, которое впоследствии суммируется с попиксельным сравнением реального изображения со сгенерированным, домноженным на <tex>\lambda</tex>

[[File:Pix2pix-UNet-128-GAN-network-architecture.png|700px|center|thumb|Архитектура Pix2Pix.]]

=== Примеры ===

[[File:Pix2pix_examples.png|800px|right|thumb|Примеры Pix2Pix.]]

Для тестирования решения были проведены следующие эксперименты:
* сегментированные изображения <tex>\leftrightarrow</tex> в фотографии
* нарисованная карта <tex>\leftrightarrow</tex> в фотоснимок
* черно-белые <tex>\to</tex> в цветные фотографии
* линии-края <tex>\to</tex> в фотографии
* эскизы-рисунки <tex>\to</tex> в фотографии
* день <tex>\to</tex> в ночь
и еще много-много других интересных экспериментов..

== Pix2PixHD ==

== См. также ==
* [[Компьютерное зрение]]
* [[Generative Adversarial Nets (GAN)]]
* [[Сверточные нейронные сети]]
* [[Сегментация изображений]]

== Примечания ==
<references />

== Источники информации ==

* [https://arxiv.org/abs/1611.07004 Image-to-Image Translation with Conditional Adversarial Networks]
* [https://arxiv.org/abs/1711.11585 High-Resolution Image Synthesis and Semantic Manipulation with Conditional GANs]
* [https://arxiv.org/abs/1805.03189 Learning image-to-image translation using paired and unpaired training samples]
* [https://arxiv.org/abs/1703.10593v6 Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks]
* [https://www.coursera.org/learn/apply-generative-adversarial-networks-gans/home/welcome Apply Generative Adversarial Networks (GANs) {{---}} Coursera]

[[Категория:Машинное обучение | ]]
[[Категория:{{BASEPAGENAME}}]]

Викиконспекты - Вклад участника [ru]

Задача трансляции изображений