Изменения

[[Файл:MNIST_compression_methods_comparison.png|300px|thumb|250pxright|Пример работы методов [[Стохастическое вложение соседей с t-распределением|t-SNE]], Isomap<ref>[https://en.wikipedia.org/wiki/Isomap Isomap]</ref>, Sammon mapping<ref>[https://en.wikipedia.org/wiki/Sammon_mapping Sammon mapping]</ref>, LLE <ref>[https://en.wikipedia.org/wiki/Nonlinear_dimensionality_reduction#Manifold_learning_algorithms Manifold learning algorithms]</ref> на dataset-е наборе данных [[Известные наборы данных|MNIST]]]]

'''t-SNE (== Стохастическое вложение соседей с t-распределением)''' {{---}} алгоритм визуализации высокоразмерных данных с помощью представления каждой точки данных в двух или трехмерном пространстве.==

Данный алгоритм является модификацией алгоритма Пусть стоит задача вложить множество точек в пространстве высокой размерности <tex>\{x_i \mid x_i \in X\}</tex> в пространство низкой размерности. Обозначим множество точек в пространстве низкой размерности, которые получаются после вложения через <tex>\{y_i \mid y_i \in Y\}</tex>. '''Стохастическое вложение соседей''' (англ. ''Stochastic Neighbor Embedding, SNE'') конвертирует расстояния в Евклидовом пространстве высокой размерности между точками в условные вероятности <tex>p_{j|i}</tex>. <tex>p_{j|i}</tex> {{---}} вероятность, который будет описан далеечто точка <tex>x_i</tex> выберет в качестве своего соседа точку <tex>x_j</tex> среди остальных точек данных. Будем считать, что вероятность для точки <tex>x_i</tex> найти соседа падает с увеличением расстояния от точки <tex>x_i</tex> в соответствии с распределением Гаусса<ref>[https://ru.wikipedia.org/wiki/Нормальное_распределение Нормальное распределение]</ref> с нулевым [[Математическое ожидание случайной величины|математическим ожиданием]] и [[Дисперсия случайной величины|стандартным отклонением]] <tex>\sigma_i</tex>.В соответствии с этим <tex>p_{j|i}</tex> выражается как

Пусть стоит задача вложить высокоразмерные точки <tex>x_i q_{j|i} = \dfrac{\exp{(-{\left\in X</tex> в низкоразмерное пространство. Обозначим точки, которые получаются после вложения через <tex>Vert y_i - y_j \right\in Y</tex>. '''SNE (Стохастическое вложение соседейVert}^2)''' конвертирует расстояния в высокоразмерном Евклидовом пространстве между точками в условные вероятности <tex>p_}}{\sum\limits_{j|k \neq i}</tex>. <tex>p_\exp{({j|i}</tex> - вероятность, что точка <tex>x_i</tex> выберет в качестве своего соседа точку <tex>x_j</tex> среди остальных точек данных. Будем считать, что вероятность для точки <tex>x_i</tex> найти соседа падает с увеличением расстояния от точки <tex>x_i</tex> в соответствии с распределением Гаусса<ref>[https://ru.wikipedia.org/wiki/Нормальное_распределение Нормальное распределение]</ref> с нулевым [[Математическое ожидание случайной величины|математическим ожиданием]] и [[Дисперсия случайной величины|стандартным отклонением]] <tex>\sigma_ileft\Vert y_i - y_k \right\Vert}^2)}}</tex>. В соответствии с этим <tex>p_{j|i}</tex> выражается как

Данные вероятности получаются из тех же самых предложений, что были сделаны для пространства высокой размерности, за исключением того, что все распределения Гаусса имеют стандартное отклонение <tex>p_{j|i} = \frac{\exp{(-dfrac{\left\Vert x_i - x_j \right\Vert}^2/2\sigma_i^2)}1}{\sum\limits_{k \neq i}\exp{(sqrt{-\left\Vert x_i - x_k \right\Vert}^2/2\sigma_i^2)}}</tex>для всех точек.

Теперь определим похожие вероятности Если удастся хорошо вложить одно пространство в другое, <tex>p_{i|j}</tex> должны стать похожими на <tex>q_{i|j}</tex> . В связи с этим SNE пытается уменьшить разницу в распределении вероятностей. Стандартной мерой для низкоразмерного пространства, куда вкладываются высокоразмерные точкиизмерения различия вероятностей служит дивергенция Кульбака-Лейблера<ref>[https://ru.wikipedia.org/wiki/Расстояние_Кульбака_—_Лейблера Расстояние Кульбака—Лейблера]</ref>:

<tex>q_{j|i} = \frac{\exp{KL(-{\left\Vert y_i - y_j \rightP \Vert}^2Q)}}{= \sum\limits_{k limits_j p_j \neq i}log_2 \expdfrac{(p_j}{-\left\Vert x_i - x_k \right\Vert}^2)}q_j}</tex>.

Заметим, что данное распределение получается из тех же самых предложений, что были сделаны для высокоразмерного пространства, за исключением того, что все распределения Гаусса имеют стандартное отклонение В данном случае имеем <tex>\frac{1}{\sqrt{2}}|X|</tex> для всех точекраспределений. Тогда целевую функцию<ref>[https://ru.wikipedia.org/wiki/Целевая_функция Целевая функция]</ref>, которую будем оптимизировать, определим как сумму соответствующих дивергенций Кульбака-Лейблера.То есть:

Если удастся хорошо вложить высокоразмерное пространство в низкоразмерное, должны совпасть распределения совместных вероятностей. То есть <tex>p_{i|j}</tex> должны стать похожими на <tex>q_{i|j}</tex>. В связи с этим SNE пытается уменьшить разницу в распределении вероятностей. Стандартной мерой для измерения различия вероятностей служит дивергенция Кульбака-Лейблера<ref>[https://ru.wikipedia.org/wiki/Расстояние_Кульбака_—_Лейблера Расстояние Кульбака—Лейблера]</ref>. Определяется она так: <tex>KL(P \Vert Q) = \sum\limits_j p_j \log_2 \frac{p_j}{q_j}</tex>. В данном случае имеем <tex>|X|</tex> распределений. Тогда целевую функцию<ref>[https://ru.wikipedia.org/wiki/Целевая_функция Целевая функция]</ref>, который будем оптимизировать, определим как сумму соответствующих дивергенций Кульбака-Лейблера. То есть: <tex>C = \sum\limits_i KL(p_i \Vert q_i) = \sum\limits_i \sum\limits_j p_{j|i} \log_2 \fracdfrac{p_{j|i}}{q_{j|i}}</tex>.

Параметры <tex>\sigma_i</tex> подбираются следующим образом. Каждое значение параметра порождает свое распределение вероятностей <tex>P_i</tex>. Это распределение имеет энтропию<ref>[https://ru.wikipedia.org/wiki/Информационная_энтропия Информационная энтропия]</ref><tex>H(P_i) = \sum\limits_j p_{j|i}\log_2 p_{j|i} </tex>, которая возрастает с ростом <tex>\sigma_i</tex>. В самом алгоритме <tex>\sigma_i</tex> вычисляются с помощью [[Вещественный двоичный поиск|вещественного двоичного поиска]] по заранее заданной пользователем величине, называемой перплексией<ref>[https://en.wikipedia.org/wiki/Perplexity Perplexity]</ref>: <tex>Perp(P_i) = 2 ^ {H(P_i)}</tex>.

Изначально точки <tex>H(P_i) = \sum\limits_j p_{j|i}\log_2 p_{j|i} y_i</tex>сэмплируют в пространстве низкой размерности в соответствии с распределением Гаусса с маленьким стандартным отклонением с математическим ожиданием в нуле,далее идет оптимизация целевой функции. Она проводится [[Стохастический градиентный спуск|методом градиентного спуска]]. Градиент равен:

которая возрастает с ростом <tex>\sigma_i</tex>. В самом алгоритме <tex>dfrac {\delta C} {\delta y_i} = 2 \sum\sigma_ilimits_j (p_{j|i} - q_{j|i} + p_{i|j} - q_{i|j})(y_i - y_j)</tex> вычисляются с помощью бинарного поиска по заранее заданной пользователем величине, называемой перплексией<ref>[https://en.wikipedia.org/wiki/Perplexity Perplexity]</ref>, которая определяется как

<tex>Perp(P_i) = 2 ^ {H(P_i)}</tex>.= Физическая интерпретация ==

Изначально точки Есть следующая физическая интерпретация модели. В пространстве низкой размерности натянуты пружины между каждой парой точек <tex>y_i</tex> сэмплируют и <tex>y_j</tex>, действующие в низкоразмерном пространстве направлении <tex>y_i - y_j</tex>. Пружины могут притягивать или отталкивать точки в соответствии с Гауссовским распределением с маленьким стандартным отклонением с математическим ожиданием в нулезависимости от расстояния между ними. Сила, прикладываемая пружиной, далее идет оптимизация целевой функциипропорциональна её длине <tex>\left\Vert y_i - y_j \right\Vert</tex> и жесткости<ref>[https://ru.wikipedia. Она проводится [[Стохастический градиентный спускorg/wiki/Жёсткость Жесткость]</ref> <tex>p_{j|i} - q_{j|i} + p_{i|j} - q_{i|методом градиентного спуска]]j}</tex>. Оптимизация функционала в данной интерпретации эквивалентна поиску положения точек, в котором будет наблюдаться равновесие сил. Градиент равен:

<tex>\frac {\delta C} {\delta y_i} = 2 \sum\limits_j (p_{j|i} - q_{j|i} + p_{i|j} - q_{i|j})(y_i - y_j)</tex>= Симметричное стохастическое вложение соседей ==

Есть следующая физическая интерпретация модели. Между точками в низкоразмерном пространстве натянуты пружины между каждой парой точек <tex>y_i</tex> и <tex>y_j</tex>. действующие в направлении <tex>y_i - y_j</tex>. Пружины могут притягивать или отталкивать точки в зависимости от расстояния между ними. Сила, прикладываемая пружиной, пропорциональна её длине <tex>C = KL(P \Vert Q) = \leftsum\Vert y_i - y_j limits_i \rightsum\Vert</tex> и жесткости <tex>limits_j p_{i j|i} - q_\log_2 \dfrac {j|i} + p_{i|j} - } {q_{i|j}}</tex>. Оптимизация функционала в данном случае эквивалентна поиску положения точек, в котором будет наблюдаться равновесие сил.

Следующая модификация SNE носит название '''симметричный SNE'''. Было странно, что в классическом SNE <tex>p_q_{i j|i} = \neq p_dfrac {\exp ({ -{i|j\left\Vert y_i - y_j \right\Vert}^2 }) }</tex> и <tex>q_{j|i\sum\limits_{k \neq l} \neq q_exp ({ -{i|j\left\Vert y_k - y_l \right\Vert}^2) } }</tex>. Симметричный SNE {{---}} попытка исправить эту ситуацию путем определения совместных вероятностей вместо условных. Теперь:,

но то же решение для <tex>C = KL(P \Vert Q) = \sum\limits_i \sum\limits_j p_{i j} \log_2 \frac {</tex> привело бы к проблеме, что для [[Выброс|выброса]] <tex>x_i</tex> <tex>p_{i j}} {</tex> будет очень маленькой для любого <tex>x_j</tex>. Таким образом, будет почти нулевой соответствующая дивергенция Кульбака-Лейблера для любого распределения <tex>q_{i j}}</tex>. Это означало бы, что положение точки <tex>y_i</tex> определялось бы очень неточно относительно положения других точек и не было бы особой разницы в том, где она расположена.

Очевидным Таким образом определяется , в симметричном SNE в качестве <tex>q_p_{i j}</tex>рассматривается следующая величина:

<tex>q_p_{i j} = \frac dfrac {\exp p_{ -i|j} + p_{\left\Vert y_i - y_j \right\Vert}^2 } j|i} {\sum\limits_{k \neq l} \exp { -{\left\Vert y_k - y_l \right\Vert}^2 } |X|}</tex>,.

но то же решение для Очевидный плюс в том, что <tex>\sum\limits_j p_{i j} > \dfrac 1 {2|X|}</tex> привело бы к проблемедля всех точек, что для [[Выброс|выброса]] <tex>x_i</tex> хорошо скажется на выбросах. А также теперь <tex>p_{i j}</tex> будет очень маленькой для любого <tex>x_j= p_{j i}</tex>, таким образом будет почти нулевой соответствующая дивергенция Кульбака-Лейблера для любого распределения <tex>q_{i j}</tex>. Это означало бы, что положение точки <tex>y_i</tex> определялось бы очень неточно относительно положения других точек. Поэтому в t-SNE <tex>p_= q_{j i j}</tex> определили как:.

<tex>p_{i j} = \frac {p_{i|j} + p_{i|j} } {2|X|}</tex>. Очевидный плюс такого определения в том, что <tex>\sum\limits_j p_{i j} > \frac 1 {2|X|}</tex> для всех точек, что хорошо скажется на выбросах. А также теперь <tex>p_{i j} = p_{j i}</tex>, <tex>q_{i j} = q_{j i}</tex>. Авторами утверждаетсяАвторы утверждают, что симметричный SNE вкладывает данные в низкоразмерное пространство низкой размерности почти также так же как и ассиметричный, а иногда даже лучше.

<tex>\frac dfrac {\delta C} {\delta y_i} = 2 \sum\limits_j (p_{i j} - q_{i j})(y_i - y_j)</tex>.

При использовании обычного SNE возникает следующая проблема, которая вытекает из разного распределения вероятностей в высокоразмерном и низкоразмерном пространствах. Пусть есть некоторое высокоразмерное пространство. Пусть в нем точки равномерно распределены вокруг некоторой точки <tex>x_i</tex>. Теперь попытаемся вложить высокоразмерное пространство в низкоразмерное. ЗаметимНеобходимо понимать, что область невозможно абсолютно точно моделировать расстояния между точками пространства, доступная для размещения умеренно-удаленных точек высокоразмерного пространства относительно области пространства, доступное для размещения близких точек высокоразмерного пространства достаточно мала по сравнению с тем же самым в исходном пространстве (нужно сравнить отношения объемов сфер высокой размерности в низкоразмерном и высокоразмерном пространствах)низком. Таким образомНапример, если мы хотим правильно моделировать маленькие расстояния и не иметь их в низкоразмерном десятимерном пространстве между умеренно-удаленными точками высокоразмерного пространства, следовало бы поместить умеренно-удаленные точки подальше от точки существует <tex>x_i11</tex>равноудаленных друг от друга точек, чем в исходном. В таком случае то время как на слишком эти далекие точки в низкоразмерном пространстве будет действовать небольшая сила притяжения от точки плоскости может быть максимум <tex>x_i3</tex>. Но, принимая во внимание остальные точки, таких сил будет достаточно много, что схлопнет равноудаленные точки и будет мешать образованию кластеров.

== t-При использовании обычного SNE ==возникает проблема, которая вытекает из разного распределения вероятностей в пространствах высокой и низкой размерностей. Пусть есть некоторое пространство высокой размерности. Пусть точки <tex>x_i</tex> равномерно распределены в нем вокруг точки <tex>x_0</tex> в некотором шаре с радиусом <tex>R</tex>. Заметим, что, чем больше размерность пространства, тем больше точек попадет рядом с границей шара, поэтому количество близких к <tex>x_0</tex> точек с ростом размерности будет убывать. Теперь попытаемся вложить данное пространство в плоскость. Пусть точки <tex>x_i</tex> перешли в точки <tex>y_i</tex> на плоскости. Заметим, что если попытаться вложить точки <tex>x_i</tex> в круг радиуса <tex>R</tex> с центром в точке <tex>y_0</tex> образуется большое количество маленьких расстояний между точками <tex>y_i</tex>, т.к. объем сферы в высокомерном пространстве несопоставим с площадью круга на плоскости. Таким образом, если мы хотим правильно моделировать маленькие расстояния на плоскости, следовало бы поместить удаленные от <tex>x_0</tex> точки <tex>x_i</tex> ещё дальше, чем в исходном пространстве. Но в таком случае, вспоминая физическую интерпретацию, на соответствующие им точки <tex>y_i</tex> будет действовать небольшая сила притяжения к точке <tex>y_0</tex>. Принимая во внимание, что точек наподобие <tex>x_0</tex> в реальной выборке данных будет достаточно много, их пружины вместе образуют силу, что сожмет все точки в нуле и будет мешать образованию кластеров.

== Стохастическое вложение соседей с t-распределением == Чтобы избежать проблемы скученности , было решено использовать в низкоразмерном пространстве низкой размерности t-распределение Стьюдента с одной степенью свободы<ref>[https://ru.wikipedia.org/wiki/Распределение_Стьюдента Распределение Стьюдента]</ref> вместо распределения Гаусса. Данное распределение очень похоже на распределение Гаусса, но имеет большую вероятностную массу на участках, отдаленных от нуля(Рис. 2.), что решает описанную выше проблему, т.к. теперь удаленные точки лучше отталкиваются. [[Файл:Normal t-distribution comparison.png|300px|right|thumb|Рис. 2. Сравнение плотностей нормального распределения (синий цвет) и t-распределения с одной степенью свободы (красный цвет)]]

<tex>q_{i j} = \frac dfrac {(1 + {\left\Vert y_i - y_j \right\Vert}^2)^{-1}} {\sum\limits_{k \neq l} (1 + {\left\Vert y_k - y_l \right\Vert}^2)^{-1}}</tex>.

Еще одно свойство данного распределения состоит в том, что <tex>(1 + {\left\Vert y_i - y_j \right\Vert}^2)^{-1}</tex> описывает закон обратных квадратов <ref>[https://ru.wikipedia.org/wiki/Закон_обратных_квадратов Закон обратных квадратов]</ref> для далеких точек в низкоразмерном пространственизкой размерности, что позволяет думать не об отдельных точках, а о кластерах, которые будут взаимодействовать между собой как отдельные точки.

<tex>\frac dfrac {\delta C} {\delta y_i} = 4 \sum\limits_j (p_{i j} - q_{i j})(y_i - y_j)(1 + {\left\Vert y_i - y_j \right\Vert}^2)^{-1}</tex>.

== Оптимизации в t-SNE ==

# Первая оптимизация называется "раннее сжатие". В данной оптимизации на ранних итерациях оптимизации к целевой функции добавляется [[Регуляризация|<tex>L_2</tex>-штраф ]] на расстояния в низкоразмерном пространственизкой размерности, что влечет за собой сжатие всех точек в нуле. В связи с этим кластерам будет легче переходить друг через друга, чтобы правильно расположиться в пространстве.# Вторая оптимизация называется "раннее преувеличение". В данной оптимизации на ранних итерациях <tex>p_{i j}</tex> умножаются на некоторое положительное число, например на <tex>4</tex>. Так как <tex>q_{i j}</tex> остаются теми же самыми, они слишком маленькие, чтобы моделировать соответствующие <tex>p_{i j}</tex>. Как следствие, образуются очень плотные кластера, которые широко раскиданы в низкоразмерном пространственизкой размерности. Это создает много пустого пространства, которое используется кластерами, чтобы легко менять и находить наилучшее взаимное расположение. [[Файл:T-SNE iterations visualization.gif||200px|thumb|right|Рис. 3. Визуализация работы t-SNE]] На Рис. 3 представлена визуализация работы t-SNE, на которой видны эффекты от применения приведенных выше оптимизаций.

# [http://www.jmlr.org/papers/volume9/vandermaaten08a/vandermaaten08a.pdf Laurens van der Maaten and Geoffrey Hinton {{---}} Visualizing Data using t-SNE]# [http://datareview.info/article/algoritm-t-sne-illyustrirovannyiy-vvodnyiy-kurs datareview.info {{---}} Алгоритм t-SNE. Иллюстрированный вводный курс]# [https://en.wikipedia.org/wiki/Multivariate_t-distribution Wikipedia {{---}} Multivariate t-distribution] [[Категория: Машинное обучение]][[Категория: Уменьшение размерности]]