Стохастическое вложение соседей с t-распределением — различия между версиями
(→Проблема скученности) |
(→Проблема скученности) |
||
(не показана 31 промежуточная версия 2 участников) | |||
Строка 1: | Строка 1: | ||
− | + | {{Определение | |
+ | |definition= | ||
+ | '''Стохастическое вложение соседей с t-распределением''' (англ. ''t-Distributed Stochastic Neighbor Embedding, t-SNE'') {{---}} метод визуализации данных высокой размерности с помощью представления каждой точки данных в двух или трехмерном пространстве, являющийся модификацией метода стохастического вложения соседей. | ||
+ | }} | ||
− | [[Файл:MNIST_compression_methods_comparison.png|thumb| | + | [[Файл:MNIST_compression_methods_comparison.png|300px|thumb|right|Пример работы t-SNE, Isomap, Sammon mapping, LLE на наборе данных [[Известные наборы данных|MNIST]]]] |
− | + | == Стохастическое вложение соседей == | |
− | + | Пусть стоит задача вложить множество точек в пространстве высокой размерности <tex>\{x_i \mid x_i \in X\}</tex> в пространство низкой размерности. Обозначим множество точек в пространстве низкой размерности, которые получаются после вложения через <tex>\{y_i \mid y_i \in Y\}</tex>. '''Стохастическое вложение соседей''' (англ. ''Stochastic Neighbor Embedding, SNE'') конвертирует расстояния в Евклидовом пространстве высокой размерности между точками в условные вероятности <tex>p_{j|i}</tex>. <tex>p_{j|i}</tex> {{---}} вероятность, что точка <tex>x_i</tex> выберет в качестве своего соседа точку <tex>x_j</tex> среди остальных точек данных. Будем считать, что вероятность для точки <tex>x_i</tex> найти соседа падает с увеличением расстояния от точки <tex>x_i</tex> в соответствии с распределением Гаусса<ref>[https://ru.wikipedia.org/wiki/Нормальное_распределение Нормальное распределение]</ref> с нулевым [[Математическое ожидание случайной величины|математическим ожиданием]] и [[Дисперсия случайной величины|стандартным отклонением]] <tex>\sigma_i</tex>. В соответствии с этим <tex>p_{j|i}</tex> выражается как | |
+ | <tex>p_{j|i} = \dfrac{\exp{(-{\left\Vert x_i - x_j \right\Vert}^2/2\sigma_i^2)}}{\sum\limits_{k \neq i}\exp{({-\left\Vert x_i - x_k \right\Vert}^2/2\sigma_i^2)}}</tex>. | ||
− | + | Теперь определим похожие вероятности <tex>q_{i|j}</tex> для пространства низкой размерности, куда вкладываются точки пространства высокой размерности. | |
− | + | <tex>q_{j|i} = \dfrac{\exp{(-{\left\Vert y_i - y_j \right\Vert}^2)}}{\sum\limits_{k \neq i}\exp{({-\left\Vert x_i - x_k \right\Vert}^2)}}</tex>. | |
− | |||
− | + | Данные вероятности получаются из тех же самых предложений, что были сделаны для пространства высокой размерности, за исключением того, что все распределения Гаусса имеют стандартное отклонение <tex>\dfrac{1}{\sqrt{2}}</tex> для всех точек. | |
− | <tex> | ||
− | + | Если удастся хорошо вложить одно пространство в другое, <tex>p_{i|j}</tex> должны стать похожими на <tex>q_{i|j}</tex>. В связи с этим SNE пытается уменьшить разницу в распределении вероятностей. Стандартной мерой для измерения различия вероятностей служит дивергенция Кульбака-Лейблера<ref>[https://ru.wikipedia.org/wiki/Расстояние_Кульбака_—_Лейблера Расстояние Кульбака—Лейблера]</ref>: | |
− | + | <tex>KL(P \Vert Q) = \sum\limits_j p_j \log_2 \dfrac{p_j}{q_j}</tex>. | |
− | <tex>KL(P \Vert Q) = \sum\limits_j p_j \log_2 \ | ||
− | В данном случае имеем <tex>|X|</tex> распределений. Тогда целевую функцию, который будем оптимизировать, определим как сумму соответствующих дивергенций | + | В данном случае имеем <tex>|X|</tex> распределений. Тогда целевую функцию<ref>[https://ru.wikipedia.org/wiki/Целевая_функция Целевая функция]</ref>, который будем оптимизировать, определим как сумму соответствующих дивергенций Кульбака-Лейблера. То есть: |
− | |||
− | + | <tex>C = \sum\limits_i KL(p_i \Vert q_i) = \sum\limits_i \sum\limits_j p_{j|i} \log_2 \dfrac{p_{j|i}}{q_{j|i}}</tex>. | |
− | + | Дивергенция Кульбака-Лейблера не является симметричной мерой, поэтому, например, вложение близких точек в удаленные даёт гораздо большее значение ошибки, чем вложение далеких точек в близкие. Другими словами, целевая функция нацелена на сохранение локальной структуры вокруг точек. | |
− | |||
− | |||
− | |||
− | Изначально точки <tex>y_i</tex> сэмплируют в | + | Параметры <tex>\sigma_i</tex> подбираются следующим образом. Каждое значение параметра порождает свое распределение вероятностей <tex>P_i</tex>. Это распределение имеет энтропию<ref>[https://ru.wikipedia.org/wiki/Информационная_энтропия Информационная энтропия]</ref> <tex>H(P_i) = \sum\limits_j p_{j|i}\log_2 p_{j|i} </tex>, которая возрастает с ростом <tex>\sigma_i</tex>. В самом алгоритме <tex>\sigma_i</tex> вычисляются с помощью [[Вещественный двоичный поиск|вещественного двоичного поиска]] по заранее заданной пользователем величине, называемой перплексией<ref>[https://en.wikipedia.org/wiki/Perplexity Perplexity]</ref>: <tex>Perp(P_i) = 2 ^ {H(P_i)}</tex>. |
− | <tex>\ | + | |
+ | Изначально точки <tex>y_i</tex> сэмплируют в пространстве низкой размерности в соответствии с распределением Гаусса с маленьким стандартным отклонением с математическим ожиданием в нуле, далее идет оптимизация целевой функции. Она проводится [[Стохастический градиентный спуск|методом градиентного спуска]]. Градиент равен: | ||
+ | |||
+ | <tex>\dfrac {\delta C} {\delta y_i} = 2 \sum\limits_j (p_{j|i} - q_{j|i} + p_{i|j} - q_{i|j})(y_i - y_j)</tex> | ||
== Физическая интерпретация == | == Физическая интерпретация == | ||
− | Есть следующая физическая интерпретация модели. Между точками в | + | Есть следующая физическая интерпретация модели. Между точками в пространстве низкой размерности натянуты пружины между каждой парой точек <tex>y_i</tex> и <tex>y_j</tex>. действующие в направлении <tex>y_i - y_j</tex>. Пружины могут притягивать или отталкивать точки в зависимости от расстояния между ними. Сила, прикладываемая пружиной, пропорциональна её длине <tex>\left\Vert y_i - y_j \right\Vert</tex> и жесткости<ref>[https://ru.wikipedia.org/wiki/Жёсткость Жесткость]</ref> <tex>p_{j|i} - q_{j|i} + p_{i|j} - q_{i|j}</tex>. Оптимизация функционала в данной интерпретации эквивалентна поиску положения точек, в котором будет наблюдаться равновесие сил. |
+ | |||
+ | == Симметричное стохастическое вложение соседей == | ||
+ | |||
+ | Следующая модификация SNE носит название '''симметричное стохастическое вложение соседей''' (англ. ''Symmetric Stochastic Neighbor Embedding, Symmetric SNE''), которая будет использоваться дальше в t-SNE. Симметричный SNE в качестве альтернативы использует совместные вероятности вместо условных. Теперь: | ||
+ | |||
+ | <tex>C = KL(P \Vert Q) = \sum\limits_i \sum\limits_j p_{i j} \log_2 \dfrac {p_{i j}} {q_{i j}}</tex>. | ||
+ | |||
+ | Очевидным образом можно определить <tex>q_{i j}</tex>: | ||
+ | |||
+ | <tex>q_{i j} = \dfrac {\exp ({ -{\left\Vert y_i - y_j \right\Vert}^2 }) } {\sum\limits_{k \neq l} \exp ({ -{\left\Vert y_k - y_l \right\Vert}^2) } }</tex>, | ||
− | + | но то же решение для <tex>p_{i j}</tex> привело бы к проблеме, что для [[Выброс|выброса]] <tex>x_i</tex> <tex>p_{i j}</tex> будет очень маленькой для любого <tex>x_j</tex>, таким образом будет почти нулевой соответствующая дивергенция Кульбака-Лейблера для любого распределения <tex>q_{i j}</tex>. Это означало бы, что положение точки <tex>y_i</tex> определялось бы очень неточно относительно положения других точек и не было бы особой разницы в том, где она расположена. Поэтому в t-SNE <tex>p_{i j}</tex> определили как: | |
− | + | <tex>p_{i j} = \frac {p_{i|j} + p_{i|j} } {2|X|}</tex>. | |
− | |||
− | + | Очевидный плюс такого определения в том, что <tex>\sum\limits_j p_{i j} > \dfrac 1 {2|X|}</tex> для всех точек, что хорошо скажется на выбросах. А также теперь <tex>p_{i j} = p_{j i}</tex>, <tex>q_{i j} = q_{j i}</tex>. | |
− | + | ||
− | + | Авторы утверждают, что симметричный SNE вкладывает данные в пространство низкой размерности почти так же как и ассиметричный, а иногда даже лучше. | |
− | |||
− | Очевидный плюс такого определения в том, что <tex>\sum\limits_j p_{i j} > \ | ||
Градиент при таком подходе принимает вид: | Градиент при таком подходе принимает вид: | ||
− | <tex>\ | + | <tex>\dfrac {\delta C} {\delta y_i} = 2 \sum\limits_j (p_{i j} - q_{i j})(y_i - y_j)</tex>. |
== Проблема скученности == | == Проблема скученности == | ||
− | При использовании обычного SNE возникает следующая проблема, которая вытекает из разного распределения вероятностей в | + | При использовании обычного SNE возникает следующая проблема, которая вытекает из разного распределения вероятностей в пространствах высокой и низкой размерностей. Пусть есть некоторое пространство высокой размерности. Пусть в нем точки равномерно распределены вокруг некоторой точки <tex>x_i</tex>. Теперь попытаемся вложить данное пространство в плоскость. Заметим, что область пространства на плоскости, доступная для размещения умеренно-удаленных точек пространства высокой размерности относительно области пространства, доступное для размещения близких точек пространства высокой размерности достаточно мала по сравнению с тем же самым в исходном пространстве (нужно сравнить отношения объемов сфер в этих пространствах). Таким образом, если мы хотим правильно моделировать маленькие расстояния на плоскости и не иметь их между умеренно-удаленными точками пространства высокой размерности, следовало бы поместить умеренно-удаленные точки подальше от точки <tex>x_i</tex>, чем в исходном. В таком случае на эти слишком далекие точки на плоскости будет действовать небольшая сила притяжения от точки <tex>x_i</tex>. Но, принимая во внимание остальные точки, таких сил будет достаточно много, что сожмет все точки и будет мешать образованию кластеров. |
+ | |||
+ | == Стохастическое вложение соседей с t-распределением == | ||
+ | |||
+ | Чтобы избежать проблемы скученности было решено использовать в пространстве низкой размерности t-распределение Стьюдента с одной степенью свободы<ref>[https://ru.wikipedia.org/wiki/Распределение_Стьюдента Распределение Стьюдента]</ref> вместо распределения Гаусса. Данное распределение очень похоже на распределение Гаусса, но имеет большую вероятностную массу на участках, отдаленных от нуля, что решает описанную выше проблему, т.к. теперь удаленные точки лучше отталкиваются. | ||
− | + | В связи с заменой распределения <tex>q_{i j}</tex> определяется следующим образом: | |
− | + | <tex>q_{i j} = \dfrac {(1 + {\left\Vert y_i - y_j \right\Vert}^2)^{-1}} {\sum\limits_{k \neq l} (1 + {\left\Vert y_k - y_l \right\Vert}^2)^{-1}}</tex>. | |
− | + | Еще одно свойство данного распределения состоит в том, что <tex>(1 + {\left\Vert y_i - y_j \right\Vert}^2)^{-1}</tex> описывает закон обратных квадратов<ref>[https://ru.wikipedia.org/wiki/Закон_обратных_квадратов Закон обратных квадратов]</ref> для далеких точек в пространстве низкой размерности, что позволяет думать не об отдельных точках, а о кластерах, которые будут взаимодействовать между собой как отдельные точки. | |
− | |||
− | + | После замены распределения изменился градиент целевой функции, теперь он равен: | |
− | + | <tex>\dfrac {\delta C} {\delta y_i} = 4 \sum\limits_j (p_{i j} - q_{i j})(y_i - y_j)(1 + {\left\Vert y_i - y_j \right\Vert}^2)^{-1}</tex>. | |
− | <tex>\ | ||
− | == Оптимизации в t- | + | == Оптимизации в стохастическом вложении соседей с t-распределением == |
В t-SNE используется 2 основные оптимизации: | В t-SNE используется 2 основные оптимизации: | ||
− | + | # Первая оптимизация называется "раннее сжатие". В данной оптимизации на ранних итерациях оптимизации к целевой функции добавляется [[Регуляризация|<tex>L_2</tex>-штраф]] на расстояния в пространстве низкой размерности, что влечет за собой сжатие всех точек в нуле. В связи с этим кластерам будет легче переходить друг через друга, чтобы правильно расположиться в пространстве. | |
− | + | # Вторая оптимизация называется "раннее преувеличение". В данной оптимизации на ранних итерациях <tex>p_{i j}</tex> умножаются на некоторое положительное число, например на <tex>4</tex>. Так как <tex>q_{i j}</tex> остаются теми же самыми, они слишком маленькие, чтобы моделировать соответствующие <tex>p_{i j}</tex>. Как следствие, образуются очень плотные кластера, которые широко раскиданы в пространстве низкой размерности. Это создает много пустого пространства, которое используется кластерами, чтобы легко менять и находить наилучшее взаимное расположение. | |
− | |||
== См. также == | == См. также == | ||
*[[Уменьшение размерности]] | *[[Уменьшение размерности]] | ||
+ | |||
+ | == Примечания == | ||
+ | <references/> | ||
== Источники информации == | == Источники информации == | ||
# [http://www.jmlr.org/papers/volume9/vandermaaten08a/vandermaaten08a.pdf Visualizing Data using t-SNE] | # [http://www.jmlr.org/papers/volume9/vandermaaten08a/vandermaaten08a.pdf Visualizing Data using t-SNE] |
Версия 20:39, 19 января 2020
Определение: |
Стохастическое вложение соседей с t-распределением (англ. t-Distributed Stochastic Neighbor Embedding, t-SNE) — метод визуализации данных высокой размерности с помощью представления каждой точки данных в двух или трехмерном пространстве, являющийся модификацией метода стохастического вложения соседей. |
Содержание
Стохастическое вложение соседей
Пусть стоит задача вложить множество точек в пространстве высокой размерности [1] с нулевым математическим ожиданием и стандартным отклонением . В соответствии с этим выражается как
в пространство низкой размерности. Обозначим множество точек в пространстве низкой размерности, которые получаются после вложения через . Стохастическое вложение соседей (англ. Stochastic Neighbor Embedding, SNE) конвертирует расстояния в Евклидовом пространстве высокой размерности между точками в условные вероятности . — вероятность, что точка выберет в качестве своего соседа точку среди остальных точек данных. Будем считать, что вероятность для точки найти соседа падает с увеличением расстояния от точки в соответствии с распределением Гаусса.
Теперь определим похожие вероятности
для пространства низкой размерности, куда вкладываются точки пространства высокой размерности..
Данные вероятности получаются из тех же самых предложений, что были сделаны для пространства высокой размерности, за исключением того, что все распределения Гаусса имеют стандартное отклонение
для всех точек.Если удастся хорошо вложить одно пространство в другое, [2]:
должны стать похожими на . В связи с этим SNE пытается уменьшить разницу в распределении вероятностей. Стандартной мерой для измерения различия вероятностей служит дивергенция Кульбака-Лейблера.
В данном случае имеем [3], который будем оптимизировать, определим как сумму соответствующих дивергенций Кульбака-Лейблера. То есть:
распределений. Тогда целевую функцию.
Дивергенция Кульбака-Лейблера не является симметричной мерой, поэтому, например, вложение близких точек в удаленные даёт гораздо большее значение ошибки, чем вложение далеких точек в близкие. Другими словами, целевая функция нацелена на сохранение локальной структуры вокруг точек.
Параметры [4] , которая возрастает с ростом . В самом алгоритме вычисляются с помощью вещественного двоичного поиска по заранее заданной пользователем величине, называемой перплексией[5]: .
подбираются следующим образом. Каждое значение параметра порождает свое распределение вероятностей . Это распределение имеет энтропиюИзначально точки методом градиентного спуска. Градиент равен:
сэмплируют в пространстве низкой размерности в соответствии с распределением Гаусса с маленьким стандартным отклонением с математическим ожиданием в нуле, далее идет оптимизация целевой функции. Она проводится
Физическая интерпретация
Есть следующая физическая интерпретация модели. Между точками в пространстве низкой размерности натянуты пружины между каждой парой точек [6] . Оптимизация функционала в данной интерпретации эквивалентна поиску положения точек, в котором будет наблюдаться равновесие сил.
и . действующие в направлении . Пружины могут притягивать или отталкивать точки в зависимости от расстояния между ними. Сила, прикладываемая пружиной, пропорциональна её длине и жесткостиСимметричное стохастическое вложение соседей
Следующая модификация SNE носит название симметричное стохастическое вложение соседей (англ. Symmetric Stochastic Neighbor Embedding, Symmetric SNE), которая будет использоваться дальше в t-SNE. Симметричный SNE в качестве альтернативы использует совместные вероятности вместо условных. Теперь:
.
Очевидным образом можно определить
:,
но то же решение для выброса будет очень маленькой для любого , таким образом будет почти нулевой соответствующая дивергенция Кульбака-Лейблера для любого распределения . Это означало бы, что положение точки определялось бы очень неточно относительно положения других точек и не было бы особой разницы в том, где она расположена. Поэтому в t-SNE определили как:
привело бы к проблеме, что для.
Очевидный плюс такого определения в том, что
для всех точек, что хорошо скажется на выбросах. А также теперь , .Авторы утверждают, что симметричный SNE вкладывает данные в пространство низкой размерности почти так же как и ассиметричный, а иногда даже лучше.
Градиент при таком подходе принимает вид:
.Проблема скученности
При использовании обычного SNE возникает следующая проблема, которая вытекает из разного распределения вероятностей в пространствах высокой и низкой размерностей. Пусть есть некоторое пространство высокой размерности. Пусть в нем точки равномерно распределены вокруг некоторой точки
. Теперь попытаемся вложить данное пространство в плоскость. Заметим, что область пространства на плоскости, доступная для размещения умеренно-удаленных точек пространства высокой размерности относительно области пространства, доступное для размещения близких точек пространства высокой размерности достаточно мала по сравнению с тем же самым в исходном пространстве (нужно сравнить отношения объемов сфер в этих пространствах). Таким образом, если мы хотим правильно моделировать маленькие расстояния на плоскости и не иметь их между умеренно-удаленными точками пространства высокой размерности, следовало бы поместить умеренно-удаленные точки подальше от точки , чем в исходном. В таком случае на эти слишком далекие точки на плоскости будет действовать небольшая сила притяжения от точки . Но, принимая во внимание остальные точки, таких сил будет достаточно много, что сожмет все точки и будет мешать образованию кластеров.Стохастическое вложение соседей с t-распределением
Чтобы избежать проблемы скученности было решено использовать в пространстве низкой размерности t-распределение Стьюдента с одной степенью свободы[7] вместо распределения Гаусса. Данное распределение очень похоже на распределение Гаусса, но имеет большую вероятностную массу на участках, отдаленных от нуля, что решает описанную выше проблему, т.к. теперь удаленные точки лучше отталкиваются.
В связи с заменой распределения
определяется следующим образом:.
Еще одно свойство данного распределения состоит в том, что [8] для далеких точек в пространстве низкой размерности, что позволяет думать не об отдельных точках, а о кластерах, которые будут взаимодействовать между собой как отдельные точки.
описывает закон обратных квадратовПосле замены распределения изменился градиент целевой функции, теперь он равен:
.
Оптимизации в стохастическом вложении соседей с t-распределением
В t-SNE используется 2 основные оптимизации:
- Первая оптимизация называется "раннее сжатие". В данной оптимизации на ранних итерациях оптимизации к целевой функции добавляется на расстояния в пространстве низкой размерности, что влечет за собой сжатие всех точек в нуле. В связи с этим кластерам будет легче переходить друг через друга, чтобы правильно расположиться в пространстве. -штраф
- Вторая оптимизация называется "раннее преувеличение". В данной оптимизации на ранних итерациях умножаются на некоторое положительное число, например на . Так как остаются теми же самыми, они слишком маленькие, чтобы моделировать соответствующие . Как следствие, образуются очень плотные кластера, которые широко раскиданы в пространстве низкой размерности. Это создает много пустого пространства, которое используется кластерами, чтобы легко менять и находить наилучшее взаимное расположение.