Редактирование: Поиск ближайших соседей с помощью иерархического маленького мира

Перейти к: навигация, поиск

Внимание! Вы не авторизовались на сайте. Ваш IP-адрес будет публично видимым, если вы будете вносить любые правки. Если вы войдёте или создадите учётную запись, правки вместо этого будут связаны с вашим именем пользователя, а также у вас появятся другие преимущества.

Правка может быть отменена. Пожалуйста, просмотрите сравнение версий, чтобы убедиться, что это именно те изменения, которые вас интересуют, и нажмите «Записать страницу», чтобы изменения вступили в силу.
Текущая версия Ваш текст
Строка 1: Строка 1:
'''Иерархический маленький мир''' (англ. ''Hierarchical Navigable Small World'') {{---}} структура данных, позволяющая эффективно искать <tex>k</tex> почти что ближайших соседей на больших множествах вершин.
+
'''Иерархия навигируемых малых миров''' (англ. ''Hierarchical Navigable Small World'') {{---}} структура данных, позволяющая эффективно находить K почти что ближайших соседей. По своей концепции напоминает [[список с пропусками]].
Поиск ближайших соседей нужен в задачах [[Общие понятия|классификации]] и [[кластеризация|кластеризации]].
 
 
 
По своей концепции напоминает [[список с пропусками]].
 
 
 
== Применение ==
 
Представим себе ситуацию:
 
* У социальной сети есть <tex>10^{11}</tex> пользовательских фотографий с отмеченными лицами на них.
 
* По новой фотографии требуется быстро узнать кто на ней и предложить пользователю отметить этого человека.
 
 
 
Возможный процесс:
 
# Обучаем [https://github.com/davidsandberg/facenet FaceNet] выдавать <tex>128</tex>-мерные вектора по изображению лица, такие, что у фотографий одного человека похожие значения векторов.
 
# Добавляем <tex>10^{11}</tex> векторов в иерархический маленький мир.
 
# При добавлении новой фотографии, вычисляем соответствующий лицу вектор.
 
# Ищем <tex>k</tex> его ближайших соседей.
 
# Классифицируем лицо с использованием [[Метрический классификатор и метод ближайших соседей#Использование ядер сглаживания|ядер сглаживания]].
 
# Если пользователь подтвердил нашу догадку, добавляем этот вектор в иерархический маленький мир.
 
  
 
==Маленький мир==
 
==Маленький мир==
 
[[Файл:SmallWorld_Greedy.png|мини|500px|Жадный поиск ближайшего соседа.  
 
[[Файл:SmallWorld_Greedy.png|мини|500px|Жадный поиск ближайшего соседа.  
Чёрные ребра {{---}} короткие связи с соседями в небольшом радиусе <tex>R</tex>, красные рёбра {{---}} длинные связи, созданные по какой-то эвристике, обеспечивающие логарифмическое мат. ожидание длины пути.
+
Чёрные ребра {{---}} короткие связи с ближайшими соседями, красные рёбра {{---}} длинные связи, обеспечивающие малое мат. ожидание длины пути.
 
[https://www.hse.ru/mirror/pubs/lib/data/access/ram/ticket/30/1551306415713d428dca7fd05f3d108fe8e66042c4/Approximate%20nearest%20neighbor%20algorithm%20based%20on%20navigable%20(Information%20Systems).pdf Оригинал]]]
 
[https://www.hse.ru/mirror/pubs/lib/data/access/ram/ticket/30/1551306415713d428dca7fd05f3d108fe8e66042c4/Approximate%20nearest%20neighbor%20algorithm%20based%20on%20navigable%20(Information%20Systems).pdf Оригинал]]]
 
'''Маленький мир''' (англ. ''Small World'') {{---}} граф, в котором мат. ожидание кратчайшего пути между двумя случайно выбранными вершинами растёт пропорционально <tex>\log{N}</tex>. Но при этом средняя степень вершины мала.
 
'''Маленький мир''' (англ. ''Small World'') {{---}} граф, в котором мат. ожидание кратчайшего пути между двумя случайно выбранными вершинами растёт пропорционально <tex>\log{N}</tex>. Но при этом средняя степень вершины мала.
  
Для маленького мира на точках в Евклидовом пространстве жадный поиск <tex>k</tex> ближайших соседей будет выглядеть так:
+
Для маленького мира на точках в Евклидовом пространстве, приближенный поиск K ближайших соседей будет выглядеть так:
  '''knn'''(V, E, request, m, k)''':'''
+
  '''KNN'''(request, m, k)''':'''
     W = <tex>\emptyset</tex> <font color="green">// Ближайшие к q вершины. </font>
+
     nearest = new TreeSet() <font color="green">// вершины упорядочены по возрастанию расстояния до request </font>
     C = <tex>\emptyset</tex>  <font color="green">// Вершины, которые предстоит посетить. </font>
+
     candidates = new TreeSet()
     V = <tex>\emptyset</tex>  <font color="green">// Посещённые вершины. </font>
+
     visited = new HashSet()
 
     '''for''' i = 1 '''to''' m
 
     '''for''' i = 1 '''to''' m
         C = С <tex>\bigcup</tex> <tex>random_v</tex> v <tex>\in</tex> G
+
         candidates.add(случайная вершина графа)
         TN = <tex>\emptyset</tex>  <font color="green">// Ближайшие вершины в этом проходе.</font>
+
         tempNearest = new TreeMap()
 
         '''while''' ''true''
 
         '''while''' ''true''
             u = {q1 | <tex>\forall</tex> q2 <tex>\in</tex> C, |q - q1| <= |q - q2|} <font color="green">// Ближайшая к q вершина из C. </font>
+
             current = candidates.popMin()     
            C = C <tex>\setminus</tex> u
+
             '''if''' current дальше чем k-й элемент nearest
             '''if''' u дальше чем k-й элемент W
 
 
                 '''break'''
 
                 '''break'''
             '''for''' e: (u, e) '''in''' G
+
             '''for''' v : смежные с current вершины
                 '''if''' e <tex>{\notin}</tex> V
+
                 '''if''' !visited.contains(v)
                     C = C <tex>\bigcup</tex> e
+
                     candidates.add(v)
                     V = V <tex>\bigcup</tex> e
+
                     visited.add(v)
                     TN = TN <tex>\bigcup</tex> e
+
                     tempNearest.add(v)
         W = W <tex>\bigcup</tex> TN
+
         nearest.addAll(tempNearest)
     '''return''' k ближайших к q вершин из W
+
     '''return''' k первых вершин из nearest
  
Расстояние между вершинами графа может измеряться [[Метрический классификатор и метод ближайших соседей#Использование различных метрик расстояния|различными метриками]]. <br/>
+
Очевидный недостаток этого алгоритма {{---}} опасность свалиться в локальный минимум.
Очевидный недостаток этого алгоритма {{---}} опасность свалиться в локальный минимум, остановившись в каком-то кластере. С увеличением числа <tex>m</tex>, вероятность такого застревания экспоненциально падает.
 
  
 
==Описание структуры==
 
==Описание структуры==
'''Иерархический Маленький мир''' {{---}} слоистая структура графов. На нулевом слое представлены все <tex>N</tex> вершин из исходной выборки. Вершина, присутствующая на уровне <tex>L</tex> так же присутствует на уровне <tex>L + 1</tex> с вероятностью <tex>P</tex>. Т.е. кол-во слоёв растет как <tex>O(\log N)</tex>. Количество соседей каждой вершины на каждом уровне ограниченно константой, что позволяет делать запросы на добавление и удаление вершины за <tex>O(\log N)</tex>.
+
'''Иерархический Маленький мир''' (англ. ''Hierarchical Navigable Small World'') {{---}} слоистая структура графов. На нулевом слое представлены все '''N''' вершин из исходной выборки. Вершина, присутствующая на уровне '''L''' так же присутствует на уровне '''L + 1''' с вероятностью '''P'''. Т.е. кол-во слоёв растет как <tex>O(\log N)</tex>. Количество соседей каждой вершины на каждом уровне ограниченно константой, что позволяет делать запросы на добавление и удаление вершины за <tex>O(\log N)</tex>.
 
{|align="center"
 
{|align="center"
 
  |-valign="top"
 
  |-valign="top"
Строка 57: Строка 39:
  
 
===Поиск ближайших соседей в слое===
 
===Поиск ближайших соседей в слое===
Жадно идём по уровню в сторону запроса.  
+
Жадно идём по уровню в сторону запроса.
  '''searchLayer'''(q, ep, ef, layer)''':'''
+
  '''searchLayer'''(q, ep, ef, lc)''':'''
     <font color="green">// Входные данные: иерархия графов hnsw, запрос q, входные точки ep, искомое количество ближайших соседей ef, номер слоя layer.</font>
+
     <font color="green">// Ввод: запрос q, входная точка ep, искомое количество ближайших соседей ef, номер слоя lc</font>
     <font color="green">// Возвращает: ef ближайших соседей q в слое layer.</font>
+
     <font color="green">// Вывод: ef ближайших соседей q</font>
     W = {ep}  <font color="green">// Ближайшие к q вершины. </font>
+
     candidates = new TreeSet() <font color="green">// Вершины упорядочены по возрастанию расстояния до request. </font>
     C = {ep}  <font color="green">// Вершины, которые предстоит посетить. </font>
+
     result = new TreeSet()
     V = {ep}  <font color="green">// Посещённые вершины. </font>
+
     visited = new HashSet()
     '''while''' C != <tex>\emptyset</tex>
+
     '''while''' candidates.isNotEmpty()
         u = {q1 | <tex>\forall</tex> q2 <tex>\in</tex> C, |q - q1| <= |q - q2|} <font color="green">// Ближайшая к q вершина из C. </font>
+
         current = candidates.getMin()
         f = {q1 | <tex>\forall</tex> q2 <tex>\in</tex> W, |q - q1| >= |q - q2|} <font color="green">// Самая дальняя от q вершина из W. </font>
+
         furthest = result.getMax()
         '''if''' |u - q| > |f - q|
+
         '''if''' distance(current, q) > distance(furthest, q)
 
             '''break''' <font color="green">// Мы в локальном минимуме. </font>
 
             '''break''' <font color="green">// Мы в локальном минимуме. </font>
         '''for''' e : (u, e) '''in''' G
+
         '''for''' v : смежные с current вершины
             '''if''' e <tex>{\notin}</tex> V
+
             '''if''' !visited.contains(r)
                 V = V <tex>\bigcup</tex> e
+
                 visited.add(v)
                 f = {q1 | <tex>\forall</tex> q2 <tex>\in</tex> W, |q - q1| >= |q - q2|} <font color="green">// Самая дальняя от q вершина из W. </font>
+
                 furthest = result.getMax()
                 '''if''' |e - q| < |f - q| or |W| < ef
+
                 '''if''' distance(v, q) < distance(furthest, q) or result.count() < ef
                     C = C <tex>\bigcup</tex> e
+
                     candidates.add(v)
                     W = W <tex>\bigcup</tex> e
+
                     result.add(v)
                     if |W| > ef
+
                     if result.count() > ef
                         W = W \ f
+
                         result.removeLast()
     '''return''' W
+
     '''return''' result
  
 
===Поиск ближайших соседей во всей структуре===
 
===Поиск ближайших соседей во всей структуре===
[[Файл:HnswSearch.png|мини|500px|Жадный поиск вершины.
+
 
[https://arxiv.org/abs/1603.09320 Оригинал]]]
+
  '''knn'''(hnsw, q, K, ef)''':'''
# Идём с верхнего уровня до первого:
+
     <font color="green">// Ввод: граф hnsw, запрос q, искомое количество ближайших соседей  K, количество кандидатов при поиске ef</font>
## Жадно ищем ближайшую к <tex>q</tex> вершину на текущем уровне.
+
     <font color="green">// Вывод: K ближайших соседей q</font>
## Спускаемся в соответствующую соседу вершине на уровень ниже.
+
     result = new TreeSet() <font color="green">// Вершины упорядочены по возрастанию расстояния до request. </font>
# На нулевом уровне жадно ищем <tex>k</tex> ближайших соседей.
+
     ep = случайная вершина из верхнего слоя hnsw
  '''knn'''(hnsw, q, k, ef)''':'''
+
     maxLevel = индекс самого высокого слоя в hnsw
     <font color="green">// Входные данные: иерархия графов hnsw, запрос q, искомое количество ближайших соседей  k, количество кандидатов при поиске ef. </font>
+
     '''for''' level = maxLevel to 1
     <font color="green">// Возвращает: k ближайших соседей q. </font>
+
         result = searchLayer(q, ep, ef=1, level) <font color="green">// На каждом уровне, кроме нижнего мы ищем всего одну ближайшую вершину. </font>
     W = <tex>\emptyset</tex>  <font color="green">// Ближайшие к q вершины. </font>
+
         ep = result.getMin()
     mL = |hnsw| - 1
+
     result = searchLayer(q, ep, ef, lc=0)
     ep = <tex>random_v</tex> v <tex>\in</tex> hnsw[mL]
+
     '''return''' первые K элементов из result
     '''for''' level = mL to 1
 
         W = searchLayer(hnsw, q, ep, ef=1, level) <font color="green">// На каждом уровне, кроме нижнего мы ищем всего одну ближайшую вершину. </font>
 
         ep = W
 
     W = searchLayer(hnsw, q, ep, ef, lc=0)
 
     '''return''' k ближайших к q вершин из W
 
  
 
===Вставка элемента===
 
===Вставка элемента===
# Случайным образом выбираем максимальный слой, на котором будет представлена <tex>q</tex>.
+
Случайным образом выбираем максимальный слой, на котором представлена '''q'''.
# На каждом уровне, где будет представлена <tex>q</tex>, сверху вниз:
+
Жадно ищем '''M''' ближайших вершин к '''q''' на каждом уровне, на котором она представлена; добавляем связи '''q''' с ними; удаляем лишние связи у новообразовавшихся соседей.
## Жадно ищем <tex>m</tex> ближайших к <tex>q</tex> вершин.
 
## Добавляем связи <tex>q</tex> с ними.
 
## Удаляем лишние связи у новообразовавшихся соседей.
 
 
  '''insert'''(hnsw, q, m, mMax, ef, mL)''':'''
 
  '''insert'''(hnsw, q, m, mMax, ef, mL)''':'''
     <font color="green">// Входные данные: иерархия графов hnsw, запрос на добавление q, желаемое количество связей m, максимальное количество связей вершины </font>
+
     <font color="green">// Ввод: граф hnsw, запрос на добавление q, желаемое количество связей m, максимальное количество связей вершины </font>
 
     <font color="green">//      на одном слое mMax, количество кандидатов при поиске ef, коэффициент выбора высоты mL. </font>
 
     <font color="green">//      на одном слое mMax, количество кандидатов при поиске ef, коэффициент выбора высоты mL. </font>
     <font color="green">// Возвращает: hnsw с вставленным элементом q. </font>
+
     <font color="green">// Вывод: hnsw с вставленным элементом q. </font>
     W = <tex>\emptyset</tex>  <font color="green">// Ближайшие к q вершины. </font>
+
     result = new TreeSet() <font color="green">// Вершины упорядочены по возрастанию расстояния до q. </font>
     mL = |hnsw| - 1
+
     ep = случайная вершина из верхнего слоя hnsw
     ep = <tex>random_v</tex> v <tex>\in</tex> hnsw[mL]
+
     maxLevel = индекс самого высокого слоя в hnsw
     qL = -ln(rand(eps, 1.0)) * mL <font color="green">// Верхний слой для вершины q. </font>
+
     qLevel = -ln(rand(eps, 1.0)) * mL <font color="green">// Верхний слой для вершины q. </font>
     '''for''' level = mL to qL + 1
+
     '''for''' level = maxLevel to qLevel + 1
         W = searchLayer(q, ep, ef=1, level)
+
         result = searchLayer(q, ep, ef=1, level)
         ep = W
+
         ep = result
     '''for''' level = min(mL, qL) to 0
+
     '''for''' level = min(maxLevel, qLevel) to 0
         W = searchLayer(q, ep, ef, level)
+
         result = searchLayer(q, ep, ef, level)
         neighbours = M ближайших к q вершин из W
+
         neighbors = searchLayer.getFirst(M)
         '''for''' n <tex>\in</tex> neighbours:
+
         Добавить связи между neighbours и q на уровне level
            <font color="green">// Добавляем двусторонние связи между n и q. </font>
+
        '''for''' v : neighbors
            hnsw[level] = hnsw[level] <tex>\bigcup</tex> (n, q)
 
            hnsw[level] = hnsw[level] <tex>\bigcup</tex> (q, n)
 
           
 
            nNeighbours = {v| (v, n) '''in''' hnsw[level]} <font color="green">// Ищем всех соседей n на уровне level. </font>
 
 
             <font color="green">// Убираем лишние связи, если требуется. </font>
 
             <font color="green">// Убираем лишние связи, если требуется. </font>
             '''if''' nNeighbours.Count() > mMax
+
            vNeighbours = смежные с v на уровне level
                 <font color="green">// Самая дальняя от n вершина, смежняя с ней. </font>
+
             '''if''' vNeighbours.Count() > mMax
                v = {q1 | (q2, n) <tex>\in</tex> nNeighbours & <tex>\forall</tex>q2 <tex>\in</tex> hnsw[level], |q - q1| >= |q - q2|}
+
                 оставить у v только связи с ближайшими mMax смежными вершинами на уровне level
                hnsw[level] = hnsw[level] <tex>\setminus</tex> (n, v)
+
         ep = result
                hnsw[level] = hnsw[level] <tex>\setminus</tex> (v, n)
+
     '''if''' qLevel > maxLevel
         ep = W
+
         Добавить недостающие слои в hnsw, в каждый из них положить q
     '''if''' qL > mL
 
         '''for''' level = mL to qL
 
            hnsw.append({q, {}})
 
 
 
== Практическое использование ==
 
В библиотеке [https://github.com/nmslib/hnswlib Hnswlib] есть реализация иерархического маленького мира. Эта библиотека написана на C++, с биндингами на python.
 
Пример использования:
 
'''import''' hnswlib
 
'''import''' numpy '''as''' np
 
 
dim = 128
 
num_elements = 10000
 
 
<font color="green"># Создаём тестовые данные.</font>
 
data = np.float32(np.random.random((num_elements, dim)))
 
data_labels = np.arange(num_elements)
 
 
<font color="green"># Создаём иерархический маленький мир в L2.</font>
 
<font color="green"># Возможные метрики {{---}} l2, cosine, ip (L2, косинус угла между векторами, скалярное произведение).</font>
 
p = hnswlib.Index(space = 'l2', dim = dim)
 
 
<font color="green"># Инициализируем структуру.</font>
 
p.init_index(max_elements = num_elements, ef_construction = 200, M = 16)
 
 
<font color="green"># Добавляем данные (можно вызывать много раз).</font>
 
p.add_items(data, data_labels)
 
 
<font color="green"># Настраиваем качество, выставляя ef:</font>
 
p.set_ef(50) <font color="green"># ef должно быть > k</font>
 
 
<font color="green"># Делаем запрос.</font>
 
<font color="green"># k - количество ближайших вершин</font>
 
labels, distances = p.knn_query(data, k = 1)
 
  
 
== См. также ==
 
== См. также ==
* [[Общие понятия]]
+
== Примечания ==
* [[Метрический классификатор и метод ближайших соседей]]
 
* [[Список с пропусками]]
 
 
 
 
== Источники информации ==
 
== Источники информации ==
* [https://arxiv.org/abs/1603.09320 Yu. A. Malkov, D. A. Yashunin {{---}} Efficient and robust approximate nearest neighbor search using Hierarchical Navigable Small World graphs]
+
[https://en.wikipedia.org/wiki/Small-world_network Статья на википедии о маленьких мирах]
* [https://ru.wikipedia.org/wiki/%D0%9C%D0%B8%D1%80_%D1%82%D0%B5%D1%81%D0%B5%D0%BD_(%D0%B3%D1%80%D0%B0%D1%84) Википедия {{---}} Мир тесен (граф)]
 
* [https://en.wikipedia.org/wiki/Small-world_network Wikipedia {{---}} Small-world network]
 
* [https://github.com/sgjurano/ysda-celebrity-faces Поиск знаменитостей на фотографии с помощью иерархического маленького мира]
 
* [https://m.habr.com/ru/company/mailru/blog/338360/ Статья от Mail.ru об использовании иерархического маленького мира]
 
 
 
[[Категория: Машинное обучение]]
 

Пожалуйста, учтите, что любой ваш вклад в проект «Викиконспекты» может быть отредактирован или удалён другими участниками. Если вы не хотите, чтобы кто-либо изменял ваши тексты, не помещайте их сюда.
Вы также подтверждаете, что являетесь автором вносимых дополнений, или скопировали их из источника, допускающего свободное распространение и изменение своего содержимого (см. Викиконспекты:Авторские права). НЕ РАЗМЕЩАЙТЕ БЕЗ РАЗРЕШЕНИЯ ОХРАНЯЕМЫЕ АВТОРСКИМ ПРАВОМ МАТЕРИАЛЫ!

Чтобы изменить эту страницу, пожалуйста, ответьте на приведённый ниже вопрос (подробнее):

Отменить | Справка по редактированию (в новом окне)

Шаблон, используемый на этой странице: