Quotient filter — различия между версиями

Материал из Викиконспекты
Перейти к: навигация, поиск
(Поиск)
 
(не показано 17 промежуточных версий 2 участников)
Строка 1: Строка 1:
'''Quotient filter''' {{---}} вероятностная структура данных, позволяющая проверить принадлежность элемента множеству. При этом существует возможность получить ложноположительное срабатывание (элемента в множестве нет, но структура данных сообщает, что он есть), но не ложноотрицательное (элемент в множестве есть, но структура данных сообщает, что его нет).
+
'''Quotient filter''' {{---}} [[Фильтр_Блума#Определение|вероятностное множество]].
  
 
Существует связь между размером хранилища и шансом ложноположительного срабатывания. Поддерживаются операции добавления нового элемента в множество. С увеличением размера хранимого множества повышается вероятность ложного срабатывания.  
 
Существует связь между размером хранилища и шансом ложноположительного срабатывания. Поддерживаются операции добавления нового элемента в множество. С увеличением размера хранимого множества повышается вероятность ложного срабатывания.  
Структуру разработал Michael Bender в 2011 году<ref>Bender, Michael A.; Farach-Colton, Martin; Johnson, Rob; Kuszmaul, Bradley C.; Medjedovic, Dzejla; Montes, Pablo; Shetty, Pradeep; Spillane, Richard P.; Zadok, Erez (June 2011).[http://vldb.org/pvldb/vol5/p1627_michaelabender_vldb2012.pdf "Don't thrash: how to cache your hash on flash" (PDF)]</ref> как замена [[:Фильтр_Блума|фильтра Блума]].
+
Структуру разработал Michael Bender в 2011 году<ref>Bender, Michael A.; Farach-Colton, Martin; Johnson, Rob; Kuszmaul, Bradley C.; Medjedovic, Dzejla; Montes, Pablo; Shetty, Pradeep; Spillane, Richard P.; Zadok, Erez (June 2011).[http://vldb.org/pvldb/vol5/p1627_michaelabender_vldb2012.pdf "Don't thrash: how to cache your hash on flash" (PDF)]</ref> как замена [[:Фильтр_Блума|фильтра Блума]]. Фильтр используется для ускорения ответов в хранилище ключ-значение. 
  
 
==Описание структуры данных==
 
==Описание структуры данных==
 +
[[Файл:filter.png|400px|thumb|right|Фильтр используется для ускорения ответов в хранилище ключ-значение. Пары ключ-значение содержатся в хранилище с медленным доступом. Фильтр отфильтровывает ненужные запросы в хранилище (запрос ключа которого точно нет в хранилище), что ускоряет его работу вцелом, но увеличевает потребление памяти]]
  
Фильтр представляет собой [[:Хеш-таблица|хеш-таблицу]], в которой харанится часть ключа и <tex>3</tex> бита дополнительной информации. Они используются для разрешения ситуации, когда хеш различных ключей указывает на одну ячейку в хеш-таблице. В quotient filter хеш-функция возвращает <tex>p</tex> битовый хеш, последние r бит которого называются '''остатком''' (англ. ''remainder''), а <tex>q = p - r</tex> старших бит называются '''частным''' (англ. ''quotient''), отсюда название структуры Quotient filter<ref>Knuth, Donald (1973). The Art of Computer Programming:Searching and Sorting, volume 3. Section 6.4, exercise 13: Addison Wesley</ref>. Размер хеш-таблицы составляет <tex>2^q</tex>.
+
В quotient filter хеш-функция возвращает <tex>p</tex> битовый хеш, последние <tex>r</tex> бит которого называются '''остатком''' (англ. ''remainder''), а <tex>q = p - r</tex> старших бит называются '''частным''' (англ. ''quotient''), отсюда название структуры quotient filter<ref>Knuth, Donald (1973). The Art of Computer Programming:Searching and Sorting, volume 3. Section 6.4, exercise 13: Addison Wesley</ref>. Фильтр представляет собой [[:Хеш-таблица|хеш-таблицу]], в которой харанится остаток и <tex>3</tex> бита дополнительной информации (удобно хранить в целочисленном типе, используя <tex>3</tex> старших бита под дополнительную информацию, а оставшиеся биты под остаток, накладывает ограничение на размер остатка). Биты дополнительной информации используются для разрешения ситуации, когда частное различных ключей указывает на одну ячейку в хеш-таблице. Размер хеш-таблицы составляет <tex>2^q</tex>, так как есть всего <tex>2^q</tex> разных частных.
  
Пусть у нас есть ключ <tex>K</tex>, его хеш обозначим <tex>H(k)</tex>, остаток <tex>H_r</tex> и частное <tex>H_q</tex>. Попробуем поместить остаток в хеш-таблицу в ячейку <tex>H_q</tex>, называемую канонической. Возможно, ячейка уже занята, так как существует шанс полных коллизий (остаток и частное разных ключей совпадают) или частичных коллизий (частное разных ключей совпадают). Когда каноническая ячейка занята, помещаем остаток в какую-то ячейку справа.
+
Пусть у нас есть ключ <tex>K</tex>, его хеш обозначим <tex>h(K)</tex>, остаток <tex>h_r</tex> и частное <tex>h_q</tex>. Попробуем поместить остаток в хеш-таблицу в ячейку с индексом <tex>h_q</tex>, называемую канонической. Возможно, ячейка уже занята, так как существует шанс полных коллизий (остаток и частное разных ключей совпадают) или частичных коллизий (частное разных ключей совпадают).
 +
При полной коллизии мы получим ложноположительное срабатывание, но при частичной коллизии, с помощью дополнительных битов это избегается. Когда каноническая ячейка занята, помещаем остаток в какую-то ячейку справа. Этот способ решения колизий схож с [[:Разрешение_коллизий|линейным методом разрешения колизий]].  
  
Последовательность ячеек, имеющих одинаковые частные называется '''пробегом''' (англ. ''run''). Возможно, что начало пробега не занимает канонический слот, если он уже занят каким-то другим пробегом.
+
Последовательность ячеек, имеющих одинаковые частные называется '''пробегом''' (англ. ''run''). Возможно, что начало пробега не занимает канонический слот, если он уже занят каким-то другим пробегом.
  
Пробег, у которого первый элемент занимает каноническую ячейку, является началом кластера. '''Кластер''' (англ. ''cluster'') {{---}} объединение последовательных пробегов, концом кластера является пустая ячейка или начало другого кластера.
+
Пробег, у которого первый элемент занимает каноническую ячейку, является началом кластера. Кластер {{---}} объединение последовательных пробегов, концом кластера является пустая ячейка или начало другого кластера.
  
 
Три дополнительных бита имеют следующие функции:
 
Три дополнительных бита имеют следующие функции:
Строка 19: Строка 21:
 
* бит сдвига {{---}} равен единице, если пробег сдвинут относительно канонического слота.
 
* бит сдвига {{---}} равен единице, если пробег сдвинут относительно канонического слота.
  
 +
[[Файл:Quotient Filter.png|500px|thumb|right|Пример последовательной вставки элементов <tex> b, f, e, c, d, a</tex>]]
 
{| class="wikitable" border=1
 
{| class="wikitable" border=1
 
|+
 
|+
Строка 30: Строка 33:
 
|0||1||0||style="text-align:left;"|Не используется.  
 
|0||1||0||style="text-align:left;"|Не используется.  
 
|-align="center" bgcolor=#FFFFFF
 
|-align="center" bgcolor=#FFFFFF
|0||1||1||style="text-align:left;"|Ячейка содержит элемент пробега(не первый), сдвинутого относительно канонического слота.
+
|0||1||1||style="text-align:left;"|Ячейка содержит элемент пробега (не первый), сдвинутого относительно канонического слота.
 
|-align="center" bgcolor=#FFFFFF
 
|-align="center" bgcolor=#FFFFFF
 
|1||0||0||style="text-align:left;"|Ячейка содержит первый элемет пробега в его каноническом слоте.
 
|1||0||0||style="text-align:left;"|Ячейка содержит первый элемет пробега в его каноническом слоте.
Строка 38: Строка 41:
 
|1||1||0||style="text-align:left;"|Не используется.
 
|1||1||0||style="text-align:left;"|Не используется.
 
|-align="center" bgcolor=#FFFFFF
 
|-align="center" bgcolor=#FFFFFF
|1||1||1||style="text-align:left;"|Ячейка содержит элемент пробега(не первый), сдвинутого относительно канонического слота. Ячейка является канонической, для существующего пробега сдвинутого вправо.
+
|1||1||1||style="text-align:left;"|Ячейка содержит элемент пробега (не первый), сдвинутого относительно канонического слота. Ячейка является канонической, для существующего пробега сдвинутого вправо.
 
|}
 
|}
  
 
=== Поиск ===
 
=== Поиск ===
  
Пусть мы ищем ключ <tex>K</tex>. Смотрим в его каноническую ячейку <tex>H_q</tex>. Если бит занятости не единица, то элемент точно не содержится в множестве.
+
Пусть мы ищем ключ <tex>K</tex>. Смотрим в ячейку с индексом <tex>h_q</tex>, это каноническая ячейка для частного <tex>h_q</tex>. Если в этой ячейке бит занятости не единица, то элемент точно не содержится в множестве.
Если бит занятости единица, то нам нужно найти пробег для <tex>H_q</tex>. Так как начало нужного пробега может быть сдвинуто, найдем начало кластера. Идем влево от ячейки <tex>H_q</tex> и ищем первую с битом сдвига равным нулю, эта ячейка и будет началом кластера. Пока мы идем влево от <tex>H_q</tex> будем поддерживать счетчик, который бедет показывать сколько пробегов нам нужно будет пропустить от начала кластера. Каждая ячейка с битом занятости равным единице увеличивает счетчик на <tex>1</tex>. После того как мы нашли начало кластера, пойдем от него влево, каждая ячейка с битом продолжения равным нулю говорит о завершении пробега, когда счетчик станет равным нулю мы найдем нужный нам пробег для <tex>H_q</tex>. Если в этом пробеге содержится <tex>H_r</tex>, то <tex>K</tex> ,вероятно, содержится в множестве, иначе <tex>K</tex> точно не содержится в множестве.
+
Если бит занятости единица, то нам нужно найти пробег для <tex>h_q</tex>. Так как начало нужного пробега может быть сдвинуто, найдем начало кластера. Идем влево от ячейки с индексом <tex>h_q</tex> и ищем первую с битом сдвига равным нулю, эта ячейка и будет началом кластера. Пока мы идем влево от ячейки с индексом <tex>h_q</tex> будем поддерживать счетчик, который бедет показывать сколько пробегов нам нужно будет пропустить от начала кластера. Каждая ячейка с битом занятости равным единице увеличивает счетчик на <tex>1</tex>. После того как мы нашли начало кластера, пойдем от него вправо, каждая ячейка с битом продолжения равным нулю говорит о завершении пробега, когда счетчик станет равным нулю мы найдем нужный нам пробег для частного <tex>h_q</tex>. Если в этом пробеге содержится <tex>h_r</tex>, то <tex>K</tex>, вероятно, содержится в множестве, иначе <tex>K</tex> точно не содержится в множестве.
  
 
=== Вставка ===
 
=== Вставка ===
  
Аналогично с поиском: найдем позицию для <tex>H_r</tex>, сдвигаем на одну позицию влево все эллементы кластера, начиная с выбранного, обновляем дополнительные биты.  
+
Аналогично с поиском: найдем позицию для <tex>h_r</tex>, сдвигаем на одну позицию влево все эллементы кластера, начиная с выбранного, обновляем дополнительные биты.  
  
* Сдвиг не влияет на бит занятости. Выставляем бит занятости в ячейке <tex>H_q</tex> в единицу.
+
* Сдвиг не влияет на бит занятости. Выставляем бит занятости в ячейке <tex>h_q</tex> в единицу.
* Если мы вставляем <tex>H_r</tex> в начало пробега, следовательно предыдущий элемент пробега стал вторым, у него нужно выставить бит продолжения.
+
* Если мы вставляем <tex>h_r</tex> в начало пробега, следовательно предыдущий элемент пробега стал вторым, у него нужно выставить бит продолжения.
 
* Мы выставляем бит сдвига в единицу для каждой ячейки, что мы сдвинули.
 
* Мы выставляем бит сдвига в единицу для каждой ячейки, что мы сдвинули.
  
Строка 69: Строка 72:
 
<references />
 
<references />
  
== Источники ==
+
== Источники информации ==
  
 
* [http://en.wikipedia.org/wiki/Quotient_filter Wikipedia — Quotient filter]
 
* [http://en.wikipedia.org/wiki/Quotient_filter Wikipedia — Quotient filter]

Текущая версия на 13:04, 14 ноября 2016

Quotient filter — вероятностное множество.

Существует связь между размером хранилища и шансом ложноположительного срабатывания. Поддерживаются операции добавления нового элемента в множество. С увеличением размера хранимого множества повышается вероятность ложного срабатывания. Структуру разработал Michael Bender в 2011 году[1] как замена фильтра Блума. Фильтр используется для ускорения ответов в хранилище ключ-значение.

Описание структуры данных[править]

Фильтр используется для ускорения ответов в хранилище ключ-значение. Пары ключ-значение содержатся в хранилище с медленным доступом. Фильтр отфильтровывает ненужные запросы в хранилище (запрос ключа которого точно нет в хранилище), что ускоряет его работу вцелом, но увеличевает потребление памяти

В quotient filter хеш-функция возвращает [math]p[/math] битовый хеш, последние [math]r[/math] бит которого называются остатком (англ. remainder), а [math]q = p - r[/math] старших бит называются частным (англ. quotient), отсюда название структуры quotient filter[2]. Фильтр представляет собой хеш-таблицу, в которой харанится остаток и [math]3[/math] бита дополнительной информации (удобно хранить в целочисленном типе, используя [math]3[/math] старших бита под дополнительную информацию, а оставшиеся биты под остаток, накладывает ограничение на размер остатка). Биты дополнительной информации используются для разрешения ситуации, когда частное различных ключей указывает на одну ячейку в хеш-таблице. Размер хеш-таблицы составляет [math]2^q[/math], так как есть всего [math]2^q[/math] разных частных.

Пусть у нас есть ключ [math]K[/math], его хеш обозначим [math]h(K)[/math], остаток [math]h_r[/math] и частное [math]h_q[/math]. Попробуем поместить остаток в хеш-таблицу в ячейку с индексом [math]h_q[/math], называемую канонической. Возможно, ячейка уже занята, так как существует шанс полных коллизий (остаток и частное разных ключей совпадают) или частичных коллизий (частное разных ключей совпадают). При полной коллизии мы получим ложноположительное срабатывание, но при частичной коллизии, с помощью дополнительных битов это избегается. Когда каноническая ячейка занята, помещаем остаток в какую-то ячейку справа. Этот способ решения колизий схож с линейным методом разрешения колизий.

Последовательность ячеек, имеющих одинаковые частные называется пробегом (англ. run). Возможно, что начало пробега не занимает канонический слот, если он уже занят каким-то другим пробегом.

Пробег, у которого первый элемент занимает каноническую ячейку, является началом кластера. Кластер — объединение последовательных пробегов, концом кластера является пустая ячейка или начало другого кластера.

Три дополнительных бита имеют следующие функции:

  • бит занятости — равен единице, если ячейка является канонической для некого ключа в фильтре, сохраненого необязательно в этой ячейке,
  • бит продолжения — равен единице, если ячейка занята, но не первым элементов пробеге,
  • бит сдвига — равен единице, если пробег сдвинут относительно канонического слота.
Пример последовательной вставки элементов [math] b, f, e, c, d, a[/math]
Бит занятости Бит Продолжения Бит сдвига Описание
0 0 0 Пустая ячейка.
0 0 1 Ячейка содержит начало пробега, сдвинутого относительно канонического слота.
0 1 0 Не используется.
0 1 1 Ячейка содержит элемент пробега (не первый), сдвинутого относительно канонического слота.
1 0 0 Ячейка содержит первый элемет пробега в его каноническом слоте.
1 0 1 Ячейка содержит первый элемет пробега, сдвинутого относительно канонического слота. Ячейка является канонической, для существующего пробега сдвинутого вправо.
1 1 0 Не используется.
1 1 1 Ячейка содержит элемент пробега (не первый), сдвинутого относительно канонического слота. Ячейка является канонической, для существующего пробега сдвинутого вправо.

Поиск[править]

Пусть мы ищем ключ [math]K[/math]. Смотрим в ячейку с индексом [math]h_q[/math], это каноническая ячейка для частного [math]h_q[/math]. Если в этой ячейке бит занятости не единица, то элемент точно не содержится в множестве. Если бит занятости единица, то нам нужно найти пробег для [math]h_q[/math]. Так как начало нужного пробега может быть сдвинуто, найдем начало кластера. Идем влево от ячейки с индексом [math]h_q[/math] и ищем первую с битом сдвига равным нулю, эта ячейка и будет началом кластера. Пока мы идем влево от ячейки с индексом [math]h_q[/math] будем поддерживать счетчик, который бедет показывать сколько пробегов нам нужно будет пропустить от начала кластера. Каждая ячейка с битом занятости равным единице увеличивает счетчик на [math]1[/math]. После того как мы нашли начало кластера, пойдем от него вправо, каждая ячейка с битом продолжения равным нулю говорит о завершении пробега, когда счетчик станет равным нулю мы найдем нужный нам пробег для частного [math]h_q[/math]. Если в этом пробеге содержится [math]h_r[/math], то [math]K[/math], вероятно, содержится в множестве, иначе [math]K[/math] точно не содержится в множестве.

Вставка[править]

Аналогично с поиском: найдем позицию для [math]h_r[/math], сдвигаем на одну позицию влево все эллементы кластера, начиная с выбранного, обновляем дополнительные биты.

  • Сдвиг не влияет на бит занятости. Выставляем бит занятости в ячейке [math]h_q[/math] в единицу.
  • Если мы вставляем [math]h_r[/math] в начало пробега, следовательно предыдущий элемент пробега стал вторым, у него нужно выставить бит продолжения.
  • Мы выставляем бит сдвига в единицу для каждой ячейки, что мы сдвинули.

Преимущества[править]

  • Последовательное расположение данных. Можно загружать только [math]1[/math] кластер, уменьшая количество кеш промахов.
  • Простое увеличение или уменьшение хеш-таблицы, достаточно перенести один бит из остатка в частное или наоборот.
  • Простое слияние двух фильтров.

См. также[править]

Примечания[править]

  1. Bender, Michael A.; Farach-Colton, Martin; Johnson, Rob; Kuszmaul, Bradley C.; Medjedovic, Dzejla; Montes, Pablo; Shetty, Pradeep; Spillane, Richard P.; Zadok, Erez (June 2011)."Don't thrash: how to cache your hash on flash" (PDF)
  2. Knuth, Donald (1973). The Art of Computer Programming:Searching and Sorting, volume 3. Section 6.4, exercise 13: Addison Wesley

Источники информации[править]