Алгоритм поиска подстроки в строке с помощью суффиксного массива — различия между версиями
(→Источники информации) |
(→Более быстрый поиск) |
||
Строка 34: | Строка 34: | ||
== Более быстрый поиск == | == Более быстрый поиск == | ||
− | Существует более быстрый алгоритм поиска образца в строке. Для этого используется <tex>\mathtt lcp </tex> (longest common prefix). | + | Существует более быстрый алгоритм поиска образца в строке. Для этого используется <tex>\mathtt {lcp} </tex> (longest common prefix). |
=== Условные обозначения === | === Условные обозначения === | ||
Строка 46: | Строка 46: | ||
* <tex> M = (L + R) / 2 </tex>. | * <tex> M = (L + R) / 2 </tex>. | ||
− | * <tex> l = </tex><tex>\mathtt lcp</tex><tex>(array[L], p) </tex>. | + | * <tex> l = </tex><tex>\mathtt {lcp}</tex><tex>(array[L], p) </tex>. |
− | * <tex> r = </tex><tex>\mathtt lcp</tex><tex>(array[R], p) </tex>. | + | * <tex> r = </tex><tex>\mathtt {lcp}</tex><tex>(array[R], p) </tex>. |
В самом начале просто посчитаем <tex> l </tex> и <tex> r </tex> за линейное время, а во время выполнения алгоритма прямой пересчет производиться не будет, изменения будут происходить за <tex> O(1) </tex>. | В самом начале просто посчитаем <tex> l </tex> и <tex> r </tex> за линейное время, а во время выполнения алгоритма прямой пересчет производиться не будет, изменения будут происходить за <tex> O(1) </tex>. | ||
− | * <tex> m_l = </tex><tex>\mathtt lcp</tex><tex>(array[L], array[M]) </tex>. | + | * <tex> m_l = </tex><tex>\mathtt {lcp}</tex><tex>(array[L], array[M]) </tex>. |
− | * <tex> m_r = </tex><tex>\mathtt lcp</tex><tex>(array[M], array[R]) </tex>. | + | * <tex> m_r = </tex><tex>\mathtt {lcp}</tex><tex>(array[M], array[R]) </tex>. |
Подсчет <tex> m_l </tex> и <tex> m_r </tex> можно производить за <tex> O(1) </tex>, если применять [[Алгоритм Фарака-Колтона и Бендера|алгоритм Фарака-Колтона и Бендера]]. Любая пара суффиксов <tex> array </tex> из диапазона <tex> [L, M] </tex> имеет хотя бы <tex> m_l </tex> совпадений в префиксах. Аналогично любая пара суффиксов <tex> array </tex> из диапазона <tex> [M, R] </tex> имеет хотя бы <tex> m_r </tex> совпадений в префиксах. | Подсчет <tex> m_l </tex> и <tex> m_r </tex> можно производить за <tex> O(1) </tex>, если применять [[Алгоритм Фарака-Колтона и Бендера|алгоритм Фарака-Колтона и Бендера]]. Любая пара суффиксов <tex> array </tex> из диапазона <tex> [L, M] </tex> имеет хотя бы <tex> m_l </tex> совпадений в префиксах. Аналогично любая пара суффиксов <tex> array </tex> из диапазона <tex> [M, R] </tex> имеет хотя бы <tex> m_r </tex> совпадений в префиксах. | ||
Строка 58: | Строка 58: | ||
'''Рисунки:''' | '''Рисунки:''' | ||
− | * Черная вертикальная линия на рисунке обозначает <tex>\mathtt lcp </tex> от <tex> i </tex>-го суффикса суффиксного массива <tex> array </tex> и образца <tex> p </tex>. Чем линия длиннее, тем совпадений символов больше. | + | * Черная вертикальная линия на рисунке обозначает <tex>\mathtt {lcp} </tex> от <tex> i </tex>-го суффикса суффиксного массива <tex> array </tex> и образца <tex> p </tex>. Чем линия длиннее, тем совпадений символов больше. |
− | * <tex> L </tex>, <tex> M </tex> и <tex> R </tex> {{---}} то же самое, что в алгоритме. Кроме того, самая левая черная вертикальная линия на каждом рисунке означает <tex> l </tex>, аналогично, самая правая черная вертикальная линия на каждом рисунке означает <tex> r </tex>. Переменная <tex> m_l </tex> {{---}} это <tex>\mathtt lcp </tex> в суффиксном массиве на промежутке <tex> [L, M] </tex>. Переменная <tex> m_r </tex> {{---}} это <tex>\mathtt lcp </tex> в суффиксном массиве на промежутке <tex> [M, R] </tex>. | + | * <tex> L </tex>, <tex> M </tex> и <tex> R </tex> {{---}} то же самое, что в алгоритме. Кроме того, самая левая черная вертикальная линия на каждом рисунке означает <tex> l </tex>, аналогично, самая правая черная вертикальная линия на каждом рисунке означает <tex> r </tex>. Переменная <tex> m_l </tex> {{---}} это <tex>\mathtt {lcp} </tex> в суффиксном массиве на промежутке <tex> [L, M] </tex>. Переменная <tex> m_r </tex> {{---}} это <tex>\mathtt {lcp} </tex> в суффиксном массиве на промежутке <tex> [M, R] </tex>. |
− | * Серым цветом выделен <tex>\mathtt lcp </tex> в суффиксном массиве на рассматриваемом промежутке. | + | * Серым цветом выделен <tex>\mathtt {lcp} </tex> в суффиксном массиве на рассматриваемом промежутке. |
=== Поиск границ диапазона ответов === | === Поиск границ диапазона ответов === | ||
Строка 78: | Строка 78: | ||
Если <tex> l < r </tex>, то действия аналогичны. Также три случая: | Если <tex> l < r </tex>, то действия аналогичны. Также три случая: | ||
# <tex> m_r > r </tex>. Сдвигаем <tex> R </tex> в <tex> M </tex>. Значение <tex> r </tex> не изменяется. | # <tex> m_r > r </tex>. Сдвигаем <tex> R </tex> в <tex> M </tex>. Значение <tex> r </tex> не изменяется. | ||
− | # <tex> m_r = r </tex>. Считаем <tex>\mathtt lcp </tex> для образца и суффикса, стоящего в позиции <tex> M </tex>, начиная с позиции <tex> r </tex>. | + | # <tex> m_r = r </tex>. Считаем <tex>\mathtt {lcp} </tex> для образца и суффикса, стоящего в позиции <tex> M </tex>, начиная с позиции <tex> r </tex>. |
# <tex> m_r < r </tex>. Сдвигаем <tex> L </tex> в <tex> M </tex>, <tex> l = m_r </tex>. | # <tex> m_r < r </tex>. Сдвигаем <tex> L </tex> в <tex> M </tex>, <tex> l = m_r </tex>. | ||
Строка 87: | Строка 87: | ||
Рассуждения при поиске <tex> R_p </tex> аналогичны, только нужно не забыть изменить границы поиска на изначальные <tex> L = 0 </tex> и <tex> R = |s| - 1 </tex>. | Рассуждения при поиске <tex> R_p </tex> аналогичны, только нужно не забыть изменить границы поиска на изначальные <tex> L = 0 </tex> и <tex> R = |s| - 1 </tex>. | ||
− | Таким образом часть бинарного поиска мы сделаем при сравнении нескольких <tex>\mathtt lcp </tex> между собой(каждое за <tex> O(1) </tex>), а если дойдет до сравнения символов, то любой символ <tex> p </tex> сравнивается не более одного раза(при сравнении мы берем <tex>\mathtt max</tex><tex>(l, r) </tex>, а значит никогда не возвращаемся назад). В самом начале мы посчитали <tex> l </tex> и <tex> r </tex> за <tex> O(p) </tex>. В итоге получаем сложность алгоритма <tex> O(p + log(s)) </tex>. Правда нужен предподсчет, чтобы можно было брать <tex>\mathtt lcp </tex> для двух любых суффиксов <tex> array </tex> за <tex> O(1) </tex>, начиная с позиции <tex> r </tex>. | + | Таким образом часть бинарного поиска мы сделаем при сравнении нескольких <tex>\mathtt {lcp} </tex> между собой(каждое за <tex> O(1) </tex>), а если дойдет до сравнения символов, то любой символ <tex> p </tex> сравнивается не более одного раза(при сравнении мы берем <tex>\mathtt max</tex><tex>(l, r) </tex>, а значит никогда не возвращаемся назад). В самом начале мы посчитали <tex> l </tex> и <tex> r </tex> за <tex> O(p) </tex>. В итоге получаем сложность алгоритма <tex> O(p + log(s)) </tex>. Правда нужен предподсчет, чтобы можно было брать <tex>\mathtt {lcp} </tex> для двух любых суффиксов <tex> array </tex> за <tex> O(1) </tex>, начиная с позиции <tex> r </tex>. |
===Псевдокод=== | ===Псевдокод=== | ||
Строка 96: | Строка 96: | ||
Сравнения <tex>< , > , == , \leqslant , \geqslant </tex> при применении к строкам означают полное лексикографическое сравнение строк. | Сравнения <tex>< , > , == , \leqslant , \geqslant </tex> при применении к строкам означают полное лексикографическое сравнение строк. | ||
− | Функция <tex>\mathtt lcp_z</tex><tex>(s, p)</tex> ищет количество совпадений символов строк <tex>s</tex> и <tex>p</tex> начиная с позиции <tex>z</tex>. | + | Функция <tex>\mathtt {lcp_z}</tex><tex>(s, p)</tex> ищет количество совпадений символов строк <tex>s</tex> и <tex>p</tex> начиная с позиции <tex>z</tex>. |
<tex>n</tex> {{---}} длина строки <tex>s</tex>, <tex>w</tex> {{---}} длина строки <tex>p</tex>. | <tex>n</tex> {{---}} длина строки <tex>s</tex>, <tex>w</tex> {{---}} длина строки <tex>p</tex>. |
Версия 20:33, 9 марта 2016
Далее будут рассмотрены некоторые способы нахождения всех вхождений образца в текст с помощью суффиксного массива.
Содержание
Наивный алгоритм поиска
Простейший способ узнать, встречается ли образец в тексте, используя суффиксный массив, — взять первый символ образца и бинарным поиском по суффиксному массиву найти диапазон с суффиксами, начинающимися на такую же букву. Так как все элементы в полученном диапазоне отсортированы, а первые символы одинаковые, то оставшиеся после отбрасывания первого символа суффиксы тоже отсортированы. А значит, можно повторять процедуру сужения диапазона поиска уже по второму, затем третьему и так далее символу образца до получения либо пустого диапазона, либо успешного нахождения всех символов образца.
Бинарный поиск работает за время равное
, а сравнение суффикса с образцом не может превышать длины образца.Таким образом время работы алгоритмы
, где — текст, — образец.Псевдокод
Поиск диапазона
— функция, сравнивающая строки по k-тому символу.
, — функции бинарного поиска.
Элементы строк нумеруются с единицы
function elementary_search(): left = 0; // left, right — границы диапазона right = n; // n — длина образца for i = 1 to n { left = lower_bound(left, right, p[i], cmp (i) ); right = upper_bound(left, right, p[i], cmp (i) ); } if (right - left > 0) { yield left; yield right; } else yield "No matches";
Более быстрый поиск
Существует более быстрый алгоритм поиска образца в строке. Для этого используется
(longest common prefix).Условные обозначения
Алгоритм:
- и — левая и правая границы диапазона ответов в суффиксном массиве .
У любого суффикса в пределах этого диапазона есть префикс, который полностью совпадает с образцом.
- — левая граница диапазона поиска (изначально равна ).
- — правая граница диапазона поиска (изначально равна ).
- .
- .
- .
В самом начале просто посчитаем
и за линейное время, а во время выполнения алгоритма прямой пересчет производиться не будет, изменения будут происходить за .- .
- .
Подсчет алгоритм Фарака-Колтона и Бендера. Любая пара суффиксов из диапазона имеет хотя бы совпадений в префиксах. Аналогично любая пара суффиксов из диапазона имеет хотя бы совпадений в префиксах.
и можно производить за , если применятьРисунки:
- Черная вертикальная линия на рисунке обозначает от -го суффикса суффиксного массива и образца . Чем линия длиннее, тем совпадений символов больше.
- , и — то же самое, что в алгоритме. Кроме того, самая левая черная вертикальная линия на каждом рисунке означает , аналогично, самая правая черная вертикальная линия на каждом рисунке означает . Переменная — это в суффиксном массиве на промежутке . Переменная — это в суффиксном массиве на промежутке .
- Серым цветом выделен в суффиксном массиве на рассматриваемом промежутке.
Поиск границ диапазона ответов
Рассмотрим поиск левой границы диапазона ответов
.Сразу проверим образец с суффиксами по краям исходного диапазона поиска
и : если образец лексикографически больше последнего суффикса или меньше первого суффикса, то образец не встречается в строке вовсе и поиск можно прекратить.ищется при помощи бинарного поиска по суффиксному массиву . На каждом шаге поиска нам надо определять, на каком отрезке или надо продолжать поиск границы . Каждую итерацию бинарного поиска будем сравнивать и . Если , то возможно одно из трех:
- . Это означает, что каждая пара суффиксов из диапазона имеет между собой больше совпадений, чем суффикс с левого края с образцом, поэтому продолжим поиск в диапазоне . Значение при этом не меняется, а .
- . Это означает, что у каждого суффикса из есть хотя бы совпадений с образцом. Проверим суффикс в позиции , так как с ним совпадений у образца может получиться больше. Начнем сравнивать суффикс в позиции начиная с -ого символа. Мы либо найдем полное вхождение образца в суффикс, либо на каком-то шаге получим несоответствие. В первом случае и , так как мы ищем левую границу диапазона ответов. Во втором случае все зависит от лексикографического несовпадения. Если символ у образца меньше, чем у суффикса, то и , иначе и .
- . Это означает, что совпадений у суффикса с левого края диапазона поиска с образцом больше, чем у суффикса в позиции . Очевидно, что поиск надо продолжать между и , то есть , а новое значение .
Если
, то действия аналогичны. Также три случая:- . Сдвигаем в . Значение не изменяется.
- . Считаем для образца и суффикса, стоящего в позиции , начиная с позиции .
- . Сдвигаем в , .
Бинарный поиск будет работать до тех пор, пока
. После этого можно присвоить левой границе диапазона ответов и переходить к поиску правой границы диапазона ответов .Рассуждения при поиске
аналогичны, только нужно не забыть изменить границы поиска на изначальные и .Таким образом часть бинарного поиска мы сделаем при сравнении нескольких
между собой(каждое за ), а если дойдет до сравнения символов, то любой символ сравнивается не более одного раза(при сравнении мы берем , а значит никогда не возвращаемся назад). В самом начале мы посчитали и за . В итоге получаем сложность алгоритма . Правда нужен предподсчет, чтобы можно было брать для двух любых суффиксов за , начиная с позиции .Псевдокод
Массивы и строки нумеруются с нуля.
Сравнения
означают лексикографическое сравнение двух строк по их первым символам.Сравнения
при применении к строкам означают полное лексикографическое сравнение строк.Функция
ищет количество совпадений символов строк и начиная с позиции .— длина строки , — длина строки .
В алгоритме используются переменные, введенные выше в разделе "более быстрый поиск".
Поиск левой границы ответов .
function find_L_p(): l = lcp(p, s[array[0]]); r = lcp(p, s[array[n - 1]]); if (l == w or p < s[array[0]]) L_p = 0; else if (p > s[array[n - 1]) L_p = n; else { L = 0; R = n - 1; while (R - L > 1) do { M = (L + R) / 2; m_l = lcp(array[L], array[M]); m_r = lcp(array[M], array[R]); if (lr) if (m_l l) m = l + lcp_l(s[array[M]], p); else m = m_l; else if (m_r r) m = r + lcp_r(s[array[M]], p); else m = m_r; if (m == w || p s[array[M]]){ R = M; r = m; } else { L = M; l = m; } } L_p = R; }
См. также
- Алгоритм цифровой сортировки суффиксов циклической строки
- Алгоритм Касаи и др.
- Построение суффиксного массива с помощью стандартных методов сортировки
Источники информации
- Habrahabr — Суффиксный массив — удобная замена суффиксного дерева
- U. Manber and G. Mayers. — "Suffix arrays: A new method for on-line string searches"