1632
правки
Изменения
м
Для решения задачи удобно использовать полиномиальный хеш[[Наивный алгоритм поиска подстроки в строке]] работает за <tex>O\left(n^2\right)</tex> в худшем случае — слишком долго. Чтобы ускорить этот процесс, так его легко пересчитывать: можно воспользоваться методом [[Хеш-таблица#Хеширование|хеширования]].{{Определение|definition = Пусть дана строка <tex>s[0..n-1]</tex>. Тогда '''полиномиальным хешем''' (англ. ''polynomial hash'') строки <tex>s</tex> называется число <tex>h = \mathrm{hash}(s[10..n-1]) = ( p^{n - 10} s[10] + ... + p^{0n - 1} s[n-1]) \bmod r</tex>, где <tex>p</tex> {{---}} это — некоторое простое число, а <tex>rs[i]</tex> {<tex>{-}</tex> код <tex>i</tex>-ого символа строки <tex>s</tex>.}}Проблему переполнения при вычислении хешей довольно больших строк можно решить так <tex>{-}} некоторое большое число, для уменьшения числа коллизий (обычно берётся </tex> считать хеши по модулю <tex>r=2^{3264}</tex> (или <tex>2^{6432}</tex>), чтобы модуль брался автоматически при переполнении типов). Стоит обратить внимание, что если 2 строчки имеют одинаковый хэш, то они в большинстве таких случаев равны.
При удалении первого символа строки и добавлении символа в конец Для работы алгоритма потребуется считать хеш новой строки при помощи хеша изначальной строки возможно за подстроки <tex>O(1)s[i..j]</tex>. Делать это можно следующим образом:
Получается Разобьем это выражение на две части: <tex>hash(s[i + 1..i + m]) = (p \cdot hash(s[i..i + m - 1]) - p^{m} s[i] + s[i + m]) \bmod r</tex>.
Алгоритм начинается с подсчета Вынесем из последней скобки множитель <tex>hash(s[1..m])</tex> и <tex>hash(p[1..m])^{i}</tex>.:
Для <tex>i \in mathrm{hash}(s[10..n - m + 1j]</tex> вычисляется <tex>hash) = (s[i0] + p s[1] +...+ p^{i-1} s[i + m - 1])</tex> и сравнивается с <tex>hash+ p^{i}(ps[1i] +..m])</tex>. Если они оказались равны, то образец <tex>+ p</tex> скорее всего содержится в строке <tex>^{j-i-1} s</tex> начиная с позиции <tex>[j-1] + p^{j-i} s[j])</tex>, хотя возможны и ложные срабатывания алгоритма. Если требуется свести такие срабатывания к минимуму или исключить вовсе, то применяют сравнение некоторых символов из этих строк, которые выбраны случайным образом, или применяют явное сравнение строк, как в [[Наивный алгоритм поиска подстроки в строке|наивном алгоритме поиска подстроки в строке]]. В первом случае проверка произойдет быстрее, но вероятность ложного срабатывания, хоть и небольшая, останется. Во втором случае проверка займет время, равное длине образца, но полностью исключит возможность ложного срабатывания.
Для ускорения работы алгоритма оптимально предпосчитать Выражение в первой скобке есть не что иное, как хеш подстроки <tex>p^{m}s[0..i-1]</tex>, а во второй — хеш нужной нам подстроки <tex>s[i..j]</tex>.Итак, мы получили, что:
==Псевдокод== '''RabinKarp''' <tex>\mathrm{hash}(s[1..n], p[10..mj]) hp = hash(p[1..m]) h = \mathrm{hash}(s[10..m]) '''for''' i = 1 '''to''' n - m + 1 '''if''' h == hp answer.add(i]) h = (+ p * h - p<tex>^{mi}</tex> * \mathrm{hash}(s[i..j]) + hash(s[i + m])) mod r '''if''' answer.size() == 0 '''return''' not found '''else''' '''return''' answer</tex>
Новый хеш <tex>h</tex> был получен с помощью быстрого пересчёта. Для сохранения корректности алгоритма нужно считать, что Отсюда получается следующая формула для <tex>\mathrm{hash}(s[n + 1i..j])</tex> {{---}} пустой символ.:
Изначальный подсчёт хешей выполняется за Однако, как видно из формулы, чтобы уметь считать хеш для всех подстрок начинающихся с <tex>i</tex>, нужно предпосчитать все <tex>p^{i}</tex> для <tex>i \in [0..n - 1]</tex>. Это займет много памяти. Но поскольку нам нужны только подстроки размером <tex>O(m)</tex>. В цикле всего <tex>n {- }</tex> мы можем подсчитать хеш подстроки <tex>s[0..m + -1]</tex> итераций, каждая выполняется за а затем пересчитывать хеши для всех <tex>O(1)i \in [0..n - m]</tex>. Итоговое время работы алгоритма за <tex>O(n + m1)</tex>.следующим образом:
Например если взять <tex> r \mathrm{hash}(s[i + 1..i + m]) = 2^(p \cdot \mathrm{32hash}, p = 237 </tex>, за <tex> (s </tex> принять [[Слово_Туэ-Морса | строку Туэi + 1..i + m -Морса1]]<ref>) + s[http://codeforces.ru/blog/entry/4898 Codeforces: Anti-hash testi + m]</ref> длиной <tex> 1024 ) \bmod r</tex> , то алгоритм находит лишние вхождения почти в половине случаев.
==Ссылки==
*[[Наивный алгоритм поиска подстроки в строке]]
*[http://codeforces.ru/blog/entry/4898 Codeforces: Anti-hash test]
rollbackEdits.php mass rollback
==Метод хеширования==
Рассмотрим хеш <tex>hash(s[i + 10..i + m - 1j]) = (hash(s[i..i + m - 1]) - p^{m - 1} s[i]) \bmod r</tex>.:
<tex>\mathrm{hash}(s[i 0..j]) = s[0] + p s[1] +...+ p^{i-1} s[i -1] + m]) = (p \cdot hash(^{i} s[i ] + 1..i .+ m p^{j-1} s[j- 1]) + p^{j} s[i + mj]) \bmod r</tex>.
<tex>\mathrm{hash}(s[0..j]) ==Алгоритм==(s[0] + p s[1] +...+ p^{i-1} s[i-1]) + (p^{i} s[i] +...+ p^{j-1} s[j-1] + p^{j} s[j])</tex>
<tex>\mathrm{hash}(s[i..j]) ==Время работы==(1/p^{i})(\mathrm{hash}(s[0..j]) - \mathrm{hash}(s[0..i-1]))</tex>
<tex>\mathrm{hash}(s[i + 1..i + m - 1]) == Надёжность ==Если количество подстрок данной строки превышает количество хешей, то наступление (\mathrm{hash}(s[[Разрешение_коллизий | коллизий]] неизбежноi.. Но даже при относительно небольших строках вероятность коллизий может быть [[Хешi + m -таблица#Введение | высока1]) - p^{m - 1} s[i], не говоря уже о способах составления специальных строк, где алгоритм на хешах выдаёт частые ложные срабатывания) \bmod r</tex>.
Получается : <tex>\mathrm{hash}(s[i + 1..i + m]) = (p \cdot \mathrm{hash}(s[i..i + m - 1]) - p^{i} s[i] + s[i + m]) \bmod r</tex>. ==Решение== ===Алгоритм=== Алгоритм начинается с подсчета <tex>\mathrm{hash}(s[0..m-1])</tex> и <tex>\mathrm{hash}(p[0..m-1])</tex>, а также с подсчета <tex>p^{m}</tex>, для ускорения ответов на запрос. Для <tex>i \in [0..n - m]</tex> вычисляется <tex>\mathrm{hash}(s[i..i + m - 1])</tex> и сравнивается с <tex>\mathrm{hash}(p[0..m-1])</tex>. Если они оказались равны, то образец <tex>p</tex> скорее всего содержится в строке <tex>s</tex> начиная с позиции <tex>i</tex>, хотя возможны и ложные срабатывания алгоритма. Если требуется свести такие срабатывания к минимуму или исключить вовсе, то применяют сравнение некоторых символов из этих строк, которые выбраны случайным образом, или применяют явное сравнение строк, как в [[Наивный алгоритм поиска подстроки в строке|наивном алгоритме поиска подстроки в строке]]. В первом случае проверка произойдет быстрее, но вероятность ложного срабатывания, хоть и небольшая, останется. Во втором случае проверка займет время, равное длине образца, но полностью исключит возможность ложного срабатывания. Если требуется найти индексы вхождения нескольких образцов, или сравнить две строки <tex>{-}</tex> выгоднее будет предпосчитать все степени <tex>p</tex>, а также хеши всех префиксов строки <tex>s</tex>. ===Псевдокод===Приведем пример псевдокода, который находит все вхождения строки <tex>w</tex> в строку <tex>s</tex> и возвращает массив позиций, откуда начинаются вхождения. '''vector<int>''' rabinKarp (s : '''string''', w : '''string'''): '''vector<int>''' answer '''int''' n = s.length '''int''' m = w.length '''int''' hashS = hash(s[0..m - 1]) '''int''' hashW =hash(w[0..m - 1]) '''for''' i = Примечания 0 '''to''' n - m '''if''' hashS ==hashW answer.add(i) hashS = (p * hashS - p<tex>^{m}</tex> * hash(s[i]) + hash(s[i + m])) '''mod''' r <font color=green>// r — некоторое большое число, p — некоторое просто число</font> '''return''' answer Новый хеш <tex>hashS</tex> был получен с помощью быстрого пересчёта. Для сохранения корректности алгоритма нужно считать, что <tex>s[n + 1]</tex> {{---}} пустой символ. ===Время работы=== Изначальный подсчёт хешей выполняется за <tex>O(m)</tex>. Каждая итерация выполняется за <tex>O(1)</tex>, В цикле всего <tex>n - m + 1</tex> итераций. Итоговое время работы алгоритма <referencestex>O(n + m)</tex>. Однако, если требуется исключить ложные срабатывания алгоритма полностью, т.е. придется проверить все полученные позиции вхождения на истинность, то в худшем случае итоговое время работы алгоритма будет <tex>O(n</referencestex><tex>\cdot</tex> <tex>m)</tex>. == Сравнение с другими алгоритмами ==Преимущества:* Быстрая скорость работы — <tex>O(n + m)</tex>, где <tex>n</tex> — длина строки, <tex>m</tex> — длина образца;* Простая и понятная реализация; Недостатки:* Возможно подобрать входные данные так, что количество ложных срабатываний будет недопустимо большим; == См. также ==*[[Наивный алгоритм поиска подстроки в строке]]*[[Поиск наибольшей общей подстроки двух строк с использованием хеширования]]
== Источники информации ==
* ''Кормен, Томас Х., Лейзерсон, Чарльз И., Ривест, Рональд Л., Штайн Клиффорд'' '''Алгоритмы: построение и анализ''', 3-е издание. Пер. с англ. — М.:Издательский дом "Вильямс", 2014. — 1328 с.: ил. — ISBN 978-5-8459-1794-2 (рус.) — страницы 1036–1041.
[[Категория:Алгоритмы и структуры данных]]
[[Категория:Поиск подстроки в строке]]
[[Категория: Хеширование]]
[[Категория:Точный поиск]]
