Поиск подстроки в строке с использованием хеширования. Алгоритм Рабина-Карпа

Алгоритм Рабина-Карпа предназначен для поиска подстроки в строке.

Метод хеширования

Для решения задачи удобно использовать полиномиальный хеш, так его легко пересчитывать: [math]hash(s[1..n]) = (p^{n - 1} s[1] + ... + p^{0} s[n]) \bmod r[/math], где [math]p[/math] — это некоторое простое число, а [math]r[/math] — некоторое большое число, для уменьшения числа коллизий (обычно берётся [math]2^{32}[/math] или [math]2^{64}[/math], чтобы модуль брался автоматически при переполнении типов). Стоит обратить внимание, что если 2 строчки имеют одинаковый хэш, то они в большинстве таких случаев равны.

При удалении первого символа строки и добавлении символа в конец считать хеш новой строки при помощи хеша изначальной строки возможно за [math]O(1)[/math]:

[math]hash(s[i + 1..i + m - 1]) = (hash(s[i..i + m - 1]) - p^{m - 1} s[i]) \bmod r[/math].

[math]hash(s[i + 1..i + m]) = (p \cdot hash(s[i + 1..i + m - 1]) + s[i + m]) \bmod r[/math].

Получается : [math]hash(s[i + 1..i + m]) = (p \cdot hash(s[i..i + m - 1]) - p^{m} s[i] + s[i + m]) \bmod r[/math].

Следует учесть, что использующаяся здесь функция [math] \bmod [/math] - математический остаток от деления; если для хеша используется знаковый тип, то во избежание деления с остатком отрицательного числа к нему нужно добавлять [math] r [/math] умноженное на достаточно большой коэффициент.

Алгоритм

Алгоритм начинается с подсчета [math]hash(s[1..m])[/math] и [math]hash(p[1..m])[/math].

Для [math]i \in [1..n - m + 1][/math] вычисляется [math]hash(s[i..i + m - 1])[/math] и сравнивается с [math]hash(p[1..m])[/math]. Если они оказались равны, то образец [math]p[/math] скорее всего содержится в строке [math]s[/math] начиная с позиции [math]i[/math], хотя возможны и ложные срабатывания алгоритма. Если требуется свести такие срабатывания к минимуму или исключить вовсе, то применяют сравнение некоторых символов из этих строк, которые выбраны случайным образом, или применяют явное сравнение строк, как в наивном алгоритме поиска подстроки в строке. В первом случае проверка произойдет быстрее, но вероятность ложного срабатывания, хоть и небольшая, останется. Во втором случае проверка займет время, равное длине образца, но полностью исключит возможность ложного срабатывания.

Для ускорения работы алгоритма оптимально предпосчитать [math]p^{m}[/math].

Псевдокод

 RabinKarp (s[1..n], p[1..m])
      hp = hash(p[1..m])
      h = hash(s[1..m])
      for i = 1 to n - m + 1
           if h == hp
                answer.add(i)
           h = (p * h - p[math]^{m}[/math] * hash(s[i]) + hash(s[i + m])) mod r
           if h < 0
                h += r
      if answer.size() == 0
           return not found
      else
           return answer

Новый хеш [math]h[/math] был получен с помощью быстрого пересчёта. Для сохранения корректности алгоритма нужно считать, что [math]s[n + 1][/math] — пустой символ.

Время работы

Изначальный подсчёт хешей выполняется за [math]O(m)[/math]. В цикле всего [math]n - m + 1[/math] итераций, каждая выполняется за [math]O(1)[/math]. Итоговое время работы алгоритма [math]O(n + m)[/math].

Надёжность

Если количество подстрок данной строки превышает количество хешей, то наступление коллизий неизбежно. Но даже при относительно небольших строках вероятность коллизий может быть высока, не говоря уже о способах составления специальных строк, где хеши выдают частые ложные срабатывания.

Например если взять [math] r = 2^{32}, p = 237 [/math], за [math] s [/math] принять строку Туэ-Морса длиной [math] 1024 [/math] , то алгоритм находит лишние вхождения почти в половине случаев.

Литература

Кормен Т., Лейзерсон Ч., Ривест Р. Алгоритмы: построение и анализ. — 2-е изд. — М.: Издательский дом «Вильямс», 2007. — С. 1296.

Ссылки

• Наивный алгоритм поиска подстроки в строке
• Codeforces: Anti-hash test