Поиск подстроки в строке — различия между версиями

Материал из Викиконспекты
Перейти к: навигация, поиск
(add Z-function and suffix tree)
м (rollbackEdits.php mass rollback)
 
(не показаны 22 промежуточные версии 8 участников)
Строка 1: Строка 1:
''Поиск подстроки в строке'' (англ. ''String searching algorithm'') — класс алгоритмов над строками, которые позволяют найти паттерн (''needle'') в тексте (''haystack'').  
+
'''Поиск подстроки в строке''' (англ. ''String searching algorithm'') — класс алгоритмов над строками, которые позволяют найти паттерн (''pattern'') в тексте (''text'').  
 
== Классификация алгоритмов поиска подстроки в строке ==
 
== Классификация алгоритмов поиска подстроки в строке ==
  
 
=== Сравнение — «чёрный ящик» ===
 
=== Сравнение — «чёрный ящик» ===
  
Во всех алгоритмах этого типа сравнение является «чёрным ящиком» для программиста.  
+
Во всех алгоритмах этого типа сравнение является «чёрным ящиком» для программиста.
: <tex>+</tex> Позволяет использовать стандартные функции сравнения участков памяти (man *cmp(3)), которые, зачастую, оптимизированы под конкретное железо.  
+
 
: <tex>-</tex> Не выдается точка, в которой произошло несовпадение.  
+
Преимущества:
 +
* позволяет использовать стандартные функции сравнения участков памяти (man *cmp(3)), которые, зачастую, оптимизированы под конкретное железо.  
 +
 
 +
Недостатки:
 +
* не выдается точка, в которой произошло несовпадение.
  
 
=== По порядку сравнения паттерна в тексте ===
 
=== По порядку сравнения паттерна в тексте ===
 +
==== Прямой ====
  
==== Прямой ====
+
Преимущества:
: <tex>+</tex> Отсутсвие регрессии на «плохих» данных.
+
* отсутствие регрессии на «плохих» данных.
: <tex>-</tex> Не самая хорошая средняя асимптотическая сложность.
+
 
 +
Недостатки:
 +
* не самая хорошая средняя асимптотическая сложность.
  
 
==== Обратный ====
 
==== Обратный ====
Паттерн движется по тексту слева на право, но сравнение подстрок происходит справа на лево.
+
Паттерн движется по тексту слева направо, но сравнение подстрок происходит справа налево.
: <tex>+</tex> При несовпадении позволяет перемещать паттерн по строке сразу на несколько символов
+
 
 +
Преимущества:
 +
* при несовпадении позволяет перемещать паттерн по строке сразу на несколько символов.
 +
 
 +
Недостатки:
 +
* производительность сильно зависит от данных.
  
 
==== Сравнение в необычном порядке ====
 
==== Сравнение в необычном порядке ====
Специфические алгоритмы, основанные, как правило, на некоторых эмпирических наблюдениях над словарём. Как пример можно привести [[Wikipedia:en:Raita Algorithm| Алгоритм Райты (англ.)]]
+
Специфические алгоритмы, основанные, как правило, на некоторых эмпирических наблюдениях над словарём.<ref>Например, [[Wikipedia:en:Raita Algorithm| Алгоритм Райты (англ.)]]</ref>
  
 
=== По количеству поисковых шаблонов ===
 
=== По количеству поисковых шаблонов ===
  
#Один шаблон (''Single pattern algorithms'')
+
Сколько поисковых шаблонов может обработать алгоритм за один раз.
#Конечное количество шаблонов (''finite set of patterns'')
+
 
#Бесконечное количество шаблонов (''infinite number of patterns'') (см. [[Теория формальных языков]])
+
* один шаблон (англ. ''single pattern algorithms'')
 +
* конечное количество шаблонов (англ. ''finite set of patterns'')
 +
* бесконечное количество шаблонов (англ. ''infinite number of patterns'') (см. [[Теория формальных языков]])
  
 
=== По необходимости препроцессинга текста ===
 
=== По необходимости препроцессинга текста ===
Строка 33: Строка 47:
 
*[[Бор]]
 
*[[Бор]]
 
*[[Суффиксный массив]]
 
*[[Суффиксный массив]]
Алгоритмы использующие препроцессинг — одни из самых быстрых в этом классе.
+
Алгоритмы, использующие препроцессинг — одни из самых быстрых в этом классе.
  
 
== Сравнение алгоритмов ==
 
== Сравнение алгоритмов ==
 
*<tex>|\Sigma| = \sigma</tex>­ — размер алфавита
 
*<tex>|\Sigma| = \sigma</tex>­ — размер алфавита
*<tex>|haystack| = h</tex> — длина текста
+
*<tex>|text| = t</tex> — длина текста
*<tex>|needle| = n</tex> — длина паттерна
+
*<tex>|pattern| = p</tex> — длина паттерна
 
*<tex>a</tex> — размер ответа(кол-во пар)
 
*<tex>a</tex> — размер ответа(кол-во пар)
 
*<tex>m</tex> — суммарная длина всех паттернов  
 
*<tex>m</tex> — суммарная длина всех паттернов  
Строка 44: Строка 58:
 
{|class="wikitable"
 
{|class="wikitable"
 
|+
 
|+
!width="25%"|Название !! width="5%"| Среднее !! width="5%"| Худшее !! width="5%"|Необходимость препроцессинга !! width="5%"| Дополнительная память !! width="10%"| Кол-во поисковых шаблонов !! width="10%"| Порядок сравнения !! width="35%"| Описание
+
!width="25%"|Название !! width="5%"| Среднее !! width="5%"| Худшее !! width="5%"|Препроцессинг !! width="5%"| Дополнительная память !! width="10%"| Кол-во поисковых шаблонов !! width="10%"| Порядок сравнения !! width="35%"| Описание
  
 
|- align = "center"
 
|- align = "center"
 
|[[Наивный алгоритм поиска подстроки в строке| Наивный алгоритм <br>(Brute Force algorithm)]]
 
|[[Наивный алгоритм поиска подстроки в строке| Наивный алгоритм <br>(Brute Force algorithm)]]
|<tex>O(n \cdot (h - n))</tex>
+
|<tex>O(p \cdot (t - p))</tex>
|<tex>O(n^2)</tex>
+
|<tex>O(t^2)</tex>
 
|
 
|
 
|<tex>O(1)</tex>
 
|<tex>O(1)</tex>
 
|Single
 
|Single
 
|Прямой
 
|Прямой
|Сравнение — «чёрный ящик». Если <tex>n</tex> достаточно мало по сравнению с <tex>h</tex>, то ассимптотика будет близкой к O(h), что позволяет использовать его на практике в случаях, когда паттерн много меньше текста (например, ctrl+F в браузерах)
+
|Сравнение — «чёрный ящик». Если <tex>p</tex> достаточно мало по сравнению с <tex>t</tex>, то асимптотика будет близкой к <tex>O(t)</tex>, что позволяет использовать его на практике в случаях, когда паттерн много меньше текста (например, Ctrl+F в браузерах)
  
 
|-align = "center"
 
|-align = "center"
 
|[[Z-функция| Поиск подстроки в строке с помощью Z-функции]]
 
|[[Z-функция| Поиск подстроки в строке с помощью Z-функции]]
|<tex>O(h)</tex>
+
|<tex>O(t)</tex>
|<tex>O(h)</tex>
+
|<tex>O(t)</tex>
|<tex>O(h + n)</tex>
+
|<tex>O(p + t)</tex>
|<tex>O(h + n)</tex>
+
|<tex>O(p)</tex>
 
|Single
 
|Single
 
|Прямой
 
|Прямой
|Сам алгоритм поиска описан на [http://e-maxx.ru/algo/z_function#7 e-maxx.ru:z-function]
+
|
  
 
|- align = "center"
 
|- align = "center"
 
|[[Поиск подстроки в строке с использованием хеширования. Алгоритм Рабина-Карпа| Алгоритм Рабина-Карпа <br>(Karp-Rabin algorithm)]]
 
|[[Поиск подстроки в строке с использованием хеширования. Алгоритм Рабина-Карпа| Алгоритм Рабина-Карпа <br>(Karp-Rabin algorithm)]]
|<tex>O(n + h)</tex>
+
|<tex>O(p + t)</tex>
|<tex>O(nh)</tex>
+
|<tex>O(pt)</tex>
|<tex>O(n)</tex>
+
|<tex>O(p)</tex>
 
|<tex>O(1)</tex>
 
|<tex>O(1)</tex>
 
|Single / Finite
 
|Single / Finite
Строка 78: Строка 92:
 
|- align = "center"
 
|- align = "center"
 
|[[Алгоритм Кнута-Морриса-Пратта| Алгоритм Кнута-Морриса-Пратта <br>(Knuth-Morris-Pratt algorith)]]
 
|[[Алгоритм Кнута-Морриса-Пратта| Алгоритм Кнута-Морриса-Пратта <br>(Knuth-Morris-Pratt algorith)]]
|<tex>O(n + h)</tex>
+
|<tex>O(p + t)</tex>
|<tex>O(n + h)</tex>
+
|<tex>O(p + t)</tex>
|<tex>O(n)</tex>
+
|<tex>O(p)</tex>
|<tex>O(n)</tex>
+
|<tex>O(p)</tex>
 
|Single
 
|Single
 
|Прямой
 
|Прямой
Строка 88: Строка 102:
 
|-align = "center"
 
|-align = "center"
 
|[[Алгоритм Колусси| Алгоритм Колусси <br>(Colussi algorithm)]]
 
|[[Алгоритм Колусси| Алгоритм Колусси <br>(Colussi algorithm)]]
|<tex>O(h)</tex>
+
|<tex>O(t)</tex>
|<tex>O(h)</tex>
+
|<tex>O(t)</tex>
|<tex>O(n)</tex>
+
|<tex>O(p)</tex>
|<tex>O(n)</tex>
+
|<tex>O(p)</tex>
 
|Single
 
|Single
 
|Прямой / Обратный
 
|Прямой / Обратный
Строка 98: Строка 112:
 
|- align = "center"
 
|- align = "center"
 
|[[Алгоритм Ахо-Корасик| Алгоритм Ахо-Корасик <br>(Aho–Corasick string matching algorithm)]]
 
|[[Алгоритм Ахо-Корасик| Алгоритм Ахо-Корасик <br>(Aho–Corasick string matching algorithm)]]
|<tex>O(m + h + a)</tex>
+
|<tex>O(m + t + a)</tex>
|<tex>O(h)</tex>
+
|<tex>O(t)</tex>
 
|<br> <tex>O(m)</tex>
 
|<br> <tex>O(m)</tex>
 
|<tex>O(m\sigma)</tex>
 
|<tex>O(m\sigma)</tex>
Строка 108: Строка 122:
 
|-align = "center"
 
|-align = "center"
 
|[[Алгоритм Shift-Or]]
 
|[[Алгоритм Shift-Or]]
|<tex>O(h)</tex> <br> w — размер машинного слова
+
|<tex>O(t)</tex>
|<tex>O(h \cdot ceil(n / w))</tex> <br> w — размер машинного слова
+
|<tex>O(t \cdot \dfrac{n}{w})</tex> <br> <tex>w</tex> — размер машинного слова
|<tex>O(n + \sigma)</tex>
+
|<tex>O(p + \sigma)</tex>
|<tex>O(n + \sigma)</tex>
+
|<tex>O(p + \sigma)</tex>
 
|Single
 
|Single
 
|Прямой
 
|Прямой
|Использует тот факт, что в современных процессорах битовые сдвиг и или являются атомарными. Эффективен, если n <= w. Иначе деградирует и по памяти, и по сложности
+
|Использует тот факт, что в современных процессорах битовые сдвиг и или являются атомарными. Эффективен, если <tex>p \leqslant w</tex>. Иначе деградирует и по памяти, и по сложности
  
 
|-align = "center"
 
|-align = "center"
 
|[[Алгоритм Бойера-Мура| Алгоритм Бойера-Мура <br>(Boyer-Moore algorithm)]]
 
|[[Алгоритм Бойера-Мура| Алгоритм Бойера-Мура <br>(Boyer-Moore algorithm)]]
|<tex>O(h)</tex>
+
|<tex>O(t)</tex>
|<tex>O(hn)</tex>
+
|<tex>O(pt)</tex>
|<tex>O(n + \sigma)</tex>
+
|<tex>O(p + \sigma)</tex>
|<tex>O(n + \sigma)</tex>
+
|<tex>O(p + \sigma)</tex>
 
|Single
 
|Single
 
|Обратный
 
|Обратный
Строка 128: Строка 142:
 
|-align = "center"
 
|-align = "center"
 
|[[Алгоритм поиска подстроки в строке с помощью суффиксного массива| Поиск подстроки в строке с помощью суффиксного массива <br>(Suffix array)]]
 
|[[Алгоритм поиска подстроки в строке с помощью суффиксного массива| Поиск подстроки в строке с помощью суффиксного массива <br>(Suffix array)]]
|<tex>O(n\log h)</tex>
+
|<tex>O(p\log t)</tex>
|<tex>O(n\log h)</tex>
+
|<tex>O(p\log t)</tex>
|<tex>O(h)</tex>
+
|<tex>O(t)</tex>
|<tex>O(h)</tex>
+
|<tex>O(t)</tex>
 
|Single
 
|Single
 
|Прямой
 
|Прямой
|Использует [[Суффиксный массив]]. Если использовать [[Алгоритм Касаи и др.| Largest common prefix (lcp)]], то можно увеличить асимптотику до <tex>O(n + log(h))</tex>. Суффиксный массив строится [[Алгоритм Каркайнена-Сандерса| алгоритмом Каркайнена-Сандерса]]
+
|Использует [[Суффиксный массив]]. Если использовать [[Алгоритм Касаи и др.| Largest common prefix (lcp)]], то можно уменьшить асимптотику до <tex>O(p + \log t)</tex>. Суффиксный массив можно строить[[Построение суффиксного массива с помощью стандартных методов сортировки| стандартными способами]] или [[Алгоритм Карккайнена-Сандерса| алгоритмом Карккайнена-Сандерса]]. Асимптотика приведена для построения суффиксного массива с помощью алгоритма Карккайнена-Сандерса
  
 
|-align = "center"
 
|-align = "center"
|[[Суффиксный бор| Поиск подстроки в строке с помощью суффиксного бора <br>(Suffix tree)]]
+
|[[Сжатое суффиксное дерево| Поиск подстроки в строке с помощью суффиксного дерева <br>(Suffix tree)]]
|<tex>O(n)</tex>
+
|<tex>O(p)</tex>
|<tex>O(n)</tex>
+
|<tex>O(p)</tex>
|<tex>O(h^2)</tex>
+
|<tex>O(t)</tex>
|<tex>O(h^2)</tex>
+
|<tex>O(t)</tex>
 +
|Single
 +
|Прямой
 +
|Позволяет выполнять поиск подстроки в строке за линейное время
 +
 
 +
|- align = "center"
 +
|[[Алгоритм Апостолико-Крочемора| Алгоритм Апостолико-Крочемора <br>( Apostolico-Crochemore algorithm)]]
 +
|<tex>O(t)</tex>
 +
|<tex>O(t)</tex>
 +
|<tex>O(p)</tex>
 +
|<tex>O(p)</tex>
 
|Single
 
|Single
 
|Прямой
 
|Прямой
|Можно использовать [[Сжатое суффиксное дерево]] для оптимизации расхода памяти
+
|В худшем случае выполнит <tex>\dfrac{3}{2} n</tex> сравнений.
 
|}
 
|}
  
Строка 151: Строка 175:
 
<references />
 
<references />
  
== Ссылки ==
+
== Источники информации ==
 
* [[wikipedia:ru:Поиск_подстроки | Википедия {{---}} Поиск подстроки]]
 
* [[wikipedia:ru:Поиск_подстроки | Википедия {{---}} Поиск подстроки]]
 
* [[Wikipedia:en:String_searching_algorithm | Википедия {{---}} String searching algorithm]]
 
* [[Wikipedia:en:String_searching_algorithm | Википедия {{---}} String searching algorithm]]

Текущая версия на 19:31, 4 сентября 2022

Поиск подстроки в строке (англ. String searching algorithm) — класс алгоритмов над строками, которые позволяют найти паттерн (pattern) в тексте (text).

Классификация алгоритмов поиска подстроки в строке

Сравнение — «чёрный ящик»

Во всех алгоритмах этого типа сравнение является «чёрным ящиком» для программиста.

Преимущества:

  • позволяет использовать стандартные функции сравнения участков памяти (man *cmp(3)), которые, зачастую, оптимизированы под конкретное железо.

Недостатки:

  • не выдается точка, в которой произошло несовпадение.

По порядку сравнения паттерна в тексте

Прямой

Преимущества:

  • отсутствие регрессии на «плохих» данных.

Недостатки:

  • не самая хорошая средняя асимптотическая сложность.

Обратный

Паттерн движется по тексту слева направо, но сравнение подстрок происходит справа налево.

Преимущества:

  • при несовпадении позволяет перемещать паттерн по строке сразу на несколько символов.

Недостатки:

  • производительность сильно зависит от данных.

Сравнение в необычном порядке

Специфические алгоритмы, основанные, как правило, на некоторых эмпирических наблюдениях над словарём.[1]

По количеству поисковых шаблонов

Сколько поисковых шаблонов может обработать алгоритм за один раз.

  • один шаблон (англ. single pattern algorithms)
  • конечное количество шаблонов (англ. finite set of patterns)
  • бесконечное количество шаблонов (англ. infinite number of patterns) (см. Теория формальных языков)

По необходимости препроцессинга текста

Виды препроцессинга:

Алгоритмы, использующие препроцессинг — одни из самых быстрых в этом классе.

Сравнение алгоритмов

  • [math]|\Sigma| = \sigma[/math]­ — размер алфавита
  • [math]|text| = t[/math] — длина текста
  • [math]|pattern| = p[/math] — длина паттерна
  • [math]a[/math] — размер ответа(кол-во пар)
  • [math]m[/math] — суммарная длина всех паттернов
Название Среднее Худшее Препроцессинг Дополнительная память Кол-во поисковых шаблонов Порядок сравнения Описание
Наивный алгоритм
(Brute Force algorithm)
[math]O(p \cdot (t - p))[/math] [math]O(t^2)[/math] [math]O(1)[/math] Single Прямой Сравнение — «чёрный ящик». Если [math]p[/math] достаточно мало по сравнению с [math]t[/math], то асимптотика будет близкой к [math]O(t)[/math], что позволяет использовать его на практике в случаях, когда паттерн много меньше текста (например, Ctrl+F в браузерах)
Поиск подстроки в строке с помощью Z-функции [math]O(t)[/math] [math]O(t)[/math] [math]O(p + t)[/math] [math]O(p)[/math] Single Прямой
Алгоритм Рабина-Карпа
(Karp-Rabin algorithm)
[math]O(p + t)[/math] [math]O(pt)[/math] [math]O(p)[/math] [math]O(1)[/math] Single / Finite Прямой Данный алгоритм использует хэширование, что снижает скорость в среднем. Можно модифицировать для поиска нескольких паттернов
Алгоритм Кнута-Морриса-Пратта
(Knuth-Morris-Pratt algorith)
[math]O(p + t)[/math] [math]O(p + t)[/math] [math]O(p)[/math] [math]O(p)[/math] Single Прямой Использует префикс-функцию
Алгоритм Колусси
(Colussi algorithm)
[math]O(t)[/math] [math]O(t)[/math] [math]O(p)[/math] [math]O(p)[/math] Single Прямой / Обратный Оптимизация Алгоритма Кнута-Морриса-Пратта использует как прямой, так и обратный обход
Алгоритм Ахо-Корасик
(Aho–Corasick string matching algorithm)
[math]O(m + t + a)[/math] [math]O(t)[/math]
[math]O(m)[/math]
[math]O(m\sigma)[/math] Finite Прямой Строит конечный автомат. Можно хранить таблицу переходов как индексный массив (array), а можно как Красно-черное дерево. В последнем случае уменьшится расход памяти, но ухудшится асимптотика
Алгоритм Shift-Or [math]O(t)[/math] [math]O(t \cdot \dfrac{n}{w})[/math]
[math]w[/math] — размер машинного слова
[math]O(p + \sigma)[/math] [math]O(p + \sigma)[/math] Single Прямой Использует тот факт, что в современных процессорах битовые сдвиг и или являются атомарными. Эффективен, если [math]p \leqslant w[/math]. Иначе деградирует и по памяти, и по сложности
Алгоритм Бойера-Мура
(Boyer-Moore algorithm)
[math]O(t)[/math] [math]O(pt)[/math] [math]O(p + \sigma)[/math] [math]O(p + \sigma)[/math] Single Обратный Считается наиболее быстрым из алгоритмов общего назначения. Использует эвристики. Существует большое количество оптимизаций[2]
Поиск подстроки в строке с помощью суффиксного массива
(Suffix array)
[math]O(p\log t)[/math] [math]O(p\log t)[/math] [math]O(t)[/math] [math]O(t)[/math] Single Прямой Использует Суффиксный массив. Если использовать Largest common prefix (lcp), то можно уменьшить асимптотику до [math]O(p + \log t)[/math]. Суффиксный массив можно строить стандартными способами или алгоритмом Карккайнена-Сандерса. Асимптотика приведена для построения суффиксного массива с помощью алгоритма Карккайнена-Сандерса
Поиск подстроки в строке с помощью суффиксного дерева
(Suffix tree)
[math]O(p)[/math] [math]O(p)[/math] [math]O(t)[/math] [math]O(t)[/math] Single Прямой Позволяет выполнять поиск подстроки в строке за линейное время
Алгоритм Апостолико-Крочемора
( Apostolico-Crochemore algorithm)
[math]O(t)[/math] [math]O(t)[/math] [math]O(p)[/math] [math]O(p)[/math] Single Прямой В худшем случае выполнит [math]\dfrac{3}{2} n[/math] сравнений.

Примечания

Источники информации