Алгоритм Ахо-Корасик

Задача алгоритма

Найти для каждого образца из заданного множества образцов (размером [math]k[/math]) все его вхождения в текст за время [math]O(m+n+a)[/math], где [math]m[/math] — суммарная длина образцов, [math]n[/math] — длина текста, [math]a[/math] — размер ответа (количество пар). В худшем случае [math]a=nk[/math], но на практике он встречается редко.

Шаг 1

Строим бор из образцов.
Построение выполняется за время [math]O(m)[/math], где [math]m[/math] — суммарная длина образцов.

Пример построенного бора

Бор для набора образцов {he, she, his, hers}:

Шаг 2

Превращаем бор в автомат.
Узлы бора становятся состояниями автомата; корень — начальное состояние.
Узлы бора, в которых заканчиваются образцы, становятся терминалами.

Для переходов по автомату заведём в узлах несколько функций:
1) [math]parent(u)[/math] — возвращает родителя вершины [math]u[/math];
2) [math]\pi(u) = \delta(\pi(parent(u)), c)[/math] — суффиксная ссылка; здесь [math]u[/math] — сын [math]parent(u)[/math] по символу [math]c[/math];
3) [math]\delta(u, c) = \begin{cases} v\text{, if $v$ is son by symbol $c$ in trie;}\\ root\text{, if $u$ is root and $u$ has no child by symbol $c$ in trie }\\ \delta(\pi(u), c)\text{, else.} \end{cases}[/math] — функция перехода.

Суффиксная ссылка [math]\pi(u) = v[/math], если [math][v][/math] — максимальный суффикс [math][u][/math], [math][v]\neq[u][/math]. Обозначение: [math][u][/math] — слово, приводящее в вершину [math]u[/math] в боре.
Функции перехода и суффиксные ссылки можно найти либо алгоритмом обхода в глубину с ленивыми вычислениями, либо с помощью алгоритма обхода в ширину.

Пример автомата Ахо-Корасик

Пунктиром обозначены суффиксные ссылки. Из вершин, для которых они не показаны, суффиксные ссылки идут в корень.

Шаг 3

Построение сжатых суффиксных ссылок.
[math]up(u) = \begin{cases} \pi(u)\text{, if $\pi(u)$ is terminal;}\\ \emptyset\text{, if $\pi(u)$ is root;}\\ up(\pi(u))\text{, else.} \end{cases}[/math] — сжатая суффиксная ссылка, т.е. ближайшее допускающее состояние (терминал) перехода по суффиксным ссылкам.

Сжатые суффиксные ссылки могут отыскиваться при помощи ленивой рекурсии.

Использование автомата

По очереди просматриваем символы текста. Для очередного символа [math]c[/math] переходим из текущего состояния [math]u[/math] в состояние, которое вернёт функция [math]\delta(u, c)[/math]. Оказавшись в новом состоянии, отмечаем по сжатым суффиксным ссылкам образцы, которые нам встретились и их позицию (если требуется). Если новое состояние является терминалом, то соответствующие ему образцы тоже отмечаем.
Примечание. Если требуется найти только первое вхождение образца в текст, то существенно ускорить работу алгоритма могут пометки о посещённости узла, т.е. если узел посещён, то не переходить по сжатым суффиксным ссылкам. Вместо хранения пометок можно просто сбрасывать сжатую суффиксную ссылку.

Пример реализации

Ниже представлена реализация на C++ некоторых функций (используется ленивая рекурсия).

Структура вершины:

struct Node {
    Node* son[SZ];        // массив сыновей; SZ - это размер алфавита
    Node* go[SZ];         // массив переходов (запоминаем переходы в ленивой рекурсии)
    Node* parent;         // вершина родитель
    Node* suffLink;       // суффиксная ссылка (вычисляем в ленивой рекурсии)
    Node* up;             // сжатая суффиксная ссылка
    char charToParent;    // символ, ведущий к родителю
    bool leaf;            // флаг, является ли вершина терминалом
    std::vector<int> leafPatternNumber;   // номера образцов, за которые отвечает терминал
};

Функция, для вычисления суффиксной ссылки:

Node* getSuffLink(Node* v) {
    if (!v->suffLink) {   // если суффиксная ссылка ещё не вычислена
        if (v == root || v->parent == root) {
            v->suffLink = root;
        } else {
            v->suffLink = getGo(getSuffLink(v->parent), v->charToParent);
        }
    }
    return v->suffLink;
}

Функция, для вычисления перехода:

Node* getGo(Node* v, char c) {
    if (!v->go[c]) {      // если переход по символу c ещё не вычислен
        if (v->son[c]) {
            v->go[c] = v->son[c];
        } else {
            v->go[c] = (v == root) ? root : getGo(getSuffLink(v), c);
        }
    }
    return v->go[c];
}

Функция, для вычисления сжатой суффиксной ссылки:

Node* getUp(Node* v) {
    if (!v->up) {         // если сжатая суффиксная ссылка ещё не вычислена
        if (getSuffLink(v)->leaf) {
            v->up = getSuffLink(v);
        } else if (getSuffLink(v) == root) {
            v->up = root;
        } else {
            v->up = getUp(getSuffLink(v));
        }
    }
    return v->up;
}

Функция, для добавление образца в бор:

void addString(std::string const& s, int patternNumber) {
    Node* cur = root;
    for (int i = 0; i < s.length(); ++i) {
        char c = s[i] - 'a';
        if (cur->son[c] == 0) {
            cur->son[c] = new Node;
            /* здесь также нужно обнулить указатели на переходы и сыновей */
            cur->son[c]->suffLink = 0;
            cur->son[c]->up = 0;
            cur->son[c]->parent = cur;
            cur->son[c]->charToParent = c;
            cur->son[c]->leaf = false;
        }
        cur = cur->son[c];
    }
    cur->leaf = true;
    cur->leafPatternNumber.push_back(patternNumber);
}

Функция, для процессинга текста (поиск, встречается образец или нет):

void processText(std::string const& t, std::vector<bool>& found) {   // found - это вектор, длина которого равна количеству образцов
    found.assign(w, false);   // w - количество образцов
    Node* cur = root;
    for (int i = 0; i < t.length(); ++i) {
        char c = t[i] - 'a';
        cur = getGo(cur, c);
        for (int j = 0; j < cur->leafPatternNumber.size(); ++j) {
            found[cur->leafPatternNumber[j]] = true;
        }
        /* В этом месте кода должен выполняться переход по сжатой суффиксной ссылке getUp(cur). Для вершины,
           обнаруженной по ней тоже ставим, что она найдена, затем повторяем для её сжатой суффиксной ссылки
           и так до корня. Хорошо ускорит программу сброс сжатых суффиксных ссылок для посещённых вершин. */
    }
}

Кроме этих функций требуется инициализация, но она имеет отношение только к кодированию, поэтому здесь приведена не будет.

Поиск шаблонов с масками

Постановка задачи

Пусть [math]\varphi[/math] — маска, обозначающая любой одиночный символ.Например, шаблон [math]ab\varphi\varphi c\varphi[/math], который содержит в себе три маски, встречается на позициях [math]2[/math] и [math]8[/math] строки [math]xabvccababcax[/math]. Необходимо найти для каждого заданного шаблона с масками находить все его вхождения в текст.
Для того, чтобы найти все вхождения в текст заданного шаблона с масками [math]Q[/math], для начала необходимо обнаружить вхождения в текст всех его безмасочных кусков.
Пусть [math]\{[/math][math]Q_1[/math], ..., [math]Q_k[/math][math]\}[/math] — набор подстрок [math]Q[/math], разделенных масками, и пусть [math]l_1[/math], ..., [math]l_k[/math] — их стартовые позиции в [math]Q[/math]. Например, шаблон [math]ab\varphi\varphi c\varphi[/math] содержит две подстроки без масок [math]ab[/math] и [math]c[/math] и их стартовые позиции соответственно [math]1[/math] и [math]5[/math]. [math]C[i][/math] — количество встретившихся в тексте безмасочных подстрок шаблона, который начинается в тексте на позиции [math]i[/math]. Тогда появление подстроки [math]Q_i[/math] в тексте на позиции [math]j[/math] будет означать возможное появление шаблона на позиции [math]j - l_i + 1[/math].

Алгоритм поиска

1. Используя алгоритм Ахо-Корасик, находим безмасочные подстроки шаблона [math]Q[/math]: когда находим [math]Q_i[/math] в тексте [math]T[/math] на позиции [math]j[/math], увеличиваем на единицу [math]C[j - l_i + 1][/math].
   
2. Каждое [math]i[/math], для которого [math]C[i] = k[/math], является стартовой позицией появления шаблона [math]Q[/math] в тексте.
   

Каждое появление безмасочной подстроки [math]Q[/math] увеличивает значение одной ячейки [math]C[/math] на [math]1[/math], и значение каждой ячейки может увеличиваться до [math]k[/math] раз, что будет означать появление шаблона в тексте на позиции этой ячейки. Поиск подстрок заданного шаблона с помощью алгоритма Ахо-Корасик выполняется за время [math]O(m+n+a)[/math], где [math]n[/math] — суммарная длина подстрок, то есть длина шаблона, [math]m[/math] — длина текста, [math]a[/math] — количество появлений подстрок шаблона. Далее просто надо пробежаться по массиву [math]C[/math] и просмотреть значения ячеек за время [math]O (m)[/math].

Источники

• http://e-maxx.ru/algo/aho_corasick
• http://aho-corasick.narod.ru/