Минимизация ДКА, алгоритм Хопкрофта (сложность O(n log n)) — различия между версиями
Строка 15: | Строка 15: | ||
Итеративно строим разбиение множества состояний следующим образом. | Итеративно строим разбиение множества состояний следующим образом. | ||
− | # Первоначальное разбиение множества состояний {{---}} класс допускающих состояний <tex>F</tex> и класс недопускающих состояний (<tex>\mathtt{P} \leftarrow \ | + | # Первоначальное разбиение множества состояний {{---}} класс допускающих состояний <tex>F</tex> и класс недопускающих состояний (<tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex>). |
# Перебираются символы алфавита <tex>c \in \Sigma</tex>, все пары <<tex>F,\ c</tex>> и <<tex>Q \setminus F, c</tex>> помещаются в очередь. | # Перебираются символы алфавита <tex>c \in \Sigma</tex>, все пары <<tex>F,\ c</tex>> и <<tex>Q \setminus F, c</tex>> помещаются в очередь. | ||
# Из очереди извлекается пара <<tex>C,\ a</tex>>, <tex>C</tex> далее именуется как сплиттер. | # Из очереди извлекается пара <<tex>C,\ a</tex>>, <tex>C</tex> далее именуется как сплиттер. | ||
Строка 32: | Строка 32: | ||
*<tex>R</tex> {{---}} класс состояний ДКА. | *<tex>R</tex> {{---}} класс состояний ДКА. | ||
− | <tex>\mathtt{findEquivalenceClasses}( | + | <tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex> |
− | <tex>\mathtt{P} \leftarrow \ | + | <tex>\mathtt{P} \leftarrow \{ F,\ Q \setminus F \}</tex> |
<tex>\mathtt{S} \leftarrow \varnothing </tex> | <tex>\mathtt{S} \leftarrow \varnothing </tex> | ||
'''for''' <tex>c \in \Sigma</tex> | '''for''' <tex>c \in \Sigma</tex> | ||
Строка 95: | Строка 95: | ||
*<tex>R</tex> {{---}} класс состояний ДКА. | *<tex>R</tex> {{---}} класс состояний ДКА. | ||
− | <tex>\mathtt{findEquivalenceClasses}( | + | <tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex> |
− | <tex>\mathtt{P} \leftarrow \ | + | <tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> |
<tex>\mathtt{S} \leftarrow \varnothing </tex> | <tex>\mathtt{S} \leftarrow \varnothing </tex> | ||
'''for''' <tex>c \in \Sigma</tex> | '''for''' <tex>c \in \Sigma</tex> | ||
Строка 112: | Строка 112: | ||
Понятно, что нам нет никакой необходимости просматривать все классы в разбиении. Вполне достаточно рассмотреть лишь те классы, из состояний которых есть хотя бы одно ребро в состояния сплиттера. Обозначим множество таких классов за T' (его нужно будет эффективно находить для каждой пары <<tex>C,\ a</tex>>). | Понятно, что нам нет никакой необходимости просматривать все классы в разбиении. Вполне достаточно рассмотреть лишь те классы, из состояний которых есть хотя бы одно ребро в состояния сплиттера. Обозначим множество таких классов за T' (его нужно будет эффективно находить для каждой пары <<tex>C,\ a</tex>>). | ||
− | <tex>\mathtt{findEquivalenceClasses}( | + | <tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex> |
− | <tex>\mathtt{P} \leftarrow \ | + | <tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> |
<tex>\mathtt{S} \leftarrow \varnothing </tex> | <tex>\mathtt{S} \leftarrow \varnothing </tex> | ||
'''for''' <tex>c \in \Sigma</tex> | '''for''' <tex>c \in \Sigma</tex> | ||
Строка 119: | Строка 119: | ||
'''while''' <tex>\mathtt{S} \ne \varnothing</tex> | '''while''' <tex>\mathtt{S} \ne \varnothing</tex> | ||
<<tex>C,\ a</tex>> <tex>\leftarrow</tex> '''pop''' '''from''' <tex>\mathtt{S}</tex> | <<tex>C,\ a</tex>> <tex>\leftarrow</tex> '''pop''' '''from''' <tex>\mathtt{S}</tex> | ||
− | <tex>\mathtt{Inverse} \leftarrow \{r \ | \ r \in | + | <tex>\mathtt{Inverse} \leftarrow \{r \ | \ r \in Q, \ \delta(r, a) \in C\}</tex> |
<tex>T' \leftarrow \{R \ | \ R \in \mathtt{P}, \ R \cap \mathtt{Inverse} \neq \varnothing\}</tex> | <tex>T' \leftarrow \{R \ | \ R \in \mathtt{P}, \ R \cap \mathtt{Inverse} \neq \varnothing\}</tex> | ||
'''for''' <tex>R</tex> '''in''' <tex>T'</tex> | '''for''' <tex>R</tex> '''in''' <tex>T'</tex> | ||
Строка 146: | Строка 146: | ||
*<tex>\mathtt{Twin}</tex> {{---}} массив, хранящий в <tex>\mathtt{Twin}[i]</tex> номер нового класса, образовавшегося при разбиении класса <tex>i</tex>. | *<tex>\mathtt{Twin}</tex> {{---}} массив, хранящий в <tex>\mathtt{Twin}[i]</tex> номер нового класса, образовавшегося при разбиении класса <tex>i</tex>. | ||
− | <tex>\mathtt{findEquivalenceClasses}( | + | <tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex> |
− | <tex>\mathtt{P} \leftarrow \ | + | <tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> |
'''for''' <tex>c \in \Sigma</tex> | '''for''' <tex>c \in \Sigma</tex> | ||
'''push''' <<tex>F,\ c</tex>>, <<tex>Q \setminus F,\ c</tex>> '''into''' <tex> \mathtt{Queue}</tex> | '''push''' <<tex>F,\ c</tex>>, <<tex>Q \setminus F,\ c</tex>> '''into''' <tex> \mathtt{Queue}</tex> |
Версия 12:50, 11 января 2015
Пусть дан автомат, распознающий определенный язык. Требуется найти эквивалентный автомат с наименьшим количеством состояний.
Содержание
Минимизация ДКА
Если в ДКА существуют два эквивалентных состояния, то при их объединении мы получим эквивалентный ДКА, так как распознаваемый язык не изменится. Основная идея минимизации состоит в разбиении множества состояний на классы эквивалентности, полученные классы и будут состояниями минимизированного ДКА.
Простой алгоритм
Определение: |
Класс | разбивает класс по символу на и , если
Если класс
может быть разбит по символу , то он содержит хотя бы одну пару неэквивалентных состояний (так как существует строка которая их различает). Если класс нельзя разбить, то он состоит из эквивалентных состояний. Поэтому самый простой алгоритм состоит в том, чтобы разбивать классы текущего разбиения до тех пор пока это возможно.Итеративно строим разбиение множества состояний следующим образом.
- Первоначальное разбиение множества состояний — класс допускающих состояний и класс недопускающих состояний ( ).
- Перебираются символы алфавита , все пары < > и < > помещаются в очередь.
- Из очереди извлекается пара < >, далее именуется как сплиттер.
- Каждый класс текущего разбиения разбиваются на 2 подкласса (один из которых может быть пустым). Первый состоит из состояний, которые по символу переходят в сплиттер ( ), а второй из всех оставшихся ( ).
- Если
- В разбиении класс заменяется на свои подклассы и .
- Перебираются символы алфавита , все пары < > и < > помещаются в очередь.
разбился на два непустых подкласса (т.е. ).
- Пока очередь не пуста, выполняем п.3 – п.5.
Псевдокод
- — множество состояний ДКА.
- — множество терминальных состояний.
- — функция перехода ( - состояние, в которое можно совершить переход из по символу )
- — очередь пар < >.
- — разбиение множества состояний ДКА.
- — класс состояний ДКА.
for push < >, < > into while < > pop from for in if and replace in with and for insert < > in insert < > in return
Когда очередь
станет пустой, будет получено разбиение на классы эквивалентности, так как больше ни один класс невозможно разбить.Время работы
Время работы алгоритма оценивается как
, где — количество состояний ДКА, а — алфавит. Это следует из того, что если пара < > попала в очередь, и класс использовался в качестве сплиттера, то при последующем разбиении этого класса в очередь добавляется два класса и , причем можно гарантировать лишь следующее уменьшение размера: . Каждое состояние изначально принадлежит лишь одному классу в очереди, поэтому каждый переход в автомате будет просмотрен не более, чем раз. Учитывая, что ребер всего , получаем указанную оценку.Алгоритм Хопкрофта
Рассмотрим алгоритм, позволяющий решить задачу быстрее, чем за
.Лемма: |
Класс и , тогда разбиение всех классов (текущее разбиение) по символу любыми двумя классами из эквивалентно разбиению всех классов с помощью по символу . |
Доказательство: |
Разобьем все классы с помощью и по символу , тогда для любого класса из текущего разбиения выполняетсяА так как и то выполняетсяИз этого следует, что разбиение всех классов с помощью А так как и то выполняется |
Алгоритм Хопкрофта отличается от простого тем, что иначе добавляет пары в очередь. После замены класса
в разбиении на его подклассы и , как и раньше перебираем символы алфавита .Если пара <
> уже есть в очереди, то согласно лемме можно просто заменить её на пары < > и < >.Если пары <
> нет в очереди, то достаточно добавить любую из пар < > и < >. Это следует из следующих соображений: может быть в разбиении только если в очередь были положены пары < > для , а поскольку в очереди пары < > нет, то мы её уже успели рассмотреть, следовательно классы из разбиения уже были разбиты по < >.Реализация
— функция, которая добавляет одну из пар < >, < > в очередь S.
- — множество состояний ДКА.
- — множество терминальных состояний.
- — функция перехода ( - состояние, в которое можно совершить переход из по символу )
- — очередь пар < >.
- — разбиение множества состояний ДКА.
- — класс состояний ДКА.
for push < >, < > into while < > pop from for in if and replace in with and for return
Понятно, что нам нет никакой необходимости просматривать все классы в разбиении. Вполне достаточно рассмотреть лишь те классы, из состояний которых есть хотя бы одно ребро в состояния сплиттера. Обозначим множество таких классов за T' (его нужно будет эффективно находить для каждой пары <
>).for push < >, < > into while < > pop from for in if and replace in with and for return
Каждая итерация цикла может быть выполнена за для текущей пары < >. Покажем, как можно достичь этой оценки.
Классы разбиения хэш-таблицах (само же разбиение - обычный вектор, индекс - номер класса). Это позволит нам эффективно переносить состояния из одного класса в другой (за O(1)).
будем поддерживать с помощью множеств на- — номер класса, которому принадлежит состояние
- — размер класса
- — очередь пар < >, где — номер класса (сплиттера)
- — двумерный массив булеанов, , если < > находится в очереди
- — массив состояний, из которых есть ребра по символу в состояние (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма)
Для обработки
за нам понадобится следующая структура:- — количество классов;
- — список из номеров классов, содержащихся во множестве ;
- — целочисленный массив, где хранит количество состояний из класса , которые содержатся в ;
- — массив, хранящий в номер нового класса, образовавшегося при разбиении класса .
for push < >, < > into while < > pop from for and if insert in for if //Пометим сразу, т.к. в следующем цикле классы уже будут менятся for and if if move from to in for if for return
Стоит отметить, что массивы
аллоцируются ровно один раз при инициализации алгоритма.Осталось только реализовать
.: if and push < > to else push < > to
Время работы
Лемма (1): |
Количество классов, созданных во время выполнения алгоритма, не превышает . |
Доказательство: |
Представим дерево, которое соответствует операциям разделения классов на подклассы. Корнем этого дерева является все множество состояний | . Листьями являются классы эквивалентности, оставшиеся после работы алгоритма. Так как дерево бинарное — каждый класс может породить лишь два новых, а количество листьев не может быть больше , то количество узлов этого дерева не может быть больше , что доказывает утверждение леммы.
Лемма (2): |
Количество итераций цикла не превышает . |
Доказательство: |
Для доказательства этого утверждения достаточно показать, что количество пар < По > добавленных в очередь не превосходит , так как на каждой итерации мы извлекаем одну пару из очереди. лемме(1) количество классов не превосходит . Пусть элемент текущего разбиения. Тогда количество пар < >, не может быть больше . Отсюда следует, что всего различных пар, которые можно добавить в очередь, не превосходит . |
Лемма (3): |
Пусть и . Тогда количество пар < >, где , которые мы удалим из очереди, не превосходит для фиксированных и . |
Доказательство: |
Рассмотрим пару < | >, где , которую мы удаляем из очереди. И пусть < > следующая пара, где и которую мы удалим из очереди. Согласно нашему алгоритму класс мог появиться в очереди только после операции . Но после первого же разбиения класса на подклассы мы добавим в очередь пару < >, где меньший из образовавшихся подклассов, то есть . Так же заметим, что , а следовательно . Но тогда таких пар не может быть больше, чем .
Лемма (4): |
по всем итерациям цикла не превосходит . |
Доказательство: |
Пусть лемме(3) эта величина не превосходит . Просуммировав по всем и по всем мы получим утверждение леммы. | , и . Зафиксируем эту тройку. Заметим, что количество раз, которое встречается в при условии, что , совпадает с числом удаленных из очереди пар < >, где . Но по
Теорема: |
Время работы алгоритма Хопкрофта равно . |
Доказательство: |
Оценим, сколько времени занимает каждая часть алгоритма:
|
Сравнение с алгоритмом из оригинальной статьи Хопкрофта
В оригинальной статье [1] использовалась дополнительная структура, которую мы обозначим, как , в будем хранить множество состояний, из которых есть ребро по символу в состояние (аналогично , только для классов).
реализуем так:
if and push < > to insert into else push < > to insert into
Циклы
forand (...)
реализуются так:
forand (...)
Тогда время работы внутреннего цикла можно будет оценить как
. А реализация выбирает множество, на котором будет меньшим.Кроме того, вместо хэш-таблиц для хранения множеств ( , разбиение ) можно использовать комбинацию из двусвязного списка и вектора (добавление/удаление через список, поиск через вектор). Что и используется в оригинальной статье.
Источники информации
- Хопкрофт Д., Мотвани Р., Ульман Д. Введение в теорию автоматов, языков и вычислений, 2-е изд. : Пер. с англ. — М.: Издательский дом «Вильямс», 2002. — С. 177 — ISBN 5-8459-0261-4 (рус.)
- D. Gries. Describing an algorithm by Hopcroft. Technical Report TR-72-151, Cornell University, December 1972.
- Hang Zhou. Implementation of Hopcroft's Algorithm, 19 December 2009.
- John Hopcroft An O(nlogn) algorithm for minimizing states in a finite automation