Минимизация ДКА, алгоритм Хопкрофта (сложность O(n log n)) — различия между версиями
Строка 25: | Строка 25: | ||
===Псевдокод=== | ===Псевдокод=== | ||
− | *<tex>Q</tex> {{---}} множество состояний ДКА | + | *<tex>\mathtt{Q}</tex> {{---}} множество состояний ДКА, |
− | *<tex>F</tex> {{---}} множество терминальных состояний | + | *<tex>\mathtt{F}</tex> {{---}} множество терминальных состояний, |
− | *<tex>\delta</tex> {{---}} функция перехода (<tex>\delta (r,\ a)</tex> {{---}} состояние, в которое можно совершить переход из <tex>r</tex> по символу <tex>a</tex>) | + | *<tex>\mathtt{\delta}</tex> {{---}} функция перехода (<tex>\delta (r,\ a)</tex> {{---}} состояние, в которое можно совершить переход из <tex>r</tex> по символу <tex>a</tex>), |
− | *<tex>S</tex> {{---}} очередь пар <tex>\langle C,\ a \rangle</tex> | + | *<tex>\mathtt{S}</tex> {{---}} очередь пар <tex>\langle C,\ a \rangle</tex>, |
− | *<tex>P</tex> {{---}} разбиение множества состояний ДКА | + | *<tex>\mathtt{P}</tex> {{---}} разбиение множества состояний ДКА, |
− | *<tex>R</tex> {{---}} класс состояний ДКА. | + | *<tex>\mathtt{R}</tex> {{---}} класс состояний ДКА. |
<tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex>: | <tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex>: | ||
Строка 88: | Строка 88: | ||
<tex>\mathtt{pushSetsToQueue}(S,\ R_1,\ R_2,\ c)</tex> {{---}} функция, которая добавляет одну из пар <tex>\langle R_1, c \rangle</tex>, <tex>\langle R_2, c \rangle</tex> в очередь S. | <tex>\mathtt{pushSetsToQueue}(S,\ R_1,\ R_2,\ c)</tex> {{---}} функция, которая добавляет одну из пар <tex>\langle R_1, c \rangle</tex>, <tex>\langle R_2, c \rangle</tex> в очередь S. | ||
− | *<tex>Q</tex> {{---}} множество состояний ДКА | + | *<tex>\mathtt{Q}</tex> {{---}} множество состояний ДКА, |
− | *<tex>F</tex> {{---}} множество терминальных состояний | + | *<tex>\mathtt{F}</tex> {{---}} множество терминальных состояний, |
− | *<tex>\delta</tex> {{---}} функция перехода (<tex>\delta (r,\ a)</tex> - состояние, в которое можно совершить переход из <tex>r</tex> по символу <tex>a</tex>) | + | *<tex>\mathtt{\delta}</tex> {{---}} функция перехода (<tex>\delta (r,\ a)</tex> - состояние, в которое можно совершить переход из <tex>r</tex> по символу <tex>a</tex>), |
− | *<tex>S</tex> {{---}} очередь пар <tex>\langle C,\ a \rangle</tex> | + | *<tex>\mathtt{S}</tex> {{---}} очередь пар <tex>\langle C,\ a \rangle</tex>, |
− | *<tex>P</tex> {{---}} разбиение множества состояний ДКА | + | *<tex>\mathtt{P}</tex> {{---}} разбиение множества состояний ДКА, |
− | *<tex>R</tex> {{---}} класс состояний ДКА. | + | *<tex>\mathtt{R}</tex> {{---}} класс состояний ДКА. |
<tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex>: | <tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex>: | ||
Строка 134: | Строка 134: | ||
Классы разбиения <tex>P</tex> будем поддерживать с помощью множеств на [[Хеш-таблица | хэш-таблицах]] (само же разбиение - обычный вектор, индекс - номер класса). Это позволит нам эффективно переносить состояния из одного класса в другой (за O(1)). | Классы разбиения <tex>P</tex> будем поддерживать с помощью множеств на [[Хеш-таблица | хэш-таблицах]] (само же разбиение - обычный вектор, индекс - номер класса). Это позволит нам эффективно переносить состояния из одного класса в другой (за O(1)). | ||
− | *<tex>\mathtt{Class}[r]</tex> {{---}} номер класса, которому принадлежит состояние <tex>r</tex> | + | *<tex>\mathtt{Class}[r]</tex> {{---}} номер класса, которому принадлежит состояние <tex>r</tex>, |
− | *<tex>\mathtt{Queue}</tex> {{---}} очередь пар <tex>\langle C,\ a \rangle</tex>, где <tex>C</tex> {{---}} номер класса (сплиттера) | + | *<tex>\mathtt{Queue}</tex> {{---}} очередь пар <tex>\langle C,\ a \rangle</tex>, где <tex>C</tex> {{---}} номер класса (сплиттера), |
− | *<tex>\mathtt{InQueue}</tex> {{---}} двумерный массив булеанов, <tex>\mathtt{InQueue}[C][a] == </tex> ''true'', если <tex>\langle C,\ a \rangle</tex> находится в очереди <tex>\mathtt{Queue}</tex> | + | *<tex>\mathtt{InQueue}</tex> {{---}} двумерный массив булеанов, <tex>\mathtt{InQueue}[C][a] == </tex> ''true'', если <tex>\langle C,\ a \rangle</tex> находится в очереди <tex>\mathtt{Queue}</tex>, |
− | *<tex>\mathtt{Inv}[r][a]</tex> {{---}} массив состояний, из которых есть ребра по символу <tex>a</tex> в состояние <tex>r</tex> (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма) | + | *<tex>\mathtt{Inv}[r][a]</tex> {{---}} массив состояний, из которых есть ребра по символу <tex>a</tex> в состояние <tex>r</tex> (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма), |
Для обработки <tex>T'</tex> за <tex>O(|Q| + |\mathtt{Inverse}|)</tex> нам понадобится следующая структура: | Для обработки <tex>T'</tex> за <tex>O(|Q| + |\mathtt{Inverse}|)</tex> нам понадобится следующая структура: | ||
− | *<tex>\mathtt{Involved}</tex> {{---}} список из номеров классов, содержащихся во множестве <tex>T'</tex> | + | *<tex>\mathtt{Involved}</tex> {{---}} список из номеров классов, содержащихся во множестве <tex>T'</tex>, |
− | *<tex>\mathtt{Count}</tex> {{---}} целочисленный массив, где <tex>\mathtt{Count}[i]</tex> хранит количество состояний из класса <tex>i</tex>, которые содержатся в <tex>\mathtt{Inverse}</tex> | + | *<tex>\mathtt{Count}</tex> {{---}} целочисленный массив, где <tex>\mathtt{Count}[i]</tex> хранит количество состояний из класса <tex>i</tex>, которые содержатся в <tex>\mathtt{Inverse}</tex>, |
− | *<tex>\mathtt{Twin}</tex> {{---}} массив, хранящий в <tex>\mathtt{Twin}[i]</tex> номер нового класса, образовавшегося при разбиении класса <tex>i</tex>. | + | *<tex>\mathtt{Twin}</tex> {{---}} массив, хранящий в <tex>\mathtt{Twin}[i]</tex> номер нового класса, образовавшегося при разбиении класса <tex>i</tex>. |
<tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex>: | <tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex>: | ||
Строка 249: | Строка 249: | ||
Вообще, алгоритм можно реализовать и с меньшим количеством используемых структур (что делает код на порядок читабельнее). | Вообще, алгоритм можно реализовать и с меньшим количеством используемых структур (что делает код на порядок читабельнее). | ||
− | Заметим, что вообще нам не важен порядок доставания элементов из "очереди", потому вместо очереди <tex>\mathtt{Queue}</tex> и массива <tex>\mathtt{InQueue}</tex> можно обойтись | + | Заметим, что вообще нам не важен порядок доставания элементов из "очереди", потому вместо очереди <tex>\mathtt{Queue}</tex> и массива <tex>\mathtt{InQueue}</tex> можно обойтись одной хэш-таблицей, содержащей множество пар (оставим название <tex>\mathtt{Queue}</tex>). Притом операции изъятия и добавления в хэ-таблицу производятся за <tex>O(1)</tex>, потому ассимптотика не ухудшится. |
− | *<tex>\mathtt{Class}[r]</tex> {{---}} | + | Все классы разбиения будем по-прежнему хранить в векторе хэш-сетов <tex>\mathtt{P}</tex>. |
− | *<tex>\mathtt{Queue}</tex> {{---}} множество пар <tex>\langle C,\ a \rangle</tex> | + | |
− | *<tex>\mathtt{Inv}[r][a]</tex> {{---}} массив состояний, из которых есть ребра по символу <tex>a</tex> в состояние <tex>r</tex> (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма) | + | *<tex>\mathtt{Class}[r]</tex> {{---}} индекс класса в <tex>\mathtt{P}</tex>, которому принадлежит состояние <tex>r</tex>, |
− | *<tex>\mathtt{Involved}</tex> {{---}} | + | *<tex>\mathtt{Queue}</tex> {{---}} множество пар <tex>\langle C,\ a \rangle</tex>, |
+ | *<tex>\mathtt{Inv}[r][a]</tex> {{---}} массив состояний, из которых есть ребра по символу <tex>a</tex> в состояние <tex>r</tex> (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма), | ||
+ | *<tex>\mathtt{Involved}</tex> {{---}} ассоциативный массив из номеров классов в векторы из номеров вершин. | ||
<tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex>: | <tex>\mathtt{findEquivalenceClasses}(Q,\ F,\ \delta)</tex>: |
Версия 16:59, 11 января 2015
Пусть дан автомат, распознающий определенный язык. Требуется найти эквивалентный автомат с наименьшим количеством состояний.
Содержание
Минимизация ДКА
Если в ДКА существуют два эквивалентных состояния, то при их объединении мы получим эквивалентный ДКА, так как распознаваемый язык не изменится. Основная идея минимизации состоит в разбиении множества состояний на классы эквивалентности, полученные классы и будут состояниями минимизированного ДКА.
Простой алгоритм
Определение: |
Класс | разбивает класс по символу на и , если
Если класс
может быть разбит по символу , то он содержит хотя бы одну пару неэквивалентных состояний (так как существует строка которая их различает). Если класс нельзя разбить, то он состоит из эквивалентных состояний. Поэтому самый простой алгоритм состоит в том, чтобы разбивать классы текущего разбиения до тех пор пока это возможно.Итеративно строим разбиение множества состояний следующим образом.
- Первоначальное разбиение множества состояний — класс допускающих состояний и класс недопускающих состояний ( ).
- Перебираются символы алфавита , все пары и помещаются в очередь.
- Из очереди извлекается пара , далее именуется как сплиттер.
- Каждый класс текущего разбиения разбиваются на 2 подкласса (один из которых может быть пустым). Первый состоит из состояний, которые по символу переходят в сплиттер ( ), а второй из всех оставшихся ( ).
- Если
- В разбиении класс заменяется на свои подклассы и .
- Перебираются символы алфавита , все пары и помещаются в очередь.
разбился на два непустых подкласса (т.е. ).
- Пока очередь не пуста, выполняем п.3 – п.5.
Псевдокод
- — множество состояний ДКА,
- — множество терминальных состояний,
- — функция перехода ( — состояние, в которое можно совершить переход из по символу ),
- — очередь пар ,
- — разбиение множества состояний ДКА,
- — класс состояний ДКА.
: for push , into while pop from for in if and replace in with and for insert in insert in return
Когда очередь
станет пустой, будет получено разбиение на классы эквивалентности, так как больше ни один класс невозможно разбить.Время работы
Время работы алгоритма оценивается как
, где — количество состояний ДКА, а — алфавит. Это следует из того, что если пара попала в очередь, и класс использовался в качестве сплиттера, то при последующем разбиении этого класса в очередь добавляется два класса и , причем можно гарантировать лишь следующее уменьшение размера: . Каждое состояние изначально принадлежит лишь одному классу в очереди, поэтому каждый переход в автомате будет просмотрен не более, чем раз. Учитывая, что ребер всего , получаем указанную оценку.Алгоритм Хопкрофта
Рассмотрим алгоритм, позволяющий решить задачу быстрее, чем за
.Лемма: |
Класс и , тогда разбиение всех классов (текущее разбиение) по символу любыми двумя классами из эквивалентно разбиению всех классов с помощью по символу . |
Доказательство: |
Разобьем все классы с помощью и по символу , тогда для любого класса из текущего разбиения выполняетсяА так как и то выполняетсяИз этого следует, что разбиение всех классов с помощью А так как и то выполняется |
Алгоритм Хопкрофта отличается от простого тем, что иначе добавляет пары в очередь. После замены класса
в разбиении на его подклассы и , как и раньше перебираем символы алфавита .Если пара
уже есть в очереди, то согласно лемме можно просто заменить её на пары и .Если пары
нет в очереди, то достаточно добавить любую из пар и . Это следует из следующих соображений: может быть в разбиении только если в очередь были положены пары для , а поскольку в очереди пары нет, то мы её уже успели рассмотреть, следовательно классы из разбиения уже были разбиты по .Реализация
— функция, которая добавляет одну из пар , в очередь S.
- — множество состояний ДКА,
- — множество терминальных состояний,
- — функция перехода ( - состояние, в которое можно совершить переход из по символу ),
- — очередь пар ,
- — разбиение множества состояний ДКА,
- — класс состояний ДКА.
: for push , into while pop from for in if and replace in with and for return
Понятно, что нам нет никакой необходимости просматривать все классы в разбиении. Вполне достаточно рассмотреть лишь те классы, из состояний которых есть хотя бы одно ребро в состояния сплиттера. Обозначим множество таких классов за
(его нужно будет эффективно находить для каждой пары ).: for push , into while pop from for in if and replace in with and for return
Каждая итерация цикла может быть выполнена за для текущей пары . Покажем, как можно достичь этой оценки.
Классы разбиения хэш-таблицах (само же разбиение - обычный вектор, индекс - номер класса). Это позволит нам эффективно переносить состояния из одного класса в другой (за O(1)).
будем поддерживать с помощью множеств на- — номер класса, которому принадлежит состояние ,
- — очередь пар , где — номер класса (сплиттера),
- — двумерный массив булеанов, true, если находится в очереди ,
- — массив состояний, из которых есть ребра по символу в состояние (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма),
Для обработки
за нам понадобится следующая структура:- — список из номеров классов, содержащихся во множестве ,
- — целочисленный массив, где хранит количество состояний из класса , которые содержатся в ,
- — массив, хранящий в номер нового класса, образовавшегося при разбиении класса .
: for push , into true true while pop from for and if insert in for if size of insert into //Создадим пустой класс в разбиении size of //Запишем в индекс нового класса for and if remove from add to for if for false return
Стоит отметить, что массивы
аллоцируются ровно один раз при инициализации алгоритма.Осталось только реализовать
.: size of size of if false and push to true else push to true
Время работы
Лемма (1): |
Количество классов, созданных во время выполнения алгоритма, не превышает . |
Доказательство: |
Представим дерево, которое соответствует операциям разделения классов на подклассы. Корнем этого дерева является все множество состояний | . Листьями являются классы эквивалентности, оставшиеся после работы алгоритма. Так как дерево бинарное — каждый класс может породить лишь два новых, а количество листьев не может быть больше , то количество узлов этого дерева не может быть больше , что доказывает утверждение леммы.
Лемма (2): |
Количество итераций цикла не превышает . |
Доказательство: |
Для доказательства этого утверждения достаточно показать, что количество пар По добавленных в очередь не превосходит , так как на каждой итерации мы извлекаем одну пару из очереди. лемме(1) количество классов не превосходит . Пусть элемент текущего разбиения. Тогда количество пар , не может быть больше . Отсюда следует, что всего различных пар, которые можно добавить в очередь, не превосходит . |
Лемма (3): |
Пусть и . Тогда количество пар , где , которые мы удалим из очереди, не превосходит для фиксированных и . |
Доказательство: |
Рассмотрим пару | , где , которую мы удаляем из очереди. И пусть следующая пара, где и которую мы удалим из очереди. Согласно нашему алгоритму класс мог появиться в очереди только после операции . Но после первого же разбиения класса на подклассы мы добавим в очередь пару , где меньший из образовавшихся подклассов, то есть . Так же заметим, что , а следовательно . Но тогда таких пар не может быть больше, чем .
Лемма (4): |
по всем итерациям цикла не превосходит . |
Доказательство: |
Пусть лемме(3) эта величина не превосходит . Просуммировав по всем и по всем мы получим утверждение леммы. | , и . Зафиксируем эту тройку. Заметим, что количество раз, которое встречается в при условии, что , совпадает с числом удаленных из очереди пар , где . Но по
Теорема: |
Время работы алгоритма Хопкрофта равно . |
Доказательство: |
Оценим, сколько времени занимает каждая часть алгоритма:
|
Альтернативная реализация
Вообще, алгоритм можно реализовать и с меньшим количеством используемых структур (что делает код на порядок читабельнее).
Заметим, что вообще нам не важен порядок доставания элементов из "очереди", потому вместо очереди
и массива можно обойтись одной хэш-таблицей, содержащей множество пар (оставим название ). Притом операции изъятия и добавления в хэ-таблицу производятся за , потому ассимптотика не ухудшится.Все классы разбиения будем по-прежнему хранить в векторе хэш-сетов
.- — индекс класса в , которому принадлежит состояние ,
- — множество пар ,
- — массив состояний, из которых есть ребра по символу в состояние (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма),
- — ассоциативный массив из номеров классов в векторы из номеров вершин.
: for insert , into while take any from //Взять любую пару из , не удаляя (!) for and if add to for //Перебираем ключи if (size of size of ) insert into //Создадим пустой класс в разбиении size of //Запишем в индекс нового класса for in remove from add to for remove from return
: size of size of if in and insert into else insert into
Сравнение с алгоритмом из оригинальной статьи Хопкрофта
В оригинальной статье [1] использовалась дополнительная структура, которую мы обозначим, как , в будем хранить множество состояний, из которых есть ребро по символу в состояние (аналогично , только для классов).
реализуем так:
: //Рассмотреть случаи, , if false and push to insert into else push to insert into
Циклы
forand (...)
реализуются так:
forand (...)
Тогда время работы внутреннего цикла можно будет оценить как
. А реализация выбирает множество, на котором будет меньшим.Кроме того, вместо хэш-таблиц для хранения множеств ( , разбиение ) можно использовать комбинацию из двусвязного списка и вектора (добавление/удаление через список, поиск через вектор). Что и используется в оригинальной статье.
См. также
Примечания
Источники информации
- Хопкрофт Д., Мотвани Р., Ульман Д. Введение в теорию автоматов, языков и вычислений, 2-е изд. : Пер. с англ. — М.: Издательский дом «Вильямс», 2002. — С. 177 — ISBN 5-8459-0261-4 (рус.)
- D. Gries. Describing an algorithm by Hopcroft. Technical Report TR-72-151, Cornell University, December 1972.
- Hang Zhou. Implementation of Hopcroft's Algorithm, 19 December 2009.
- John Hopcroft An O(nlogn) algorithm for minimizing states in a finite automation