Минимизация ДКА, алгоритм Хопкрофта (сложность O(n log n)) — различия между версиями
(→Реализация) |
(→Реализация) |
||
Строка 94: | Строка 94: | ||
*<tex>\mathtt{R}</tex> {{---}} класс состояний ДКА. | *<tex>\mathtt{R}</tex> {{---}} класс состояний ДКА. | ||
− | '''function''' findEquivalenceClasses<tex>(Q,\ F,\ \delta)</tex>: ''' | + | '''function''' findEquivalenceClasses<tex>(Q,\ F,\ \delta)</tex>: '''vector''' |
<tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> | <tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> | ||
<tex>\mathtt{S} \leftarrow \varnothing </tex> | <tex>\mathtt{S} \leftarrow \varnothing </tex> | ||
Строка 121: | Строка 121: | ||
Понятно, что нам нет никакой необходимости просматривать все классы в разбиении. Вполне достаточно рассмотреть лишь те классы, из состояний которых есть хотя бы одно ребро в состояния сплиттера. Обозначим множество таких классов за <tex>T'</tex> (его нужно будет эффективно находить для каждой пары <tex>\langle C,\ a \rangle</tex>). | Понятно, что нам нет никакой необходимости просматривать все классы в разбиении. Вполне достаточно рассмотреть лишь те классы, из состояний которых есть хотя бы одно ребро в состояния сплиттера. Обозначим множество таких классов за <tex>T'</tex> (его нужно будет эффективно находить для каждой пары <tex>\langle C,\ a \rangle</tex>). | ||
− | <tex> | + | '''function''' findEquivalenceClasses<tex>(Q,\ F,\ \delta)</tex>: '''vector''' |
<tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> | <tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> | ||
<tex>\mathtt{S} \leftarrow \varnothing </tex> | <tex>\mathtt{S} \leftarrow \varnothing </tex> | ||
'''for''' <tex>c \in \Sigma</tex> | '''for''' <tex>c \in \Sigma</tex> | ||
− | + | push <tex>\langle F,\ c \rangle</tex>, <tex>\langle Q \setminus F,\ c \rangle</tex> '''into''' <tex> \mathtt{S}</tex> | |
'''while''' <tex>\mathtt{S} \ne \varnothing</tex> | '''while''' <tex>\mathtt{S} \ne \varnothing</tex> | ||
− | <tex>\langle C,\ a \rangle</tex> <tex>\leftarrow</tex> | + | <tex>\langle C,\ a \rangle</tex> <tex>\leftarrow</tex> pop '''from''' <tex>\mathtt{S}</tex> |
<tex>\mathtt{Inverse} \leftarrow \{r \ | \ r \in Q, \ \delta(r, a) \in C\}</tex> | <tex>\mathtt{Inverse} \leftarrow \{r \ | \ r \in Q, \ \delta(r, a) \in C\}</tex> | ||
− | <tex>T' \leftarrow \{R \ | \ R \in \mathtt{P}, \ R \cap \mathtt{Inverse} \neq \varnothing\}</tex> | + | <tex>T' \leftarrow \{R \ | \ R \in \mathtt{P}, \ R \cap \mathtt{Inverse} \neq \varnothing\}</tex> <font color=darkgreen>// находим классы, из состояний которых есть ребро в состояния сплиттера </font> |
− | '''for''' <tex>R</tex> '''in''' <tex>T'</tex> | + | '''for''' <tex>R</tex> '''in''' <tex>T'</tex> <font color=darkgreen>// перебираем только классы входящие в <tex>T'</tex></font> |
<tex> R_1, R_2 \leftarrow </tex> <tex>\mathtt{split}(R,\ C,\ a)</tex> | <tex> R_1, R_2 \leftarrow </tex> <tex>\mathtt{split}(R,\ C,\ a)</tex> | ||
'''if''' <tex> R_1 \ne \varnothing </tex> '''and''' <tex> R_2 \ne \varnothing </tex> | '''if''' <tex> R_1 \ne \varnothing </tex> '''and''' <tex> R_2 \ne \varnothing </tex> | ||
− | + | replace <tex>R</tex> '''in''' <tex>\mathtt{P}</tex> with <tex>R_1</tex> '''and''' <tex>R_2</tex> | |
'''if''' <tex>\langle R,\ c \rangle</tex> '''in''' <tex> \mathtt{S}</tex> | '''if''' <tex>\langle R,\ c \rangle</tex> '''in''' <tex> \mathtt{S}</tex> | ||
− | + | remove <tex>\langle R, c \rangle</tex> '''from''' <tex>\mathtt{S}</tex> | |
− | + | push <tex>\langle R_1, c \rangle</tex> '''into''' <tex>\mathtt{S}</tex> | |
− | + | push <tex>\langle R_2, c \rangle</tex> '''into''' <tex>\mathtt{S}</tex> | |
'''else''' | '''else''' | ||
'''if''' <tex> |\mathtt{P}[R_1]| \leqslant |\mathtt{P}[R_2]| </tex> | '''if''' <tex> |\mathtt{P}[R_1]| \leqslant |\mathtt{P}[R_2]| </tex> | ||
− | + | push <tex>\langle R_1, c \rangle</tex> '''into''' <tex>\mathtt{S}</tex> | |
'''else''' | '''else''' | ||
− | + | push <tex>\langle R_2, c \rangle</tex> '''into''' <tex>\mathtt{S}</tex> | |
'''return''' <tex>\mathtt{P}</tex> | '''return''' <tex>\mathtt{P}</tex> | ||
Строка 159: | Строка 159: | ||
*<tex>\mathtt{Twin}</tex> {{---}} массив, хранящий в <tex>\mathtt{Twin}[i]</tex> номер нового класса, образовавшегося при разбиении класса <tex>i</tex>, | *<tex>\mathtt{Twin}</tex> {{---}} массив, хранящий в <tex>\mathtt{Twin}[i]</tex> номер нового класса, образовавшегося при разбиении класса <tex>i</tex>, | ||
− | <tex> | + | '''function''' findEquivalenceClasses<tex>(Q,\ F,\ \delta)</tex>: '''vector''' |
<tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> | <tex>\mathtt{P} \leftarrow \{ F, \ Q \setminus F \}</tex> | ||
'''for''' <tex>c \in \Sigma</tex> | '''for''' <tex>c \in \Sigma</tex> | ||
− | + | push <tex>\langle F,\ c \rangle</tex>, <tex>\langle Q \setminus F,\ c \rangle</tex> '''into''' <tex> \mathtt{Queue}</tex> | |
'''while''' <tex>\mathtt{Queue} \ne \varnothing</tex> | '''while''' <tex>\mathtt{Queue} \ne \varnothing</tex> | ||
− | <tex>\langle C,\ a \rangle</tex> <tex>\leftarrow</tex> | + | <tex>\langle C,\ a \rangle</tex> <tex>\leftarrow</tex> pop '''from''' <tex>\mathtt{Queue}</tex> |
<tex>\mathtt{Involved} \leftarrow \varnothing</tex> | <tex>\mathtt{Involved} \leftarrow \varnothing</tex> | ||
'''for''' <tex>q \in C</tex> '''and''' <tex>r \in \mathtt{Inv}[q][a]</tex> | '''for''' <tex>q \in C</tex> '''and''' <tex>r \in \mathtt{Inv}[q][a]</tex> | ||
<tex>i = \mathtt{Class}[r]</tex> | <tex>i = \mathtt{Class}[r]</tex> | ||
'''if''' <tex>\mathtt{Count}[i] == 0</tex> | '''if''' <tex>\mathtt{Count}[i] == 0</tex> | ||
− | + | insert <tex>i</tex> '''into''' <tex>\mathtt{Involved}</tex> | |
<tex>\mathtt{Count}[i]++</tex> | <tex>\mathtt{Count}[i]++</tex> | ||
'''for''' <tex> i \in \mathtt{Involved}</tex> | '''for''' <tex> i \in \mathtt{Involved}</tex> | ||
'''if''' <tex>\mathtt{Count}[i] < |\mathtt{P}[i]|</tex> | '''if''' <tex>\mathtt{Count}[i] < |\mathtt{P}[i]|</tex> | ||
− | + | insert <tex>\{\}</tex> '''into''' <tex>\mathtt{P}</tex> <font color=darkgreen>// создадим пустой класс в разбиении <tex>\mathtt{P}</tex></font> | |
− | <tex>\mathtt{Twin}[i] = |\mathtt{P}|</tex> <font color=darkgreen>// | + | <tex>\mathtt{Twin}[i] = |\mathtt{P}|</tex> <font color=darkgreen> //запишем в <tex>\mathtt{Twin[i]}</tex> индекс нового класса</font> |
'''for''' <tex>q \in C</tex> '''and''' <tex>r \in \mathtt{Inv}[q][a]</tex> | '''for''' <tex>q \in C</tex> '''and''' <tex>r \in \mathtt{Inv}[q][a]</tex> | ||
<tex>i = \mathtt{Class}[r]</tex> | <tex>i = \mathtt{Class}[r]</tex> | ||
<tex>j = \mathtt{Twin}[i]</tex> | <tex>j = \mathtt{Twin}[i]</tex> | ||
'''if''' <tex>j \neq 0</tex> | '''if''' <tex>j \neq 0</tex> | ||
− | + | remove <tex>r</tex> '''from''' <tex>\mathtt{P}[i]</tex> | |
− | + | add <tex>r</tex> '''to''' <tex>\mathtt{P}[j]</tex> | |
'''for''' <tex> i \in \mathtt{Involved}</tex> | '''for''' <tex> i \in \mathtt{Involved}</tex> | ||
<tex>j = \mathtt{Twin}[i]</tex> | <tex>j = \mathtt{Twin}[i]</tex> | ||
'''if''' <tex> j \neq 0 </tex> | '''if''' <tex> j \neq 0 </tex> | ||
− | '''if''' <tex>|\mathtt{P}[j]| > |\mathtt{P}[i]|</tex> <font color=darkgreen>// | + | '''if''' <tex>|\mathtt{P}[j]| > |\mathtt{P}[i]|</tex> <font color=darkgreen>// парный класс должен быть меньшего размера</font> |
− | <tex>\mathtt{swap}(\mathtt{P}[i],\ \mathtt{P}[j])</tex> <font color=darkgreen>//swap за O(1) - просто переставить указатели</font> | + | <tex>\mathtt{swap}(\mathtt{P}[i],\ \mathtt{P}[j])</tex> <font color=darkgreen>// swap за <tex>\mathtt{O(1)}</tex> - просто переставить указатели</font> |
− | '''for''' <tex>r \in \mathtt{P}[j]</tex> <font color=darkgreen>// | + | '''for''' <tex>r \in \mathtt{P}[j]</tex> <font color=darkgreen> // обновляем номера классов для вершин, у которых они изменились</font> |
<tex>\mathtt{Class}[r] = j</tex> | <tex>\mathtt{Class}[r] = j</tex> | ||
'''for''' <tex>c \in \Sigma</tex> | '''for''' <tex>c \in \Sigma</tex> | ||
− | + | push <tex>\langle j, c \rangle</tex> '''to''' <tex>\mathtt{Queue}</tex> | |
<tex>\mathtt{Count}[i] = 0</tex> | <tex>\mathtt{Count}[i] = 0</tex> | ||
<tex>\mathtt{Twin}[i] = 0</tex> | <tex>\mathtt{Twin}[i] = 0</tex> | ||
Строка 198: | Строка 198: | ||
Также стоит отметить, что собственно наличие/отсутствие пары в очереди можно не проверять. Если для некоторого <tex>c</tex> пара <tex>\langle i, c \rangle</tex> уже была в очереди, то мы добавим её "вторую половинку" <tex>\langle \mathtt{Twin}[i], c \rangle</tex>. Если её в очереди не было, то мы вольны сами выбирать, какой подкласс добавлять в очередь, и таким образом добавляем опять же <tex>\langle \mathtt{Twin}[i], c \rangle</tex>. | Также стоит отметить, что собственно наличие/отсутствие пары в очереди можно не проверять. Если для некоторого <tex>c</tex> пара <tex>\langle i, c \rangle</tex> уже была в очереди, то мы добавим её "вторую половинку" <tex>\langle \mathtt{Twin}[i], c \rangle</tex>. Если её в очереди не было, то мы вольны сами выбирать, какой подкласс добавлять в очередь, и таким образом добавляем опять же <tex>\langle \mathtt{Twin}[i], c \rangle</tex>. | ||
− | Кроме того, вместо очереди можно использовать вообще произвольную | + | Кроме того, вместо очереди можно использовать вообще произвольную структуру, хранящую элементы, в том числе стэк, множество, т.к. порядок извлечения нам по сути не важен. |
===Время работы=== | ===Время работы=== |
Версия 19:46, 16 января 2017
Пусть дан автомат, распознающий определенный язык. Требуется найти эквивалентный автомат с наименьшим количеством состояний.
Содержание
Минимизация ДКА
Если в ДКА существуют два эквивалентных состояния, то при их объединении мы получим эквивалентный ДКА, так как распознаваемый язык не изменится. Основная идея минимизации состоит в разбиении множества состояний на классы эквивалентности, полученные классы и будут состояниями минимизированного ДКА.
Простой алгоритм
Определение: |
Класс | разбивает класс по символу на и , если
Если класс
может быть разбит по символу , то он содержит хотя бы одну пару неэквивалентных состояний (так как существует строка которая их различает). Если класс нельзя разбить, то он состоит из эквивалентных состояний. Поэтому самый простой алгоритм состоит в том, чтобы разбивать классы текущего разбиения до тех пор пока это возможно.Итеративно строим разбиение множества состояний следующим образом.
- Первоначальное разбиение множества состояний — класс допускающих состояний и класс недопускающих состояний ( ).
- Перебираются символы алфавита , все пары и помещаются в очередь.
- Из очереди извлекается пара , далее именуется как сплиттер.
- Каждый класс текущего разбиения разбиваются на 2 подкласса (один из которых может быть пустым). Первый состоит из состояний, которые по символу переходят в сплиттер ( ), а второй из всех оставшихся ( ).
- Если
- В разбиении класс заменяется на свои подклассы и .
- Перебираются символы алфавита , все пары и помещаются в очередь.
разбился на два непустых подкласса (т.е. ).
- Пока очередь не пуста, выполняем п.3 – п.5.
Псевдокод
- — множество состояний ДКА,
- — множество терминальных состояний,
- — функция перехода ( — состояние, в которое можно совершить переход из по символу ),
- — очередь пар ,
- — разбиение множества состояний ДКА,
- — класс состояний ДКА.
pair<set, set> function findEquivalenceClasses: for push , into while pop from for in if and replace in with and for insert in insert in return
Когда очередь
станет пустой, будет получено разбиение на классы эквивалентности, так как больше ни один класс невозможно разбить.Время работы
Время работы алгоритма оценивается как
, где — количество состояний ДКА, а — алфавит. Это следует из того, что если пара попала в очередь, и класс использовался в качестве сплиттера, то при последующем разбиении этого класса в очередь добавляется два класса и , причем можно гарантировать лишь следующее уменьшение размера: . Каждое состояние изначально принадлежит лишь одному классу в очереди, поэтому каждый переход в автомате будет просмотрен не более, чем раз. Учитывая, что ребер всего , получаем указанную оценку.Алгоритм Хопкрофта
Рассмотрим алгоритм, позволяющий решить задачу быстрее, чем за
.Лемма: |
Класс и , тогда разбиение всех классов (текущее разбиение) по символу любыми двумя классами из эквивалентно разбиению всех классов с помощью по символу . |
Доказательство: |
Разобьем все классы с помощью и по символу , тогда для любого класса из текущего разбиения выполняетсяА так как и то выполняетсяИз этого следует, что разбиение всех классов с помощью А так как и то выполняется |
Алгоритм Хопкрофта отличается от простого тем, что иначе добавляет пары в очередь. После замены класса
в разбиении на его подклассы и , как и раньше перебираем символы алфавита .Если пара
уже есть в очереди, то согласно лемме можно просто заменить её на пары и .Если пары
нет в очереди, то достаточно добавить любую из пар и . Это следует из следующих соображений: может быть в разбиении только если в очередь были положены пары для , а поскольку в очереди пары нет, то мы её уже успели рассмотреть, следовательно классы из разбиения уже были разбиты по .Реализация
- — множество состояний ДКА,
- — множество терминальных состояний,
- — функция перехода ( — состояние, в которое можно совершить переход из по символу ),
- — очередь пар ,
- — разбиение множества состояний ДКА,
- — класс состояний ДКА.
function findEquivalenceClasses: vector for push , into while pop from for in if and replace in with' and if in // смотрим, есть ли пара в очереди remove from // заменяем её на пары , если пара есть push into push into else if // вставляем любую иначе push into else push into return
Понятно, что нам нет никакой необходимости просматривать все классы в разбиении. Вполне достаточно рассмотреть лишь те классы, из состояний которых есть хотя бы одно ребро в состояния сплиттера. Обозначим множество таких классов за (его нужно будет эффективно находить для каждой пары ).
function findEquivalenceClasses: vector for push , into while pop from // находим классы, из состояний которых есть ребро в состояния сплиттера for in // перебираем только классы входящие в if and replace in with and if in remove from push into push into else if push into else push into return
Каждая итерация цикла может быть выполнена за для текущей пары . Покажем, как можно достичь этой оценки.
Классы разбиения хэш-таблицах (само же разбиение — обычный вектор, индекс — номер класса). Это позволит нам эффективно переносить состояния из одного класса в другой (за ).
будем поддерживать с помощью множеств на- — номер класса, которому принадлежит состояние ,
- — очередь пар , где — номер класса (сплиттера),
- — массив состояний, из которых есть ребра по символу в состояние (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма),
Для обработки
за нам понадобится следующая структура:- — список из номеров классов, содержащихся во множестве ,
- — целочисленный массив, где хранит количество состояний из класса , которые содержатся в ,
- — массив, хранящий в номер нового класса, образовавшегося при разбиении класса ,
function findEquivalenceClasses: vector for push , into while pop from for and if insert into for if insert into // создадим пустой класс в разбиении //запишем в индекс нового класса for and if remove from add to for if if // парный класс должен быть меньшего размера // swap за - просто переставить указатели for // обновляем номера классов для вершин, у которых они изменились for push to return
Стоит отметить, что массивы аллоцируются ровно один раз при инициализации алгоритма.
Также стоит отметить, что собственно наличие/отсутствие пары в очереди можно не проверять. Если для некоторого
пара уже была в очереди, то мы добавим её "вторую половинку" . Если её в очереди не было, то мы вольны сами выбирать, какой подкласс добавлять в очередь, и таким образом добавляем опять же . Кроме того, вместо очереди можно использовать вообще произвольную структуру, хранящую элементы, в том числе стэк, множество, т.к. порядок извлечения нам по сути не важен.Время работы
Лемма (1): |
Количество классов, созданных во время выполнения алгоритма, не превышает . |
Доказательство: |
Представим дерево, которое соответствует операциям разделения классов на подклассы. Корнем этого дерева является все множество состояний | . Листьями являются классы эквивалентности, оставшиеся после работы алгоритма. Так как дерево бинарное — каждый класс может породить лишь два новых, а количество листьев не может быть больше , то количество узлов этого дерева не может быть больше , что доказывает утверждение леммы.
Лемма (2): |
Количество итераций цикла не превышает . |
Доказательство: |
Для доказательства этого утверждения достаточно показать, что количество пар По добавленных в очередь не превосходит , так как на каждой итерации мы извлекаем одну пару из очереди. лемме(1) количество классов не превосходит . Пусть элемент текущего разбиения. Тогда количество пар , не может быть больше . Отсюда следует, что всего различных пар, которые можно добавить в очередь, не превосходит . |
Лемма (3): |
Пусть и . Тогда количество пар , где , которые мы удалим из очереди, не превосходит для фиксированных и . |
Доказательство: |
Рассмотрим пару | , где , которую мы удаляем из очереди. И пусть следующая пара, где и которую мы удалим из очереди. Согласно нашему алгоритму класс мог появиться в очереди только после операции . Но после первого же разбиения класса на подклассы мы добавим в очередь пару , где меньший из образовавшихся подклассов, то есть . Так же заметим, что , а следовательно . Но тогда таких пар не может быть больше, чем .
Лемма (4): |
по всем итерациям цикла не превосходит . |
Доказательство: |
Пусть лемме(3) эта величина не превосходит . Просуммировав по всем и по всем мы получим утверждение леммы. | , и . Зафиксируем эту тройку. Заметим, что количество раз, которое встречается в при условии, что , совпадает с числом удаленных из очереди пар , где . Но по
Теорема: |
Время работы алгоритма Хопкрофта равно . |
Доказательство: |
Оценим, сколько времени занимает каждая часть алгоритма:
|
Альтернативная реализация
Вообще, алгоритм можно реализовать и с меньшим количеством используемых структур (что делает код на порядок читабельнее).
Все классы разбиения будем по-прежнему хранить в векторе хэш-сетов
.- — индекс класса в , которому принадлежит состояние ,
- — очередь из пар ,
- — массив состояний, из которых есть ребра по символу в состояние (мы не меняем исходный автомат, потому может быть построен раз перед началом работы алгоритма),
- — ассоциативный массив из номеров классов в векторы из номеров вершин.
: for insert , into while pop from for and if add to for //Перебираем ключи if insert into //Создадим пустой класс в разбиении //Запишем в индекс нового класса for in remove from add to if //Парный класс должен быть меньшего размера //swap за O(1) - просто переставить указатели for //Обновляем номера классов для вершин, у которых они изменились for push into return
См. также
Источники информации
- Хопкрофт Д., Мотвани Р., Ульман Д. Введение в теорию автоматов, языков и вычислений, 2-е изд. : Пер. с англ. — М.: Издательский дом «Вильямс», 2002. — С. 177 — ISBN 5-8459-0261-4 (рус.)
- D. Gries. Describing an algorithm by Hopcroft. Technical Report TR-72-151, Cornell University, December 1972.
- Hang Zhou. Implementation of Hopcroft's Algorithm, 19 December 2009.
- John Hopcroft An O(nlogn) algorithm for minimizing states in a finite automation