Алгоритм Хопкрофта — различия между версиями
Warrior (обсуждение | вклад) м (→Реализация) |
Warrior (обсуждение | вклад) м (→Время работы) |
||
Строка 191: | Строка 191: | ||
Пусть <tex>a \in \Sigma</tex> и <tex>p \in Q</tex>. Тогда количество пар <tex>(C,a)</tex>, где <tex>p \in C</tex>, которые мы удалим из очереди, не превосходит <tex>\log_2(|Q|)</tex> для фиксированных <tex>a</tex> и <tex>p</tex>. | Пусть <tex>a \in \Sigma</tex> и <tex>p \in Q</tex>. Тогда количество пар <tex>(C,a)</tex>, где <tex>p \in C</tex>, которые мы удалим из очереди, не превосходит <tex>\log_2(|Q|)</tex> для фиксированных <tex>a</tex> и <tex>p</tex>. | ||
|proof = | |proof = | ||
− | Рассмотрим пару <tex>(C,a)</tex>, где <tex>p \in C</tex>, которую мы удаляем из очереди. И пусть <tex>(C',a)</tex> следующая пара, где <tex>p \in C'</tex> и которую мы удалим из очереди. Согласно нашему алгоритму класс <tex>C'</tex> мог появиться в очереди только после операции <tex>replace</tex>. Но после первого же разбиения класса <tex>C</tex> на подклассы мы добавим в очередь пару <tex>(C'', a)</tex>, где <tex>C''</tex> меньший из образовавшихся подклассов, то есть <tex>|C''| \leqslant |C| \ / \ 2</tex>. Так же заметим, что <tex>C' \subseteq C''</tex>, а следовательно <tex>|C'| \leqslant |C| \ / \ 2</tex>. Но тогда таких пар не может быть больше, чем <tex>\log_2(|Q|)</tex>. | + | Рассмотрим пару <tex>(C,a)</tex>, где <tex>p \in C</tex>, которую мы удаляем из очереди. И пусть <tex>(C',a)</tex> следующая пара, где <tex>p \in C'</tex> и которую мы удалим из очереди. Согласно нашему алгоритму класс <tex>C'</tex> мог появиться в очереди только после операции <tex>\mathtt{replace}</tex>. Но после первого же разбиения класса <tex>C</tex> на подклассы мы добавим в очередь пару <tex>(C'', a)</tex>, где <tex>C''</tex> меньший из образовавшихся подклассов, то есть <tex>|C''| \leqslant |C| \ / \ 2</tex>. Так же заметим, что <tex>C' \subseteq C''</tex>, а следовательно <tex>|C'| \leqslant |C| \ / \ 2</tex>. Но тогда таких пар не может быть больше, чем <tex>\log_2(|Q|)</tex>. |
}} | }} | ||
Строка 215: | Строка 215: | ||
*Операции с множеством <tex>T'</tex> и разбиение классов на подклассы требуют <tex>O(\sum(|Inverse|))</tex> времени. Но по [[#Лемма4 | лемме(4)]] <tex>\sum(|Inverse|)</tex> не превосходит <tex>|\Sigma| |Q| \log_2(|Q|)</tex>, то есть данная часть алгоритма выполняется за <tex>O(|\Sigma| |Q| \log_2(|Q|))</tex>. | *Операции с множеством <tex>T'</tex> и разбиение классов на подклассы требуют <tex>O(\sum(|Inverse|))</tex> времени. Но по [[#Лемма4 | лемме(4)]] <tex>\sum(|Inverse|)</tex> не превосходит <tex>|\Sigma| |Q| \log_2(|Q|)</tex>, то есть данная часть алгоритма выполняется за <tex>O(|\Sigma| |Q| \log_2(|Q|))</tex>. | ||
− | *В [[#Лемма1 | лемме(1)]] мы показали, что в процессе работы алгоритма не может появится больше, чем <tex>2 |Q| - 1</tex> классов, из чего следует, что количество операций <tex>replace</tex> равно <tex>O(|\Sigma| |Q|)</tex>. | + | *В [[#Лемма1 | лемме(1)]] мы показали, что в процессе работы алгоритма не может появится больше, чем <tex>2 |Q| - 1</tex> классов, из чего следует, что количество операций <tex>\mathtt{replace}</tex> равно <tex>O(|\Sigma| |Q|)</tex>. |
Итого, получается, что время работы алгоритма Хопкрофта не превышает <tex> O(|\Sigma| |Q|) + O(|\Sigma| |Q|) + O(|\Sigma| |Q| \log_2(|Q|)) + O(|\Sigma| |Q|) = O(|\Sigma| |Q| \log_2(|Q|))</tex>. | Итого, получается, что время работы алгоритма Хопкрофта не превышает <tex> O(|\Sigma| |Q|) + O(|\Sigma| |Q|) + O(|\Sigma| |Q| \log_2(|Q|)) + O(|\Sigma| |Q|) = O(|\Sigma| |Q| \log_2(|Q|))</tex>. |
Версия 21:13, 22 декабря 2013
Пусть дан автомат, распознающий определенный язык. Требуется найти эквивалентный автомат с наименьшим количеством состояний.
Содержание
Минимизация ДКА
Если в ДКА существуют два эквивалентных состояния, то при их объединении мы получим эквивалентный ДКА, так как распознаваемый язык не изменится. Основная идея минимизации состоит в разбиении множества состояний на классы эквивалентности, полученные классы и будут состояниями минимизированного ДКА.
Простой алгоритм
Определение: |
Класс | разбивает класс по символу на и , если
Если класс
может быть разбит по символу , то он содержит хотя бы одну пару неэквивалентных состояний (так как существует строка которая их различает). Если класс нельзя разбить, то он состоит из эквивалентных состояний. Поэтому самый простой алгоритм состоит в том, чтобы разбивать классы текущего разбиения до тех пор пока это возможно.Итеративно строим разбиение множества состояний следующим образом.
- Первоначальное разбиение множества состояний — класс допускающих состояний и класс недопускающих состояний .
- Перебираются символы алфавита , все пары и помещаются в очередь.
- Из очереди извлекается пара , далее именуется как сплиттер.
- Все классы текущего разбиения разбиваются на 2 подкласса (один из которых может быть пустым). Первый состоит из состояний, которые по символу переходят в сплиттер, а второй из всех оставшихся.
- Те классы, которые разбились на два непустых подкласса, заменяются этими подклассами в разбиении, а также добавляются в очередь.
- Пока очередь не пуста, выполняем п.3 – п.5.
Псевдокод
— множество состояний ДКА. — множество терминальных состояний. — очередь пар . — разбиение множества состояний ДКА. — класс состояний ДКА.
for insert in insert in while pop( ) for in if and replace in with and for insert in insert in
Когда очередь
станет пустой, будет получено разбиение на классы эквивалентности, так как больше ни один класс невозможно разбить.Время работы
Время работы алгоритма оценивается как
, где — количество состояний ДКА, а — алфавит. Это следует из того, что если пара попала в очередь, и класс использовался в качестве сплиттера, то при последующем разбиении этого класса в очередь добавляется два класса и , причем можно гарантировать лишь следующее уменьшение размера: . Каждое состояние изначально принадлежит лишь одному классу в очереди, поэтому каждый переход в автомате будет просмотрен не более, чем раз. Учитывая, что ребер всего , получаем указанную оценку.Алгоритм Хопкрофта
Лемма: |
Класс и , тогда разбиение всех классов (текущее разбиение) по символу любыми двумя классами из эквивалентно разбиению всех классов с помощью по символу . |
Доказательство: |
Разобьем все классы с помощью и по символу , тогда для любого класса из текущего разбиения выполняется
А так как и то выполняется
Из этого следует, что разбиение всех классов с помощью
А так как и то выполняется
|
Алгоритм Хопкрофта отличается от простого тем, что иначе добавляет классы в очередь. Если класс
уже есть в очереди, то согласно лемме можно просто заменить его на и . Если класса нет в очереди, то согласно лемме в очередь можно добавить класс и любой из и , а так как для любого класса из текущего разбиения выполняется- or
то в очередь можно добавить только меньшее из
и .Реализация
— множество состояний ДКА. — множество терминальных состояний. — очередь из пар . — разбиение множества состояний ДКА. — класс состояний ДКА.
for insert in while pop( ) splits by for each in split( ) replace in with and for if in replace in with and else insert in
К сожалению, совсем не очевидно, как быстро находить множество
. С другой стороны, понятно, что , где — это множество классов текущего разбиения, из состояний которых в автомате существует переход в состояния сплиттера по символу .Модифицируем наш алгоритм: для каждой очередной пары
будем находить , и с каждым классом состояний из будем производить те же действия, что и раньше.for insert in while pop( ) for each in if splits by split( ) replace in with and for if in replace in with and else insert in
Каждая итерация цикла
не может быть выполнена быстрее, чем за для текущей пары . Покажем, как достичь этой оценки.Разбиение
можно поддерживать четырьмя массивами:- — номер класса, которому принадлежит состояние ;
- двусвязного списка, содержащего состояния, принадлежащие классу ; — указатель на голову
- — количество состояний в классе ;
- — указатель на состояние в списке .
Так как мы храним указатель, где находится состояние в двусвязном списке, то операцию перемещения состояния из одного класса в другой можно выполнить за
.Чтобы эффективно находить множество
, построим массив , который для состояния и символа в хранит множество состояний, из которых существует переход в по символу . Так как наш алгоритм не меняет изначальный автомат, то массив можно построить перед началом основной части алгоритма, что займет времени.Теперь научимся за
обрабатывать множество и разбивать классы. Для этого нам понадобится следующая структура:- — количество классов;
- — список из номеров классов, содержащихся во множестве ;
- — целочисленный массив, где хранит количество состояний из класса , которые содержатся в ;
- — массив, хранящий в номер нового класса, образовавшегося при разбиении класса .
Сам же алгоритм обработки
будет выглядеть так:for and if insert in for and if if move from to for
Для быстрой проверки, находится ли пара
в очереди , будем использовать массив размера , где , если пара содержится в очереди. Так как при разбиении очередного класса на подклассы и мы в действительности создаем лишь один новый класс, то замена класса в очереди на подклассы, образовавшиеся при разбиении, сводится лишь к взаимодействию с массивом . В результате каждая операция с очередью требует времени.Время работы
Лемма (1): |
Количество классов, созданных во время выполнения алгоритма, не превышает . |
Доказательство: |
Представим дерево, которое соответствует операциям разделения классов на подклассы. Корнем этого дерева является все множество состояний | . Листьями являются классы эквивалентности, оставшиеся после работы алгоритма. Так как дерево бинарное — каждый класс может породить лишь два новых, а количество листьев не может быть больше , то количество узлов этого дерева не может быть больше , что доказывает утверждение леммы.
Лемма (2): |
Количество итераций цикла не превышает . |
Доказательство: |
Для доказательства этого утверждения достаточно показать, что количество пар По добавленных в очередь не превосходит , так как на каждой итерации мы извлекаем одну пару из очереди. лемме(1) количество классов не превосходит . Пусть элемент текущего разбиения. Тогда количество пар не может быть больше . Отсюда следует, что всего различных пар, которые можно добавить в очередь, не превосходит . |
Лемма (3): |
Пусть и . Тогда количество пар , где , которые мы удалим из очереди, не превосходит для фиксированных и . |
Доказательство: |
Рассмотрим пару | , где , которую мы удаляем из очереди. И пусть следующая пара, где и которую мы удалим из очереди. Согласно нашему алгоритму класс мог появиться в очереди только после операции . Но после первого же разбиения класса на подклассы мы добавим в очередь пару , где меньший из образовавшихся подклассов, то есть . Так же заметим, что , а следовательно . Но тогда таких пар не может быть больше, чем .
Лемма (4): |
по всем итерациям цикла не превосходит . |
Доказательство: |
Пусть лемме(3) эта величина не превосходит . Просуммировав по всем и по всем мы получим утверждение леммы. | , и . Зафиксируем эту тройку. Заметим, что количество раз, которое встречается в при условии, что , совпадает с числом удаленных из очереди пар , где . Но по
Теорема: |
Время работы алгоритма Хопкрофта равно . |
Доказательство: |
Оценим, сколько времени занимает каждая часть алгоритма:
|
Литература
- Хопкрофт Д., Мотвани Р., Ульман Д. Введение в теорию автоматов, языков и вычислений, 2-е изд. : Пер. с англ. — М.: Издательский дом «Вильямс», 2002. — С. 177 — ISBN 5-8459-0261-4 (рус.)
- D. Gries. Describing an algorithm by Hopcroft. Technical Report TR-72-151, Cornell University, December 1972.
- Hang Zhou. Implementation of Hopcroft's Algorithm, 19 December 2009.