Минимизация ДКА, алгоритм Хопкрофта (сложность O(n log n))

Пусть дан автомат, распознающий определенный язык. Требуется найти эквивалентный автомат с наименьшим количеством состояний.

Минимизация ДКА

Если в ДКА существуют два эквивалентных состояния, то при их объединении мы получим эквивалентный ДКА, так как распознаваемый язык не изменится. Основная идея минимизации состоит в разбиении множества состояний на классы эквивалентности, полученные классы и будут состояниями минимизированного ДКА.

Простой алгоритм

Определение:

Класс [math]C[/math] разбивает класс [math]R[/math] по символу [math]a[/math] на [math]R_1[/math] и [math]R_2[/math], если [math]\forall r \in R_1 \,\,\, \delta(r, a) \in C[/math] [math]\forall r \in R_2 \,\,\, \delta(r, a) \notin C[/math]

Если класс [math]R[/math] может быть разбит по символу [math]a[/math], то он содержит хотя бы одну пару неэквивалентных состояний (так как существует строка которая их различает). Если класс нельзя разбить, то он состоит из эквивалентных состояний. Поэтому самый простой алгоритм состоит в том, чтобы разбивать классы текущего разбиения до тех пор пока это возможно.

Итеративно строим разбиение множества состояний следующим образом.

1. Первоначальное разбиение множества состояний — класс допускающих состояний [math]F[/math] и класс недопускающих состояний [math]Q \setminus F[/math].
2. Перебираются символы алфавита [math]c \in \Sigma[/math], все пары [math](F, c)[/math] и [math](Q \setminus F, c)[/math] помещаются в очередь.
3. Из очереди извлекается пара [math](C, a)[/math], [math]C[/math] далее именуется как сплиттер.
4. Все классы текущего разбиения разбиваются на 2 подкласса (один из которых может быть пустым). Первый состоит из состояний, которые по символу [math]a[/math] переходят в сплиттер, а второй из всех оставшихся.
5. Те классы, которые разбились на два непустых подкласса, заменяются этими подклассами в разбиении, а также добавляются в очередь.
6. Пока очередь не пуста, выполняем п.3 – п.5.

Псевдокод

[math]Q[/math] — множество состояний ДКА. [math]F[/math] — множество терминальных состояний. [math]S[/math] — очередь пар [math](C, a)[/math]. [math]P[/math] — разбиение множества состояний ДКА. [math]R[/math] — класс состояний ДКА.

 [math]\mathtt{P} \leftarrow \{ \mathtt{F, Q} \setminus \mathtt{F} \}[/math]
 [math]\mathtt{S} \leftarrow \varnothing [/math]
 for [math]c \in \Sigma[/math]
   insert [math](\mathtt{F}, c)[/math] in [math]\mathtt{S}[/math]
   insert [math](\mathtt{Q} \setminus \mathtt{F}, c)[/math] in [math]\mathtt{S}[/math]
 while [math] \mathtt{S} \ne \varnothing [/math]
   [math](C, a) \leftarrow[/math] pop([math]\mathtt{S}[/math])
   for [math]R[/math] in [math]\mathtt{P}[/math] 
     [math]R_1 = R \cap \delta^{-1} (C, a) [/math]
     [math]R_2 = R \setminus R_1[/math]
     if [math] R_1 \ne \varnothing [/math] and [math] R_2 \ne \varnothing [/math]
       replace [math]R[/math] in [math]\mathtt{P}[/math] with [math]R_1[/math] and [math]R_2[/math]
       for [math] c \in \Sigma [/math] 
         insert [math](R_1, c)[/math] in [math]\mathtt{S}[/math]
         insert [math](R_2, c)[/math] in [math]\mathtt{S}[/math]

Когда очередь [math]S[/math] станет пустой, будет получено разбиение на классы эквивалентности, так как больше ни один класс невозможно разбить.

Время работы

Время работы алгоритма оценивается как [math]O(|\Sigma| \cdot n^2)[/math], где [math] n [/math] — количество состояний ДКА, а [math] \Sigma [/math]— алфавит. Это следует из того, что если пара [math](C, a)[/math] попала в очередь, и класс [math]C[/math] использовался в качестве сплиттера, то при последующем разбиении этого класса в очередь добавляется два класса [math]C_1[/math] и [math]C_2[/math], причем можно гарантировать лишь следующее уменьшение размера: [math]|C| \ge |C_i| + 1[/math]. Каждое состояние изначально принадлежит лишь одному классу в очереди, поэтому каждый переход в автомате будет просмотрен не более, чем [math]O(n)[/math] раз. Учитывая, что ребер всего [math]O(|\Sigma| \cdot n)[/math], получаем указанную оценку.

Алгоритм Хопкрофта

Лемма:

Класс [math]R = R_1 \cup R_2[/math] и [math]R_1 \cap R_2 = \varnothing[/math], тогда разбиение всех классов (текущее разбиение) по символу [math]a[/math] любыми двумя классами из [math]R, R_1, R_2[/math] эквивалентно разбиению всех классов с помощью [math]R, R_1, R_2[/math] по символу [math]a[/math].

Доказательство:

[math]\triangleright[/math]

Разобьем все классы с помощью [math]R [/math] и [math] R_1[/math] по символу [math]a[/math], тогда для любого класса [math]B[/math] из текущего разбиения выполняется [math]\forall r \in B \,\,\, \delta(r, a) \in R[/math] and [math] \delta(r, a) \in R_1[/math] or [math]\forall r \in B \,\,\, \delta(r, a) \in R[/math] and [math] \delta(r, a) \notin R_1[/math] or [math]\forall r \in B \,\,\, \delta(r, a) \notin R[/math] and [math] \delta(r, a) \notin R_1[/math] А так как [math]R = R_1 \cup R_2[/math] и [math]R_1 \cap R_2 = \varnothing[/math] то выполняется [math]\forall r \in B \,\,\, \delta(r, a) \in R_2 [/math] or [math] \forall r \in B \,\,\, \delta(r, a) \notin R_2[/math] Из этого следует, что разбиение всех классов с помощью [math]R_2[/math] никак не повлияет на текущее разбиение. Аналогично доказывается и для разбиения с помощью [math]R [/math] и [math] R_2[/math] по символу [math]a[/math]. Разобьем все классы с помощью [math]R_1[/math] и [math] R_2[/math] по символу [math]a[/math], тогда для любого класса [math]B[/math] из текущего разбиения выполняется [math]\forall r \in B \,\,\, \delta(r, a) \in R_1[/math] and [math] \delta(r, a) \notin R_2[/math] or [math]\forall r \in B \,\,\, \delta(r, a) \notin R_1[/math] and [math] \delta(r, a) \in R_2[/math] or [math]\forall r \in B \,\,\, \delta(r, a) \notin R_1[/math] and [math] \delta(r, a) \notin R_2[/math] А так как [math]R = R_1 \cup R_2[/math] и [math]R_1 \cap R_2 = \varnothing[/math] то выполняется [math]\forall r \in B \,\,\, \delta(r, a) \in R [/math] or [math] \forall r \in B \,\,\, \delta(r, a) \notin R[/math] Из этого следует, что разбиение всех классов с помощью [math]R[/math] никак не повлияет на текущее разбиение.

[math]\triangleleft[/math]

Алгоритм Хопкрофта отличается от простого тем, что иначе добавляет классы в очередь. Если класс [math]R[/math] уже есть в очереди, то согласно лемме можно просто заменить его на [math]R_1[/math] и [math]R_2[/math]. Если класса [math]R[/math] нет в очереди, то согласно лемме в очередь можно добавить класс [math]R[/math] и любой из [math]R_1[/math] и [math]R_2[/math], а так как для любого класса [math]B[/math] из текущего разбиения выполняется

[math]\forall r \in B \,\,\, \delta(r, a) \in R [/math] or

[math] \forall r \in B \,\,\, \delta(r, a) \notin R[/math]

то в очередь можно добавить только меньшее из [math]R_1[/math] и [math]R_2[/math].

Реализация

[math]\mathtt{Q}[/math] — множество состояний ДКА. [math]\mathtt{F}[/math] — множество терминальных состояний. [math]\mathtt{S}[/math] — очередь из пар [math](C, a)[/math]. [math]\mathtt{P}[/math] — разбиение множества состояний ДКА.

 [math]\mathtt{P} \leftarrow \{ \mathtt{F, Q} \setminus \mathtt{F} \}[/math]
 [math]\mathtt{S} \leftarrow \varnothing [/math]
 for [math]c \in \Sigma[/math]
   insert [math] (\mathtt{min} (\mathtt{F, Q} \setminus \mathtt{F}), c)[/math] in [math]\mathtt{S}[/math]
 while [math]\mathtt{S} \ne \varnothing[/math]
   [math](C, a) \leftarrow[/math] pop([math]\mathtt{S}[/math])
   [math]T \leftarrow \{R \ | \ R \in \mathtt{P}, \ R[/math] splits by [math](C, a) \}[/math]
   for each [math]R[/math] in [math]T[/math]
     [math] R_1, R_2 \leftarrow [/math] split([math]R, C, a[/math])  
     replace [math]R[/math] in [math]\mathtt{P}[/math] with [math]R_1[/math] and [math]R_2[/math]
     for [math]c \in \Sigma[/math]
       if [math](R, c)[/math] in [math]\mathtt{S}[/math]
         replace [math] (R, c)[/math] in [math]\mathtt{S}[/math] with [math](R_1, c)[/math] and [math](R_2, c)[/math]
       else
         insert [math](\mathtt{min}(R_1, R_2), c)[/math] in [math]\mathtt{S}[/math]

К сожалению, совсем не очевидно, как быстро находить множество [math]T[/math]. С другой стороны, понятно, что [math]T \subset T'[/math], где [math]T'[/math] — это множество классов текущего разбиения, из состояний которых в автомате существует переход в состояния сплиттера [math]C[/math] по символу [math]a[/math].

Модифицируем наш алгоритм: для каждой очередной пары [math] (C, a) [/math] будем находить [math] T' [/math], и с каждым классом состояний из [math] T' [/math] будем производить те же действия, что и раньше.

 [math]\mathtt{P} \leftarrow \{ \mathtt{F, Q} \setminus \mathtt{F} \}[/math]
 [math]\mathtt{S} \leftarrow \varnothing [/math]
 for [math]c \in \Sigma[/math]
   insert [math](\mathtt{min} (\mathtt{F, Q} \setminus \mathtt{F}), c)[/math] in [math]\mathtt{S}[/math]
 while [math]\mathtt{S} \ne \varnothing[/math]
   [math](C, a) \leftarrow[/math] pop([math]\mathtt{S}[/math])
   [math]\mathtt{Inverse} \leftarrow \{r \ | \ r \in \mathtt{Q}, \ \delta(r, a) \in C\}[/math]
   [math]T' \leftarrow \{R \ | \ R \in \mathtt{P}, \ R \cap \mathtt{Inverse} \neq \varnothing\}[/math]
   for each [math]R[/math] in [math]T'[/math]
     if [math]R[/math] splits by [math](C, a)[/math]
       [math] R_1, R_2 \leftarrow [/math] split([math]R, C, a[/math])  
       replace [math]R[/math] in [math]\mathtt{P}[/math] with [math]R_1[/math] and [math]R_2[/math]
       for [math]c \in \Sigma[/math]
         if [math](R, c)[/math] in [math]\mathtt{S}[/math]
           replace [math](R, c)[/math] in [math]S[/math] with [math](R_1, c)[/math] and [math](R_2, c)[/math]
         else
           insert [math](\mathtt{min}(R_1, R_2), c)[/math] in [math]\mathtt{S}[/math]

Каждая итерация цикла [math] while [/math] не может быть выполнена быстрее, чем за [math] O(|\mathtt{Inverse}|) [/math] для текущей пары [math] (C,a)[/math]. Покажем, как достичь этой оценки.

Разбиение [math] \mathtt{P} [/math] можно поддерживать четырьмя массивами:

• [math]\mathtt{Class}[r][/math] — номер класса, которому принадлежит состояние [math]r[/math];
• [math]\mathtt{Part}[i][/math] — указатель на голову двусвязного списка, содержащего состояния, принадлежащие классу [math] i [/math];
• [math]\mathtt{Card}[i][/math] — количество состояний в классе [math]i[/math];
• [math]\mathtt{Place}[r][/math] — указатель на состояние [math]r[/math] в списке [math]\mathtt{Part[Class}[r]][/math].

Так как мы храним указатель, где находится состояние в двусвязном списке, то операцию перемещения состояния из одного класса в другой можно выполнить за [math]O(1)[/math].

Чтобы эффективно находить множество [math]\mathtt{Inverse}[/math], построим массив [math]\mathtt{Inv}[/math], который для состояния [math]r[/math] и символа [math]a[/math] в [math]\mathtt{Inv}[r][a][/math] хранит множество состояний, из которых существует переход в [math]r[/math] по символу [math]a[/math]. Так как наш алгоритм не меняет изначальный автомат, то массив [math]\mathtt{Inv}[/math] можно построить перед началом основной части алгоритма, что займет [math]O(|\Sigma| |Q|)[/math] времени.

Теперь научимся за [math]O(|\mathtt{Inverse}|)[/math] обрабатывать множество [math]T'[/math] и разбивать классы. Для этого нам понадобится следующая структура:

• [math]\mathtt{Counter}[/math] — количество классов;
• [math]\mathtt{Involved}[/math] — список из номеров классов, содержащихся во множестве [math]T'[/math];
• [math]\mathtt{Size}[/math] — целочисленный массив, где [math]\mathtt{Size}[i][/math] хранит количество состояний из класса [math]i[/math], которые содержатся в [math]\mathtt{Inverse}[/math];
• [math]\mathtt{Twin}[/math] — массив, хранящий в [math]\mathtt{Twin}[i][/math] номер нового класса, образовавшегося при разбиении класса [math]i[/math].

Сам же алгоритм обработки [math]T'[/math] будет выглядеть так:

 [math]\mathtt{Involved} \leftarrow \varnothing[/math]
 for [math]q \in C[/math] and [math]r \in \mathtt{Inv}[q][a][/math]
   [math]i = \mathtt{Class}[q][/math]
   if [math]\mathtt{Size}[i] == 0[/math]
     insert [math]i[/math] in [math]\mathtt{Involved}[/math]
   [math]\mathtt{Size}[i]++[/math]
 for [math]q \in C[/math] and [math]r \in \mathtt{Inv}[q][a][/math]
   [math]i = \mathtt{Class}[q][/math]
   if [math]\mathtt{Size}[i] \lt  \mathtt{Card}[i][/math]
     if [math]\mathtt{Twin}[i] == 0[/math]
       [math]\mathtt{Counter}++[/math]
       [math]\mathtt{Twin[i]} = \mathtt{Counter}[/math]
     move [math]r[/math] from [math]i[/math] to [math]\mathtt{Twin}[i][/math]
 for [math] j \in \mathtt{Involved}[/math]
   [math]\mathtt{Size}[j] = 0[/math]
   [math]\mathtt{Twin}[j] = 0[/math]

Для быстрой проверки, находится ли пара [math](C,a)[/math] в очереди [math]\mathtt{S}[/math], будем использовать массив [math]\mathtt{InQueue}[/math] размера [math]|Q| \times |\Sigma|[/math], где [math]\mathtt{InQueue}[C][a] = true[/math], если пара [math](C,a)[/math] содержится в очереди. Так как при разбиении очередного класса [math]R[/math] на подклассы [math]R_1[/math] и [math]R_2[/math] мы в действительности создаем лишь один новый класс, то замена класса [math]R[/math] в очереди на подклассы, образовавшиеся при разбиении, сводится лишь к взаимодействию с массивом [math]\mathtt{InQueue}[/math]. В результате каждая операция с очередью требует [math]O(1)[/math] времени.

Время работы

Лемма (1):

Количество классов, созданных во время выполнения алгоритма, не превышает [math]2 |Q| - 1[/math].

Доказательство:

[math]\triangleright[/math]

Представим дерево, которое соответствует операциям разделения классов на подклассы. Корнем этого дерева является все множество состояний [math]Q[/math]. Листьями являются классы эквивалентности, оставшиеся после работы алгоритма. Так как дерево бинарное — каждый класс может породить лишь два новых, а количество листьев не может быть больше [math]|Q|[/math], то количество узлов этого дерева не может быть больше [math]2 |Q| - 1[/math], что доказывает утверждение леммы.

[math]\triangleleft[/math]

Лемма (2):

Количество итераций цикла [math]while[/math] не превышает [math] 2 |\Sigma| |Q| [/math].

Доказательство:

[math]\triangleright[/math]

Для доказательства этого утверждения достаточно показать, что количество пар [math](C,a)[/math] добавленных в очередь [math]S[/math] не превосходит [math] 2 |\Sigma| |Q| [/math], так как на каждой итерации мы извлекаем одну пару из очереди. По лемме(1) количество классов не превосходит [math]2 |Q| - 1[/math]. Пусть [math]C[/math] элемент текущего разбиения. Тогда количество пар [math](C,a), \ a \in \Sigma[/math] не может быть больше [math]|\Sigma|[/math]. Отсюда следует, что всего различных пар, которые можно добавить в очередь, не превосходит [math] 2 |\Sigma| |Q| [/math].

[math]\triangleleft[/math]

Лемма (3):

Пусть [math]a \in \Sigma[/math] и [math]p \in Q[/math]. Тогда количество пар [math](C,a)[/math], где [math]p \in C[/math], которые мы удалим из очереди, не превосходит [math]\log_2(|Q|)[/math] для фиксированных [math]a[/math] и [math]p[/math].

Доказательство:

[math]\triangleright[/math]

Рассмотрим пару [math](C,a)[/math], где [math]p \in C[/math], которую мы удаляем из очереди. И пусть [math](C',a)[/math] следующая пара, где [math]p \in C'[/math] и которую мы удалим из очереди. Согласно нашему алгоритму класс [math]C'[/math] мог появиться в очереди только после операции [math]\mathtt{replace}[/math]. Но после первого же разбиения класса [math]C[/math] на подклассы мы добавим в очередь пару [math](C'', a)[/math], где [math]C''[/math] меньший из образовавшихся подклассов, то есть [math]|C''| \leqslant |C| \ / \ 2[/math]. Так же заметим, что [math]C' \subseteq C''[/math], а следовательно [math]|C'| \leqslant |C| \ / \ 2[/math]. Но тогда таких пар не может быть больше, чем [math]\log_2(|Q|)[/math].

[math]\triangleleft[/math]

Лемма (4):

[math]\sum |\mathtt{Inverse}|[/math] по всем итерациям цикла [math]while[/math] не превосходит [math]|\Sigma| |Q| \log_2(|Q|)[/math].

Доказательство:

[math]\triangleright[/math]

Пусть [math]x, y \in Q[/math], [math]a \in \Sigma[/math] и [math] \delta(x, a) = y[/math]. Зафиксируем эту тройку. Заметим, что количество раз, которое [math]x[/math] встречается в [math]\mathtt{Inverse}[/math] при условии, что [math] \delta(x, a) = y[/math], совпадает с числом удаленных из очереди пар [math](C, a)[/math], где [math]y \in C[/math]. Но по лемме(3) эта величина не превосходит [math]\log_2(|Q|)[/math]. Просуммировав по всем [math] x \in Q [/math] и по всем [math] a \in \Sigma[/math] мы получим утверждение леммы.

[math]\triangleleft[/math]

Теорема:

Время работы алгоритма Хопкрофта равно [math]O(|\Sigma| |Q| \log(|Q|)[/math].

Доказательство:

[math]\triangleright[/math]

Оценим, сколько времени занимает каждая часть алгоритма: Построение массива [math]\mathtt{Inv}[/math] занимает [math]O(|\Sigma| |Q|)[/math] времени. По второй лемме количество итераций цикла [math]while[/math] не превосходит [math]O(|\Sigma| |Q|)[/math]. Операции с множеством [math]T'[/math] и разбиение классов на подклассы требуют [math]O(\sum(|\mathtt{Inverse}|))[/math] времени. Но по лемме(4) [math]\sum(|\mathtt{Inverse}|)[/math] не превосходит [math]|\Sigma| |Q| \log_2(|Q|)[/math], то есть данная часть алгоритма выполняется за [math]O(|\Sigma| |Q| \log_2(|Q|))[/math]. В лемме(1) мы показали, что в процессе работы алгоритма не может появится больше, чем [math]2 |Q| - 1[/math] классов, из чего следует, что количество операций [math]\mathtt{replace}[/math] равно [math]O(|\Sigma| |Q|)[/math]. Итого, получается, что время работы алгоритма Хопкрофта не превышает [math] O(|\Sigma| |Q|) + O(|\Sigma| |Q|) + O(|\Sigma| |Q| \log_2(|Q|)) + O(|\Sigma| |Q|) = O(|\Sigma| |Q| \log_2(|Q|))[/math].

[math]\triangleleft[/math]

Литература

• Хопкрофт Д., Мотвани Р., Ульман Д. Введение в теорию автоматов, языков и вычислений, 2-е изд. : Пер. с англ. — М.: Издательский дом «Вильямс», 2002. — С. 177 — ISBN 5-8459-0261-4 (рус.)
• D. Gries. Describing an algorithm by Hopcroft. Technical Report TR-72-151, Cornell University, December 1972.
• Hang Zhou. Implementation of Hopcroft's Algorithm, 19 December 2009.