Алгоритм МакКрейта — различия между версиями

Материал из Викиконспекты
Перейти к: навигация, поиск
(Добавлен псевдокод)
(Исправлен псевдокод)
Строка 44: Строка 44:
 
|id=proposal_invariant
 
|id=proposal_invariant
 
|statement=Инвариант алгоритма сохраняется
 
|statement=Инвариант алгоритма сохраняется
|proof=Инвариант мог бы нарушиться только в случае, если бы не существовало вершины в суффиксной ссылке для <tex>head_{i-1}</tex>, но мы продолжили бы сканирование по ребру дальше и получили две вершины <tex>head_{i-1}.suf, head_i</tex> с неопределенными суффиксными ссылками.  
+
|proof=Инвариант мог бы нарушиться только в случае, если бы не существовало вершины в суффиксной ссылке для <tex>head_{i-1}</tex>, но мы продолжили бы сканирование по ребру дальше и получили две вершины <tex>head_{i-1}.suf,\ head_i</tex> с неопределенными суффиксными ссылками.  
Покажем, что это невозможно. Рассмотрим, что значит, что <tex>head_{i-1}.suf</tex> остановилась посередине ребра. Это означает, что все суффиксы <tex>s[j..n], j < i - 1</tex>, которые дошли до этого места, имеют совпадающие следующие символы, по определению <tex>head_{i-1}</tex> отличающиеся от символа суффикса <tex>s[i - 1..n]</tex>. Тогда и <tex>s[i..n]</tex> должен отличаться в этом символе, значит <tex>head_i = head_{i-1}.suf</tex>.
+
Покажем, что это невозможно. Рассмотрим, что значит, что <tex>head_{i-1}.suf</tex> остановилась посередине ребра. Это означает, что все суффиксы <tex>s[j..n],\ j < i - 1</tex>, которые дошли до этого места, имеют совпадающие следующие символы, по определению <tex>head_{i-1}</tex> отличающиеся от символа суффикса <tex>s[i - 1..n]</tex>. Тогда и <tex>s[i..n]</tex> должен отличаться в этом символе, значит <tex>head_i = head_{i-1}.suf</tex>.
 
}}
 
}}
  
 
== Псевдокод ==
 
== Псевдокод ==
 
В вершинах дерева <tex>Node</tex> будем хранить следующую информацию:
 
В вершинах дерева <tex>Node</tex> будем хранить следующую информацию:
* <tex>parent</tex> - предок;
+
* <tex>parent</tex> {{---}} предок
* <tex>start, end</tex> - позиции строки, соответствующие ребру до предка;
+
* <tex>start,\ end</tex> {{---}} позиции строки, соответствующие ребру до предка <tex>s[start, end]</tex>
* <tex>length</tex> - длина ребра до предка
+
* <tex>length</tex> {{---}} длина ребра до предка
* <tex>depth</tex> - глубина вершины в символах;
+
* <tex>depth</tex> {{---}} глубина вершины в символах
* <tex>suf</tex> - суффиксная ссылка;
+
* <tex>suf</tex> {{---}} суффиксная ссылка
* <tex>children[]</tex> - массив детей.
+
* <tex>children[]</tex> {{---}} массив детей
  
Конструктор будет иметь вид <code>Node(Node parent, '''int''' start, '''int''' end, '''int''' depth)</code>
+
Конструктор будет иметь вид <code>Node(Node parent, '''int''' start, '''int''' end, '''int''' depth)</code>.
 +
Пусть глобально известна строка <tex>s</tex> со специальным символом на конце, ее длина <tex>n</tex> и используемый алфавит <tex>\Sigma</tex>.
  
 
<code>
 
<code>
'''string''' s
+
  Node buildSuffixTree():
'''int''' n = s.length
 
 
 
  Node buildSuffixTree()
 
 
     superRoot = Node('''null''', 0, -1, 0)
 
     superRoot = Node('''null''', 0, -1, 0)
 +
    superRoot.suf = superRoot
 
     root = Node(superRoot, 0, -1, 0)
 
     root = Node(superRoot, 0, -1, 0)
 
     root.suf = superRoot
 
     root.suf = superRoot
     '''for''' c '''in''' <tex>\Sigma</tex>
+
     '''for''' c '''in''' <tex>\Sigma</tex>:
 
       superRoot.children[c] = root
 
       superRoot.children[c] = root
 
     head = root  
 
     head = root  
     '''for''' i = 1 '''to''' n
+
     '''for''' i = 1 '''to''' n:
 
       head = addSuffix(head, i)
 
       head = addSuffix(head, i)
 
     '''return''' root
 
     '''return''' root
  
  Node addSuffix(Node head, '''int''' start)
+
  Node addSuffix(Node head, '''int''' start):
 
     newHead = slowScan(fastScan(head), start)
 
     newHead = slowScan(fastScan(head), start)
 
     newLeaf = Node(newHead, start + newHead.depth, n, n - start + 1)
 
     newLeaf = Node(newHead, start + newHead.depth, n, n - start + 1)
Строка 80: Строка 79:
 
     '''return''' newHead
 
     '''return''' newHead
  
  Node fastScan(Node head)
+
  Node fastScan(Node head):
     '''if''' head.suf == '''null'''
+
    '''if''' head.depth == 0:
 +
      '''return''' head
 +
     '''if''' head.suf == '''null''':
 
       skipped = head.length
 
       skipped = head.length
 
       curPos = head.start
 
       curPos = head.start
 +
      '''if''' skipped > 0 '''and''' head.parent.depth == 0:
 +
          skipped--
 +
          curPos++
 
       curNode = head.parent.suf
 
       curNode = head.parent.suf
       '''while''' curNode.children[s[curPos]].length >= skipped
+
       '''while''' curNode.children[s[curPos]].length <tex>\leqslant</tex> skipped:
 
           curNode = curNode.children[s[curPos]]  
 
           curNode = curNode.children[s[curPos]]  
 
           skipped -= curNode.length
 
           skipped -= curNode.length
 
           curPos += curNode.length
 
           curPos += curNode.length
       '''if''' skipped > 0
+
       '''if''' skipped > 0:
 
           newNode = split(curNode, curNode.children[s[curPos]], skipped)
 
           newNode = split(curNode, curNode.children[s[curPos]], skipped)
          head.suf = newNode
+
      head.suf = newNode
 
     '''return''' head.suf
 
     '''return''' head.suf
  
  Node split(Node parent, Node child, '''int''' edgeLength)
+
  Node split(Node parent, Node child, '''int''' edgeLength):
     newNode = Node(parent, child.start, child.start + edgeLenth - 1, parent.depth + edgeLength)
+
     inserted = Node(parent, child.start, child.start + edgeLenth - 1, parent.depth + edgeLength)
     parent.children[s[child.start]] = newNode
+
     parent.children[s[child.start]] = inserted
 
     child.start += edgeLength
 
     child.start += edgeLength
 
     child.length -= edgeLength  
 
     child.length -= edgeLength  
     newNode.children[s[child.start]] = child
+
     inserted.children[s[child.start]] = child
     child.parent = newNode
+
     child.parent = inserted
     '''return''' newNode
+
     '''return''' inserted
  
  Node slowScan(Node node, '''int''' start)
+
  Node slowScan(Node node, '''int''' start):
 
     curNode = node
 
     curNode = node
 
     curPos = start + node.depth
 
     curPos = start + node.depth
     '''while''' ''true''
+
     '''while''' curNode.children[s[curPos]] != null:
      '''if''' curNode.children[s[curPos]] == '''null'''
 
          '''break'''
 
 
       child = curNode.children[s[curPos]]
 
       child = curNode.children[s[curPos]]
 
       edgePos = 0
 
       edgePos = 0
       '''while''' child.start + edgePos <= child.end '''and''' s[child.start + edgePos] == s[curPos]     
+
       '''while''' child.start + edgePos <tex>\leqslant</tex> child.end '''and''' s[child.start + edgePos] == s[curPos]:    
 
           curPos++
 
           curPos++
 
           edgePos++
 
           edgePos++
       '''if''' child.start + edgePos > child.end
+
       '''if''' child.start + edgePos > child.end:
 
           curNode = child
 
           curNode = child
       '''else'''
+
       '''else''':
 
           curNode = split(curNode, child, edgePos)
 
           curNode = split(curNode, child, edgePos)
 
           '''break'''           
 
           '''break'''           
Строка 144: Строка 146:
 
* [http://www.academia.edu/3146231/Algorithms_on_strings_trees_and_sequences_computer_science_and_computational_biology ''Gusfield, Dan'' , Algorithms on Strings, Trees and Sequences: Computer Science and Computational Biology // Cambridge University Press, {{---}} 1999. {{---}} ISBN: 0-521-58519-8]
 
* [http://www.academia.edu/3146231/Algorithms_on_strings_trees_and_sequences_computer_science_and_computational_biology ''Gusfield, Dan'' , Algorithms on Strings, Trees and Sequences: Computer Science and Computational Biology // Cambridge University Press, {{---}} 1999. {{---}} ISBN: 0-521-58519-8]
 
* [http://users-cs.au.dk/cstorm/courses/StrAlg_f12/slides/suffix-tree-construction.pdf ''C. N. Storm'', McCreight's suffix tree construction algorithm]
 
* [http://users-cs.au.dk/cstorm/courses/StrAlg_f12/slides/suffix-tree-construction.pdf ''C. N. Storm'', McCreight's suffix tree construction algorithm]
 +
* [http://pastie.org/9146207 Реализация на языке Java]
  
 
== См. также ==
 
== См. также ==

Версия 19:34, 6 мая 2014

Эта статья находится в разработке!

Алгоритм МакКрейта — алгоритм построения суффиксного дерева для заданной строки [math]s[/math] за линейное время. Отличается от алгоритма Укконена тем, что добавляет суффиксы в порядке убывания длины.

Историческая справка

Первым оптимальным по времени был алгоритм, предложенный Вайнером в 1973 году. Идея алгоритма была в нахождении первых символов суффикса, которые находились в уже построенном дереве. Суффиксы просматривались от самого короткого к самому длинному, а для быстрого поиска использовались по два массива размера алфавита на каждую вершину, что затрудняло как понимание алгоритма, так и его реализацию и эффективность, особенно в плане занимаемой памяти. МакКрейт в 1976 году предложил свой алгоритм, в котором порядок добавления суффиксов заменен на обратный, а для быстрого вычисления места, откуда нужно продолжить построение нового суффикса, достаточно суффиксной ссылки в каждой вершине. В 1995 году Укконен представил свою версию алгоритма, которая считается наиболее простой для понимания, а также, в отличие от алгоритмов Вейнера и МакКрейта, является online алгоритмом, способным строить неявное суффиксное дерево по мере прочтения строки, а затем превратить его в настоящее.

Теоретическое обоснование

Рассмотрим строку [math]s[/math] длины [math]n[/math], которая заканчивается специальным символом, не встречающимся больше в строке. Заметим, что если два суффикса имеют [math]lcp[/math] (largest common prefix) общих символов, то в построенном суффиксном дереве они будут иметь наименьшего общего предка на этой глубине. Будем рассматривать суффиксы в порядке убывания длины, тогда имеет смысл узнавать наибольшее [math]lcp[/math] с новым суффиксом среди всех суффиксов, добавленных раньше. Обозначим как [math]head_i[/math] — максимальный префикс [math]s[j..n][/math] и [math]s[i..n][/math] среди всех [math]j \lt i[/math].

Пусть мы знаем [math]head_i[/math] и место в дереве, которое ему соответствует. Если позиция находится на ребре, разрежем его, а потом добавим новую вершину. Считать [math]head_i[/math] по определению было бы очень затруднительно, но существует способ значительно сократить вычисления.

Лемма:
Пусть [math]head_i = s[i..i+h][/math], тогда [math]s[i+1..i+h][/math] — префикс [math]head_{i+1}[/math].
Доказательство:
[math]\triangleright[/math]
  • При [math]h=0[/math], очевидно, пустая строка является префиксом любой другой.
  • Пусть [math]h \gt 0[/math]. Из определения [math]head_i[/math] существует суффикс [math]s[j..n][/math], имеющий [math]h[/math] общих символов с [math]s[i..n][/math]. Тогда [math]s[j+1..n][/math] будет иметь с [math]s[i+1..n][/math] общий префикс длины [math]h-1[/math]. Поскольку любой общий префикс будет по определению также являться и префиксом [math]head_{i+1}[/math], получаем искомое утверждение.
[math]\triangleleft[/math]

Если нам известны суффиксные ссылки [math]u.suf[/math] для каждой вершины [math]u[/math], мы можем быстро перейти от позиции [math]head_i[/math] к ее суффиксу и продолжить сравнение символов оттуда. Если бы новая позиция [math]head_i[/math] всегда оказывалась существующей вершиной построенного дерева, этот алгоритм бы уже работал, но в реальности можно оказаться на середине ребра, для которой суффиксная ссылка неизвестна. Для нахождения ее суффиксной ссылки на следующей итерации мы сначала перейдем к предку, пройдем по суффиксной ссылке, а уже затем будем продолжать сравнение.

Алгоритм

Для удобства реализации вместе с корнем [math]root[/math] создадим вспомогательную вершину [math]superRoot[/math], обладающую свойствами:

  • [math]root.suf = superRoot[/math]
  • Для любого символа [math]c[/math] из вершины [math]superRoot[/math] есть ребро в [math]root[/math].

Будем поддерживать инвариант:

  1. Для всех вершин, кроме, возможно, последней добавленной [math]head_i[/math], известны суффиксные ссылки.
  2. Суффиксная ссылка всегда ведет в вершину, а не в середину ребра.

При добавлении каждого следующего суффикса будем выполнять следующие шаги:

  • Если суффиксная ссылка [math]head_{i-1}[/math] не определена:
    1. Поднимемся вверх к ее предку;
    2. Пройдем по суффиксной ссылке;
    3. Спустимся вниз на столько символов, сколько мы прошли вверх к предку (fast scanning).
    4. Если мы оказались посередине ребра, разрежем его и добавим вершину.
    5. Установим суффиксную ссылку для [math]head_{i-1}[/math]
  • Иначе просто пройдем по суффиксной ссылке.
  • Будем идти по дереву вниз, пока либо не будет перехода по символу, либо очередной символ на ребре не совпадет с символом нового суффикса (slow scanning)
  • Добавим ребро/разрежем существующее, запомним новую позицию [math]head_i[/math] и добавим оставшуюся часть суффикса в качестве листа.
Утверждение:
Инвариант алгоритма сохраняется
[math]\triangleright[/math]

Инвариант мог бы нарушиться только в случае, если бы не существовало вершины в суффиксной ссылке для [math]head_{i-1}[/math], но мы продолжили бы сканирование по ребру дальше и получили две вершины [math]head_{i-1}.suf,\ head_i[/math] с неопределенными суффиксными ссылками.

Покажем, что это невозможно. Рассмотрим, что значит, что [math]head_{i-1}.suf[/math] остановилась посередине ребра. Это означает, что все суффиксы [math]s[j..n],\ j \lt i - 1[/math], которые дошли до этого места, имеют совпадающие следующие символы, по определению [math]head_{i-1}[/math] отличающиеся от символа суффикса [math]s[i - 1..n][/math]. Тогда и [math]s[i..n][/math] должен отличаться в этом символе, значит [math]head_i = head_{i-1}.suf[/math].
[math]\triangleleft[/math]

Псевдокод

В вершинах дерева [math]Node[/math] будем хранить следующую информацию:

  • [math]parent[/math] — предок
  • [math]start,\ end[/math] — позиции строки, соответствующие ребру до предка [math]s[start, end][/math]
  • [math]length[/math] — длина ребра до предка
  • [math]depth[/math] — глубина вершины в символах
  • [math]suf[/math] — суффиксная ссылка
  • [math]children[][/math] — массив детей

Конструктор будет иметь вид Node(Node parent, int start, int end, int depth). Пусть глобально известна строка [math]s[/math] со специальным символом на конце, ее длина [math]n[/math] и используемый алфавит [math]\Sigma[/math].

Node buildSuffixTree():
   superRoot = Node(null, 0, -1, 0)
   superRoot.suf = superRoot
   root = Node(superRoot, 0, -1, 0)
   root.suf = superRoot
   for c in [math]\Sigma[/math]:
      superRoot.children[c] = root
   head = root 
   for i = 1 to n:
      head = addSuffix(head, i)
   return root
Node addSuffix(Node head, int start):
   newHead = slowScan(fastScan(head), start)
   newLeaf = Node(newHead, start + newHead.depth, n, n - start + 1)
   newHead.children[s[start + newHead.depth]] = newLeaf
   return newHead
Node fastScan(Node head):
   if head.depth == 0:
      return head
   if head.suf == null:
      skipped = head.length
      curPos = head.start
      if skipped > 0 and head.parent.depth == 0:
         skipped--
         curPos++
      curNode = head.parent.suf
      while curNode.children[s[curPos]].length [math]\leqslant[/math] skipped:
         curNode = curNode.children[s[curPos]] 
         skipped -= curNode.length
         curPos += curNode.length
      if skipped > 0:
         newNode = split(curNode, curNode.children[s[curPos]], skipped)
      head.suf = newNode
   return head.suf
Node split(Node parent, Node child, int edgeLength):
   inserted = Node(parent, child.start, child.start + edgeLenth - 1, parent.depth + edgeLength)
   parent.children[s[child.start]] = inserted
   child.start += edgeLength
   child.length -= edgeLength 
   inserted.children[s[child.start]] = child
   child.parent = inserted
   return inserted
Node slowScan(Node node, int start):
   curNode = node
   curPos = start + node.depth
   while curNode.children[s[curPos]] != null:
      child = curNode.children[s[curPos]]
      edgePos = 0
      while child.start + edgePos [math]\leqslant[/math] child.end and s[child.start + edgePos] == s[curPos]:    
         curPos++
         edgePos++
      if child.start + edgePos > child.end:
         curNode = child
      else:
         curNode = split(curNode, child, edgePos)
         break          
   return curNode

Асимптотическая оценка

В приведенном алгоритме используется константное число операций на добавление одного суффикса, не считая slow scanning и fast scanning.

Slow scanning делает [math]\left\vert head_i \right\vert - \left\vert head_{i-1} \right\vert + 1[/math] операций, что суммарно дает [math]\left\vert head_n \right\vert - \left\vert head_0 \right\vert + n = O(n)[/math] операций.

Fast scanning работает с целыми ребрами, поэтому будем использовать в качестве потенциала глубину в вершинах. Из структуры суффиксного дерева мы знаем, что суффиксная ссылка может уменьшить глубину вершины не более, чем на [math]1[/math], так что мы на каждой итерации поднимаемся не более, чем на [math]2[/math] — один раз к предку, а потом по суффиксной ссылке, что составляет [math]O(n)[/math] за весь алгоритм. Соответственно, спустимся мы тоже суммарно [math]O(n)[/math] раз, так как и максимальная глубина составляет [math]O(n)[/math].

Итоговая асимптотика алгоритма — [math]O(n)[/math].

Сравнение с другими алгоритмами

В сравнении с алгоритмом Вайнера:

  • Преимущества: каждая вершина хранит только суффиксную ссылку, а не массивы размера алфавита.
  • Недостатки: нет.

В сравнении с алгоритмом Укконена:

  • Преимущества: мы строим суффиксное дерево в явной форме, что может облегчить понимание алгоритма.
  • Недостатки: является offline алгоритмом, то есть требует для начала работы всю строку целиком.

Источники

См. также