Задача о наибольшей общей подпоследовательности

Определение:

Последовательность [math] Z = \left \langle z_1, z_2, \dots, z_k \right \rangle [/math] является подпоследовательностью (англ. subsequence) последовательности [math] X = \left \langle x_1, x_2, \dots, x_m \right \rangle [/math], если существует строго возрастающая последовательность [math] \left \langle i_1, i_2, \dots, i_k \right \rangle [/math] индексов [math] X [/math] таких, что для всех [math] j = 1, 2, \dots, k [/math] выполняется соотношение [math] x_{i_j} = z_j [/math].

Другими словами, подпоследовательность данной последовательности — это последовательность, из которой удалили ноль или больше элементов. Например, [math] Z = \left \langle B, C, D, B \right \rangle [/math] является подпоследовательностью последовательности [math] X = \left \langle A, B, C, B, D, A, B \right \rangle [/math], а соответствующая последовательность индексов имеет вид [math] \left \langle 2, 3, 5, 7 \right \rangle [/math].

Определение:

Последовательность [math] Z [/math] является общей подпоследовательностью (англ. common subsequence) последовательностей [math] X [/math] и [math] Y [/math], если [math] Z [/math] является подпоследовательностью как [math] X [/math], так и [math] Y [/math].

Задача:

Пусть имеются последовательности [math] X = \left \langle x_1, x_2, \dots, x_m \right \rangle [/math] и [math] Y = \left \langle y_1, y_2, \dots, y_n \right \rangle [/math]. Необходимо найти [math]LCS(X,Y)[/math]

Наивное решение

Переберем все различные подпоследовательности обеих строк и сравним их. Тогда искомая [math]LCS[/math] гарантированно найдётся, однако время работы алгоритма будет экспоненциально зависеть от длины исходных последовательностей.

Динамическое программирование

Для решения данной задачи используем Принцип оптимальности на префиксе.

Доказательство оптимальности

Теорема:

Пусть имеются последовательности [math] X = \left \langle x_1, x_2, \dots, x_m \right \rangle [/math] и [math] Y = \left \langle y_1, y_2, \dots, y_n \right \rangle [/math], а [math] Z = \left \langle z_1, z_2, \dots, z_k \right \rangle [/math] — их [math]LCS[/math]. Если [math] x_m = y_n [/math], то [math] z_k = x_m = y_n [/math] и [math] Z_{k - 1} [/math] — [math]LCS(X_{m - 1},Y_{n - 1})[/math] Если [math] x_m \neq y_n [/math], то из [math] z_k \neq x_m [/math] следует, что [math] Z [/math] — [math]LCS(X_{m - 1},Y)[/math] Если [math] x_m \neq y_n [/math], то из [math] z_k \neq y_n [/math] следует, что [math] Z [/math] — [math]LCS(X,Y_{n - 1})[/math]

Доказательство:

[math]\triangleright[/math]

Если бы выполнялось [math] z_k \neq x_m [/math], то к [math] Z [/math] можно было бы добавить элемент [math] x_m = y_n [/math], и тогда получилась бы общая подпоследовательность длины [math] k + 1 [/math], что противоречит предположению, что [math] Z [/math] — [math]LCS[/math]. Значит, выполняется [math] z_k = x_m = y_n [/math]. Значит, [math] Z_{k - 1} [/math] — общая подпоследовательность [math] X_{m - 1} [/math] и [math] Y_{n - 1} [/math]. Докажем от противного, что [math] Z_{k - 1} [/math] — [math]LCS[/math]: тогда есть общая подпоследовательность [math] W [/math], длина которой больше [math] k - 1 [/math]. Добавив к [math] W [/math] элемент [math] x_m = y_n [/math], получим [math]LCS(X,Y)[/math], длина которой больше [math] k [/math] (т.е. больше длины [math] Z [/math]), что приводит к противоречию. Если [math] z_k \neq x_m [/math], то [math] Z [/math] — общая подпоследовательность [math] X_{m - 1} [/math] и [math] Y [/math]. Пусть существует их общая подпоследовательность [math] W [/math], длина которой превышает [math] k [/math]. Она также является общей подпоследовательностью [math] X [/math] и [math] Y [/math], что противоречит предположению о том, что [math] Z [/math] (длины [math] k [/math]) — [math]LCS(X,Y)[/math]. Аналогично второму случаю.

[math]\triangleleft[/math]

Решение

Обозначим как [math] lcs[i][j] [/math] [math]LCS[/math] префиксов данных последовательностей, заканчивающихся в элементах с номерами [math] i [/math] и [math] j [/math] соответственно. Получается следующее рекуррентное соотношение:

[math] lcs[i][j] = \begin{cases} 0, & i = 0\text{ or }j = 0 \\ lcs[i - 1][j - 1] + 1, & x[i] = y[j] \\ \max(lcs[i][j - 1],\ lcs[i - 1][j]), & x[i] \neq y[j] \end{cases} [/math]

Очевидно, что сложность алгоритма составит [math] O(mn) [/math], где [math] m [/math] и [math] n [/math] — длины последовательностей.

Построение подпоследовательности

Для каждой пары элементов помимо длины [math]LCS[/math] соответствующих префиксов хранятся и номера последних элементов, участвующих в этой [math]LCS[/math].Таким образом, посчитав ответ, можно восстановить всю наибольшую общую подпоследовательность.

Псевдокод

[math] x [/math], [math] y [/math] — данные последовательности; [math] lcs[i][j] [/math] — [math]LCS[/math] для префикса длины [math] i [/math] последовательности [math] x [/math] и префикса длины [math] j [/math] последовательности [math] y [/math]; [math] prev[i][j] [/math] — пара индексов элемента таблицы, соответствующего оптимальному решению вспомогательной задачи, выбранной при вычислении [math] lcs[i][j] [/math].

  // подсчёт таблиц
int LCS(x: vector, y: vector):
   m = length(x)
   n = length(y)
   for i = 1 to m
     lcs[i][0] = 0
   for j = 0 to n
     lcs[0][j] = 0
   for i = 1 to m
     for j = 1 to n
       if x[i] == y[j]
         lcs[i][j] = lcs[i - 1][j - 1] + 1
         prev[i][j] = pair(i - 1, j - 1)
       else
         if lcs[i - 1][j] >= lcs[i][j - 1]
           lcs[i][j] = lcs[i - 1][j]
           prev[i][j] = pair(i - 1, j)
         else
           lcs[i][j] = lcs[i][j - 1]
           prev[i][j] = pair(i, j - 1)
 
  // вывод LCS, вызывается как printLCS(m, n)
 int printLCS(i: int, j: int):
   if i == 0 or j == 0  // пришли к началу LCS
     return
   if prev[i][j] == pair(i - 1, j - 1)  // если пришли в lcs[i][j] из lcs[i - 1][j - 1], то x[i] == y[j], надо вывести этот элемент
     printLCS(i - 1, j - 1)
     print x[i]
   else
     if prev[i][j] == pair(i - 1, j)
       printLCS(i - 1, j)
     else
       printLCS(i, j - 1)

Оптимизация для вычисления только длины [math]LCS[/math]

Заметим, что для вычисления [math] lcs[i][j] [/math] нужны только [math] i [/math]-ая и [math] (i-1) [/math]-ая строчки матрицы [math] lcs [/math]. Тогда можно использовать лишь [math] 2 \cdot min(m, n) [/math] элементов таблицы:

 int LCS2(x: vector, y: vector):
   if length(x) < length(y)  // в таблице будет length(y) столбцов, и если length(x) меньше, выгоднее поменять местами x и y
     swap(x, y)
   m = length(x)
   n = length(y)
   for j = 0 to n
     lcs[0][j] = 0
     lcs[1][j] = 0
   for i = 1 to m
     lcs[1][0] = 0
     for j = 1 to n
       lcs[0][j] = lcs[1][j]  // элемент, который был в a[1][j], теперь в предыдущей строчке
       if x[i] == y[j]
         lcs[1][j] = lcs[0][j - 1] + 1
       else
         if lcs[0][j] >= lcs[1][j - 1]
           lcs[1][j] = lcs[0][j]
         else
           lcs[1][j] = lcs[1][j - 1]
   // ответ — lcs[1][n]

Также можно заметить, что от [math] (i - 1) [/math]-ой строчки нужны только элементы с [math] (j - 1) [/math]-го столбца. В этом случае можно использовать лишь [math] min(m, n) [/math] элементов таблицы:

 int LCS3(x: vector, y: vector):
   if length(x) < length(y)  // в таблице будет length(y) столбцов, и если length(x) меньше, выгоднее поменять местами x и y
     swap(x, y)
   m = length(x)
   n = length(y)
   for j = 0 to n
     lcs[j] = 0
   d = 0  // d — дополнительная переменная, в ней хранится lcs[i - 1][j - 1]
          // в lcs[j], lcs[j + 1], …, lcs[n] хранятся lcs[i - 1][j], lcs[i - 1][j + 1], …, lcs[i - 1][n]
          // в lcs[0], lcs[1], …, lcs[j - 1] хранятся lcs[i][0], lcs[i][1], …, lcs[i][j - 1]
   for i = 1 to m
     for j = 1 to n
       tmp = lcs[j]
       if x[i] == y[j]
         lcs[j] = d + 1
       else
         if lcs[j] >= lcs[j - 1]
           lcs[j] = lcs[j]  // в lcs[j] и так хранится lcs[i - 1][j]
         else
           lcs[j] = lcs[j - 1]
       d = tmp
    // ответ — lcs[n]

Длина кратчайшей общей суперпоследовательности

Для двух подпоследовательностей [math]X_{m}[/math] и [math]Y_{n}[/math] длина кратчайшей общей суперпоследовательности равна [math] |SCS(X,Y)| = n + m - |LCS(X,Y)| [/math]

Решение для случая k строк

Найдем решение для 3 строк.

Задача:

Пусть имеются последовательности [math] X = \left \langle x_1, x_2, \dots, x_m \right \rangle [/math], [math] Y = \left \langle y_1, y_2, \dots, y_n \right \rangle [/math] и [math]Z = \left \langle z_1, z_2, \dots, z_k \right \rangle[/math]. Необходимо найти [math]LCS(X,Y,Z)[/math]

Наивное решение подсчёта [math]LCS[/math] нескольких строк при помощи последовательного нахождения [math]LCS[/math] двух строк и уменьшением набора строк на единицу, не срабатывает. Это доказывается следующим контрпримером. Даны три последовательности:

[math]X = \left \langle A, B, C, D, E\right \rangle [/math]

[math]Y = \left \langle D, E, A, B, C\right \rangle [/math]

[math]Z = \left \langle D, E, F, G, H\right \rangle [/math]

Подсчитаем [math]V = LCS(X,Y) = \left \langle A, B, C \right \rangle[/math]

[math]LCS(Z,V) = \emptyset[/math]

Это неверно, так как [math]LCS(X,Y,Z) = \left \langle D, E \right \rangle[/math]

Теорема:

Пусть имеются последовательности [math] X = \left \langle x_1, x_2, \dots, x_m \right \rangle [/math], [math] Y = \left \langle y_1, y_2, \dots, y_n \right \rangle [/math] и [math] Z = \left \langle z_1, z_2, \dots, z_k \right \rangle [/math], а [math] V = \left \langle v_1, v_2, \dots, v_h \right \rangle[/math] — их [math]LCS[/math]. Если [math]z_k = x_m = y_n[/math], то [math]z_k = x_m = y_n = v_h[/math] и [math] V_{h - 1} [/math] — [math]LCS(X_{m - 1},Y_{n - 1},Z_{k - 1})[/math] Если [math]z_k \neq x_m \neq y_n[/math], то из [math]z_k \neq v_h[/math] следует, что [math]V[/math] — [math]LCS(X_m,Y_n,Z_{k - 1})[/math] Если [math]z_k \neq x_m \neq y_n[/math], то из [math]y_n \neq v_h[/math] следует, что [math]V[/math] — [math]LCS(X_m,Y_{n - 1},Z_k)[/math] Если [math]z_k \neq x_m \neq y_n[/math], то из [math]x_m \neq v_h[/math] следует, что [math]V[/math] — [math]LCS(X_{m - 1},Y_n,Z_k)[/math]

Доказательство:

[math]\triangleright[/math]

Доказательство аналогично доказательству для двух последовательностей.

[math]\triangleleft[/math]

Решение

Обозначим как [math] lcs[i][j][l] [/math] наибольшую общую подпоследовательность префиксов данных последовательностей, заканчивающихся в элементах с номерами [math] i [/math], [math] j [/math] и [math] l [/math] соответственно. Получается следующее рекуррентное соотношение:

[math] lcs[i][j][l] = \begin{cases} 0, & i = 0\text{ or }j = 0\text{ or }l = 0 \\ lcs[i - 1][j - 1][l - 1] + 1, & x[i] = y[j] = z[l] \\ \max(lcs[i][j - 1][l],\ lcs[i - 1][j][l],\ lcs[i][j][l - 1]), & x[i] \neq y[j] \neq z[l] \end{cases} [/math]

Очевидно, что сложность алгоритма составит [math] O(mnk) [/math], где [math] m [/math], [math] n [/math] и [math] k [/math] — длины последовательностей.

Аналогичным образом задача решается для [math]k[/math] строк. Заполняется [math]k[/math]-мерная динамика.

Алгоритм Хиршберга

Задача:

Пусть имеются последовательности [math] X = \left \langle x_1, x_2, \dots, x_m \right \rangle [/math] и [math] Y = \left \langle y_1, y_2, \dots, y_n \right \rangle [/math]. Необходимо найти [math]LCS(X,Y)[/math] за время [math] O(nm) [/math] и [math] O(n + m) [/math] памяти.

Алгоритм

Не теряя общности, будем считать, что [math] m \geqslant n [/math]. Тогда разобьем последовательность [math] X [/math] на две равные части [math] x_1 \left [0 \dots \frac {m} {2} \right ] [/math] и [math] x_2 \left [\frac {m} {2} + 1 \dots m \right ] [/math]. Найдем [math] LCS [/math] для [math] x_1 [/math] и всех префиксов последовательности [math]Y[/math], аналогично — для развернутых последовательностей [math] x_2 [/math] и [math] Y [/math]. Стоит отметить, что для нахождения [math] LCS [/math] на всех префиксах достаточно одного квадратичного прохода, так как [math]i[/math]-ый элемент последней строки результирующей матрицы есть не что иное, как [math] LCS [/math] первой последовательности и префикса второй длины [math]i[/math]. Затем выберем такой индекс [math] j [/math], что [math] \left | LCS(x_1, y \left [0 \dots j \right ]) + LCS(reverse(x_2), reverse(y \left [j + 1 \dots n \right ])) \right | = max[/math]. Запустим алгоритм рекурсивно для пар [math](x_1, y \left [0 \dots j \right ])[/math] и [math](x_2, y \left [j + 1 \dots n \right ])[/math]. Будем продолжать до тех пор, пока в [math]X[/math] не останется ровно [math]1[/math] элемент, тогда достаточно проверить, входит ли он текущую часть [math]Y[/math], если входит, то добавим этот символ в ответ, если нет — вернем пустую строку. Таким образом, в результате работы алгоритма соберем последовательность, которая будет являться искомой.

Псевдокод

В данном примере [math] x, y [/math] — последовательности, [math] ans [/math] — вектор ответа. [math] LCS [/math] — функция, возвращающая последнюю строку матрицы [math] lcs [/math], для определения ответа на всех префиксах. Важно отметить, что для ее вычисления необходимо и достаточно хранить лишь две соседние строки матрицы [math] lcs [/math] в любой момент времени. Так как вопрос оптимальности используемой памяти является важным местом данного алгоритма, то передачу различных отрезков последовательностей стоит воспринимать, как скрытую передачу границ для хранящихся глобально данных.

void hirschberg(x: vector, y: vector):
   if y.size() <= 0
     return  
   if x.size() == 1
     if y.contains(x[0]) 
       ans.push(x[0])  // сохранение очередного элемента lcs 
     return
   mid = x.size() / 2
   f[] = LCS(x[0 .. mid], y)
   s[] = LCS(reverse(x[mid + 1 .. x.size()]), reverse(y)) 
   // s[i] хранит lcs для второй половины x и суффикса y[i..y.size()] 
   // это позволяет использовать общий индекс в качестве точки разделения
   max = s[0] 
   it_max = -1
   for j = 0 to y.size()
     if f[j] + s[y.size() - (j + 1)] > max 
        max = f[j] + s[y.size() - (j + 1)]
        it_max = j
   if f[y.size() - 1] > max
     it_max = y.size() - 1
   hirschberg(x[0 .. mid], y[0 .. it_max])
   hirschberg(x[mid + 1 .. x.size()], y[it_max + 1 .. y.size()])

Доказательство корректности

Осталось понять, что алгоритм находит нужную подпоследовательность. Не теряя общности, будем считать, что [math] lcs [/math] единственная, так как нам не важно какую из равных по длине подпоследовательностей выбирать. Тогда рассмотрим разделение на две части [math]X[/math], часть символов LCS (возможно нулевая) попадет в первую половину, оставшаяся — во вторую. Пусть [math] x_i [/math] последний символ из LCS в первой половине, тогда наш алгоритм выберет соответствующий ему [math] y_i [/math] в качестве точки разделения. То есть символы из [math] y [/math], которые связаны со второй половиной [math] x [/math], лежат правее [math] y_i [/math], в противном случае, либо [math] y_i [/math] не состоит в паре с [math] x_i [/math], либо [math] x_i [/math] не последний символ из [math] lcs [/math] в первой половине. Заметим, что если первая половина не содержит [math] lcs [/math], то точки разбиения не будет, для симметричного случая со второй половиной точкой разбиения будет [math] y_i [/math], которая включается в первую половину. Таким образом, мы свели поиск исходной [math] lcs [/math] к поиску двух независимых частей. Когда в [math] X [/math] останется [math]1[/math] символ, то возможны два варинта, либо он входит в [math] lcs [/math], либо нет, в чем мы убеждаемся линейным поиском, случай, когда последний [math] x [/math] не входит в [math] lcs [/math], возникает из-за того, что на каком-то шаге, вся подпоследовательность оказалась в одной из половин [math] X [/math].

Асимптотика

Рассмотрим временные затраты алгоритма. Рекурсия представима в виде бинарного дерева высоты не более [math] \log (m) [/math], так как она основана на разделении первой последовательности на две равные части на каждом шаге алгоритма. Оценим время выполнения для произвольной глубины такого дерева и просуммируем результат по всем возможным значениям парметра. На глубине [math] h [/math] находится [math] 2^h [/math] вершин с частью последовательности [math] x [/math] размера [math]\displaystyle\frac{m}{2^h} [/math] и частью [math] y [/math] длины [math] k_i [/math], где сумма семейства [math] k_i [/math] равна [math] n [/math]. Таким образом, получаем:

• На глубине h: [math]{\displaystyle \sum_{i = 0}^{2^h - 1} \limits\frac{m}{2^h} k_i = \frac{m}{2^h} \sum_{i = 0}^{2^h - 1} \limits k_i = \frac{mn}{2^h}}[/math]

• Сумммируем по глубинам: [math]{\displaystyle \sum_{i = 0}^{\log m}\limits\frac{mn}{2^i} = mn \sum_{i = 0}^{\log m}\limits \frac{1}{2^i} \lt mn \sum_{i = 0}^{\infty}\limits \frac{1}{2^i} = 2mn} [/math]

• Итоговая асимптотика алгоритма: [math] O(mn) [/math]

Проанализируем затраты на память. Три глобальные последовательности (две исходные и одна для ответа), к которым мы обращаемся внутри алгоритма, требуют [math] m + n + \min (m, n) [/math] памяти. Дополнительно на каждом шаге рекурсии вызываются [math]2[/math] функции [math] LCS [/math], которые суммарно требуют [math] 4k_i [/math], где [math] k_i [/math] — длина части [math] y [/math] в текущий момент, так как для нахождения [math] LCS [/math] достаточно двух строк матрицы [math] lcs [/math]. Вспомогательные массивы удаляются перед рекурсивным вызовом, таким образом, общие затраты равны сумме размеров массивов на одной глубине рекурсии, то есть:

• На глубине h: [math]{\displaystyle\sum_{i = 0}^{2^h - 1}\limits 4 k_i = 4 \sum_{i = 0}^{2^h - 1}\limits k_i = 4n} [/math]

• Итого: [math]{n + m + \min(m, n) + 4n = O(n + m)}[/math]

См. также

• Задача о наибольшей возрастающей подпоследовательности
• Наибольшая общая возрастающая подпоследовательность
• Задача о наибольшей общей палиндромной подпоследовательности

Список литературы

• Томас Х. Кормен, Чарльз И. Лейзерсон, Рональд Л. Ривест, Клиффорд Штайн Алгоритмы: построение и анализ — 2-е изд. — М.: «Вильямс», 2007. — с. 459. — ISBN 5-8489-0857-4
• Hirschberg, D.S.: A linear space algorithm for computing maximal common subsequences. Commun. ACM 18, 341–343 (1975)