Преобразование Барроуза-Уилера

Преобразование Барроуза — Уилера (англ. Burrows-Wheeler transform) — алгоритм, используемый для предварительной обработки данных перед сжатием, разработанный для улучшения эффективности последующего кодирования. Преобразование Барроуза — Уилера меняет порядок символов во входной строке таким образом, что повторяющиеся подстроки образуют на выходе идущие подряд последовательности одинаковых символов.

Описание алгоритма

Преобразование выполняется в три этапа:

1. Составляется таблица всех циклических сдвигов входной строки.
2. Производится лексикографическая (в алфавитном порядке) сортировка строк таблицы.
3. В качестве выходной строки выбирается последний столбец таблицы преобразования и номер строки, совпадающей с исходной.

Пример работы алгоритма

Пусть нам дана исходная строка [math]s =[/math] "ABACABA".

Трансформация
Вход	Все циклические сдвиги	Сортировка строк	Выход
ABACABA	ABACABA BACABAA ACABAAB CABAABA ABAABAC BAABACA AABACAB	AABACAB ABAABAC ABACABA ACABAAB BAABACA BACABAA CABAABA	BCABAAA, 3

Результат можно записать так: [math]BWT(s) = ([/math]"BCABAAA", [math]3)[/math], где [math]3[/math] — номер исходной строки в отсортированной матрице. Он нужен для обратного преобразования.

Следует заметить, что иногда в исходной строке приводится так называемый символ конца строки [math]\$[/math], который в преобразовании будет считаться последним (максимальным) символом, тогда сохранение номера исходной строки не требуется.

Пусть нам дана исходная строка [math]s =[/math] "ABACABA$".

Трансформация
Вход	Все циклические сдвиги	Сортировка строк	Выход
ABACABA$	ABACABA$ BACABA$A ACABA$AB CABA$ABA ABA$ABAC BA$ABACA A$ABACAB $ABACABA	ABACABA$ ABA$ABAC ACABA$AB A$ABACAB BACABA$A BA$ABACA CABA$ABA $ABACABA	$CBBAAAA

При аналогичном вышеприведённом преобразовании та строчка в матрице, которая будет заканчиваться на символ конца строки, и будет исходной: ("ABACABA$"). Тогда результат можно записать так: [math]BWT(s) =[/math] "$CBBAAAA".

Обратное преобразование

Наивный алгоритм

Пусть нам дано: [math]BWT(s) =([/math]"BCABAAA", [math]3)[/math]. Тогда выпишем в столбик нашу преобразованную последовательность символов "BCABAAA". Запишем её как последний столбик предыдущей матрицы (при прямом преобразовании Барроуза — Уилера), при этом все предыдущие столбцы оставляем пустыми. Далее построчно отсортируем матрицу, затем в предыдущий столбец запишем "BCABAAA". Опять построчно отсортируем матрицу. Продолжая таким образом, можно восстановить полный список всех циклических сдвигов строки, которую нам надо найти. Выстроив полный отсортированный список сдвигов, выберем строку с номером, который нам был изначально дан. В итоге мы получим искомую строку. Алгоритм обратного преобразования описан в таблице ниже:

Обратное преобразование
Вход
BCABAAA
Добавление 1	Сортировка 1	Добавление 2	Сортировка 2	Добавление 3	Сортировка 3	Добавление 4
B C A B A A A	A A A A B B C	BA CA AA BA AB AB AC	AA AB AB AC BA BA CA	BAA CAB AAB BAC ABA ABA ACA	AAB ABA ABA ACA BAA BAC CAB	BAAB CABA AABA BACA ABAA ABAC ACAB
Сортировка 4	Добавление 5	Сортировка 5	Добавление 6	Сортировка 6	Добавление 7	Сортировка 7
AABA ABAA ABAC ACAB BAAB BACA CABA	BAABA CABAA AABAC BACAB ABAAB ABACA ACABA	AABAC ABAAB ABACA ACABA BAABA BACAB CABAA	BAABAC CABAAB AABACA BACABA ABAABA ABACAB ACABAA	AABACA ABAABA ABACAB ACABAA BAABAC BACABA CABAAB	BAABACA CABAABA AABACAB BACABAA ABAABAC ABACABA ACABAAB	AABACAB ABAABAC ABACABA ACABAAB BAABACA BACABAA CABAABA
Результат
ABACABA

Следует также заметить, что если нам было бы дано [math]BWT(s) = [/math] "$CBBAAAA", то мы также получили бы нашу исходную строку, только с символом конца строки [math]\$[/math] на конце: ABACABA$.

Временная сложность данного алгоритма [math]O(N^3\log{N}) [/math], пространственная [math]O(N^2)[/math].

Доказательство корректности

Пусть дана строка [math]s[/math], к которой было применено преобразование BWT. Докажем, что при использовании наивного алгоритма на каждом шаге получающийся набор строк соответствует суффиксам циклических сдвигов исходной строки, методом математической индукции.

• База. Циклически сдвинем все строки исходной таблицы на [math]1[/math] влево. Тогда в столбце [math]n[/math] будут находиться символы, добавленные на первом шаге алгоритма, а в столбце [math]n - 1[/math] символы, изначально стоявшие в таблице до первого шага алгоритма. Таким образом, полученные на первом шаге алгоритма строки являются суффиксами циклических сдвигов строки [math]s[/math].
• Предположение. Пусть на [math]k[/math] шаге алгоритма все полученные строки являются суффиксами циклических сдвигов строки [math]s[/math].
• Переход. Рассмотрим [math]k+1[/math]-ый шаг алгоритма. Все строки отсортированы, поэтому самый левый столбец совпадет с [math]1[/math] столбцом исходной таблицы. Циклически сдвинем все строки исходной таблицы на [math]n - k[/math] символов вправо. Теперь по предположению первые [math]k[/math] символов справа в каждой строке совпадают у исходной таблицы и у таблицы, полученной в результате работы алгоритма. [math]k[/math]-ые справа столбцы также совпадают. Добавленный на [math]k+1[/math]-ом шаге столбец также совпадает с [math]k+1[/math]-ым справа столбцом сдвинутой исходной таблицы, так как совпадает с последним столбцом исходной таблицы, которая была сдвинута на [math]n-k[/math].

[math]k+1[/math] шаг алгоритма при [math]k=3[/math]
Исходная таблица	Сдвинутая таблица	Результат работы алгоритма
AABACAB ABAABAC ABACABA ACABAAB BAABACA BACABAA CABAABA	CABAABA BACABAA ABAABAC AABACAB ACABAAB BAABACA ABACABA	BAABA CABAA AABAC BACAB ABAAB ABACA ACABA

Таким образом, поскольку на каждом шаге алгоритма получившиеся строки являлись суффиксами циклических сдвигов [math] s [/math], после последнего шага получившиеся строки будут совпадать с циклическими сдвигами [math] s [/math].

Оптимизированный наивный алгоритм

Наивный алгоритм можно оптимизировать. Заметим, что при каждом проявлении неизвестного столбца выполнялись одни и те же действия. К предыдущему приписывался новый столбец и имеющиеся данные сортировались. На каждом шаге к строке, которая находилась на [math] i [/math]-ом месте, приписывался в начало [math] i [/math] -ый элемент столбца входных данных. Пусть изначально известно, каким по порядку является приписанный в начало символ (то есть каким по порядку в столбце). Из предыдущего шага известно, какое место занимала строка без этого первого символа ([math] i [/math] -ое). Тогда несложно заметить, что при выполнении такой операции строка с номером [math] i [/math] всегда будет перемещаться на позицию с номером [math] j [/math].

0	а		р	9
1	а		д	7
2	а		a	0
3	а		к	8
4	а		р	10
5	б		a	1
6	б		a	2
7	д		a	3
8	к		a	4
9	р		б	5
10	р		б	6

Здесь слева отсортированный данный столбец, чтобы мы знали, какое место в лексикографическом порядке занимает приписываемый нами символ среди всех элементов данного нам изначально столбца. Справа - изначально данный столбец и соответствующее ему число. Поскольку в нашем алгоритме новый столбец приписывается в начало, то мы из состояния [math] i [/math] (левый столбец) переходим в состояние [math] j [/math] (правый). Для того, чтобы восстановить строку, нам необходимо от последней такой цифры по пути из [math] j [/math] в [math] i [/math] восстановить строку.

6 → 10 → 4 → 8 → 3 → 7 → 1 → 5 → 9 → 0 → 2 а б р а к а д а б р а Сложность оптимизированного алгоритма Данный алгоритм работает за [math]O(N\log{N})[/math] времени и требует [math]O(N)[/math] памяти. Однако, если размер алфавита не очень большой, то для выяснения первого столбца матрицы можно использовать сортировку подсчетом, в этом случае алгоритм работает за [math]O(N+M)[/math] действий и требует [math]O(N+M)[/math] памяти, где [math]M[/math] — размер алфавита. Псевдокод оптимизированного алгоритма Пусть [math] N [/math] — количество символов во входной строке, [math] M [/math] — количество символов в алфавите, [math] k [/math] — номер исходной строки в матрице сдвигов, [math] s [/math] — входящая строка, [math] count [/math] — массив для сортировки подсчетом, [math] t [/math] — вектор обратного преобразования, [math] x [/math] — номер данной нам строки в таблице. function reverseBWT(N : Int, M : Int, k : Int, s : String): Int[] // Cчитаем частоты символов for i = 0 .. M count[i] = 0 for i = 0 .. N count[s[i]]++ // Упорядочиваем символы, чтобы получить первый столбец исходной матрицы // count[i] указывает на первую позицию символа i в первом столбце sum = 0 for i = 0 .. M sum = sum + count[i] count[i] = sum - count[i] // Cоздаем вектор обратного преобразования for i = 0 .. N t[count[s[i]]] = i count[s[i]]++ // И восстанавливаем исходный текст j = t[x] for i = 0 .. N answer[i] = s[j] j = t[j] return answer Доказательство корректности Пусть текст [math]T[/math] состоит из [math]N + 1[/math] символов, занумерованных с нуля: [math]T[0..N][/math]. Буквы [math]T[i][/math] принадлежат некоторому алфавиту [math]A[/math]. Лексикографический порядок (строгий) на строках из алфавита [math]A[/math] будем обозначать [math]\preceq (\prec)[/math]. Обозначим через [math]S_{k}T[/math] циклический сдвиг текста [math]T[/math] на [math]k[/math] символов влево: [math] S_{k}T = T[(j + k) (\bmod\ N + 1)] [/math] Существует перестановка [math]p[/math] чисел [math]\{0, ..., N\}[/math], которая удовлетворяет условию: [math] S_{p(i)}T \preceq S_{p(i + 1)}T,\ i = 0, ..., N - 1\ \ \textbf{(1)}[/math] Преобразование Барроуза-Уилера текста [math]T[/math] есть текст [math]B[0..N] = BW(T)[/math], буквы которого заданы соотношением: [math]B[i] = S_{p(i)}T[N][/math], другими словами [math]B[i] = S_{p(i) - 1}T[0] = T[(p(i) - 1) (\bmod\ N + 1)] \ \ \textbf{(2)}[/math] Пусть [math]\sigma[/math] — перестановка чисел [math]\{0, ..., N\}[/math], удовлетворяющая условию: [math]B_{\sigma(i)} \preceq B_{\sigma(i + 1)}[/math], при [math]i = 0, ..., N - 1\ \ \textbf{(3)}[/math], и в случае равенства [math]B_{\sigma(i)}[/math] и [math]B_{\sigma(i + 1)}[/math] выполнено — [math]\sigma(i) \lt \sigma(i + 1)[/math]. Перестановка однозначно определяется текстом [math]B[/math] и ее можно посчитать за [math]O(N)[/math], используя сортировку подсчетом. Рассмотрим перестановку [math]\sigma[/math] как отображение [math]\sigma : \{0, ..., N\} \to \{0, ..., N\}[/math]. Пусть [math]\sigma^{k}[/math] копмозиция [math]k[/math] отображений [math]\sigma^{k} = \sigma^{k - 1} \circ \sigma[/math], где [math]\sigma^{1} = \sigma, \sigma^{0} \equiv i[/math]. Теорема: При всех [math]m = 1, ..., N + 1[/math] верны утверждения, [math]B_{\sigma(i)}...B_{\sigma^{m}(i)} \preceq B_{\sigma(i + 1)}...B_{\sigma^{m}(i + 1)}[/math], при [math]i = 0, ..., N - 1\ \ \textbf{(4)}[/math] [math]B_iB_{\sigma(i)}...B_{\sigma^{m - 1}(i)} = S_{p(i) - 1}T[0..m - 1][/math], при [math]i = 0, ..., N\ \ \textbf{(5)}[/math] Доказательство: [math]\triangleright[/math] Если лексикографически отсортировать буквы последнего столбца и поместить их в первый столбец, то получится таблица [math]\triangleleft[/math] Теорема: Для восстановления исходного текста [math]T[/math] из преобразования [math]B[/math] достаточно знать число [math]I[/math], отвечающее условию [math]p(I) = 0[/math], другими словами [math]S_{p(I)}T = T[/math]. Алгоритм за линейное время Будем обозначать [math]s^i[/math] [math]i[/math]-ую циклический сдвиг [math]s[/math]. Пусть [math]s^0 = s_0 s_1 \ldots s_{n-1}[/math], [math]BWT(s) \;= L[/math] и [math]L = L_0L_1\ldots L_{n-1}[/math], [math]I[/math] -- номер строки [math]s^0[/math] в таблице. Предподсчитаем следующие величины: Для каждого [math]L_i[/math] количество символов на подстроке [math]l_0, \ldots , l_{i-1}[/math], равных [math]L_i[/math] Для каждого уникального [math]L_i[/math] количество символов в [math]L[/math], лексикографически меньших, чем [math]L_i[/math] Пример для [math]BWT(s) =[/math] "BCABAAA": Таблица первого предподсчёта Позиция Символ Результат 0 B 0 1 C 0 2 A 0 3 B 1 4 A 1 5 A 2 6 A 3 Таблица второго предподсчёта Символ Количество меньших A 0 B 4 C 6 Для удобства пронумеруем известные нам данные: [math]L[/math], последний столбец таблицы сдвигов [math]I[/math], номер строки [math]s[/math] в таблице сдвигов Частота, с которой символ [math]L_{i}[/math] встречается в подстроке [math]l_0, \ldots , l_{i-1}[/math] Для каждого уникального символа количество лексикографически меньших символов в [math]L[/math] Символ [math]s_{n-1}[/math] находится в строке [math]L[/math] под номером [math]I[/math], так как в таблице строка [math]s^0[/math] имела номер [math]I[/math]. Найдём символ [math]s_{n-2}[/math]. Символ [math]s_{n-2}[/math] имеет в строке [math]L[/math] тот же номер, что строка [math]s^{n-1}[/math] имела в таблице сдвигов: строка [math]s^{n-1}[/math] начинается с символа [math]s_{n-1}[/math], [math]s_{n-2}[/math] находится на 1 левее его и из-за циклического сдвига оказывается в последнем столбце. Нам известен символ [math]s_{n-1}[/math]. Посчитаем, на каком месте в таблице будет стоять строка, начинающаяся с этого символа. Из 4 известно количество символов, меньших [math]s_{n-1}[/math]. Все строки, начинающиеся с этих символов, стоят в таблице раньше [math]s^{n-1}[/math]. Кроме того, в таблице есть строки, начинающиеся с того же символа, что и [math]s^{n-1}[/math]. Из 3 известно, сколько их: если символ, равный [math]s_{n-1}[/math], встречался в [math]L[/math] раньше, чем [math]s_{n-1}[/math], то в таблице строка, начинающаяся с этого символа, тоже стоит раньше строки, начинающейся с [math]s_{n-1}[/math], так как префикс строки, оканчивающейся на этот символ, меньше префикса строки, оканчивающейся на [math]s_{n-1}[/math]. Тогда сумма этих двух величин является номером символа [math]s_{n-2}[/math] в строке [math]L[/math]. Зная [math]s_{n-1}[/math] и [math]s_{n-2}[/math], аналогично найдём [math]s_{n-3}\ldots s_0[/math]. Предподсчёт занимает [math]O(n)[/math] времени, восстановление каждого из [math]n[/math] символов занимает [math]O(1)[/math] времени. Суммарное время работы алгоритма [math]O(n)[/math]. Пример работы для [math]BWT(s) = ([/math]"BCABAAA", 2[math])[/math] (нумерация с 0): [math]s^0 = .......[/math] [math]s_6=L_2 = A[/math]. Тогда [math]s^0=......[/math]A Суммируем значения из двух таблиц: [math]0+0=0[/math], [math]s_5=L_0=B[/math], [math]s^0=.....[/math]BA Суммируем: [math]0+4=4[/math], [math]s_4=L_4=A[/math], [math]s^0=....[/math]ABA Суммируем: [math]1+0=1[/math], [math]s_3=L_1=C[/math], [math]s^0=...[/math]CABA Суммируем: [math]0+6=6[/math], [math]s_2=L_6=A[/math], [math]s^0=..[/math]ACABA Суммируем: [math]3+0=3[/math], [math]s_2=L_3=B[/math], [math]s^0=.[/math]BACABA Суммируем: [math]1+4=5[/math], [math]s_2=L_5=A[/math], [math]s^0=[/math] ABACABA Замечания bzip2 использует преобразование Барроуза — Уилера для превращения последовательностей многократно чередующихся символов в строки одинаковых символов, затем применяет преобразование MTF, и в конце кодирование Хаффмана. См. также Алгоритм Хаффмана Алгоритмы LZ77 и LZ78 Арифметическое кодирование Примечания Источники информации Википедия: Преобразование Барроуза — Уилера cs.karelia.ru: Преобразование Барроуза — Уилера