Tango-дерево

Tango-дерево — online бинарное дерево поиска, которое изобрели Эрик Д. Демейн, Дион Хармон, Джон Яконо и Михаи Патраску в 2004 году. Это лучшая известная реализация на данный момент.

Время работы tango-дерева [math]O(OPT_{dyn} \cdot \log \log n)[/math]

Динамическая оптимальность

Рассмотрим для начала понятия online/offline динамически/статически оптимального дерева поиска.

В статическом бинарном дереве поиска не происходит поворотов вокруг ребер. Его оптимальность зависит только от начального положения дерева. Это отличает его от динамического дерева, в котором повороты вокруг ребер разрешены.

Offline дерево поиска получает все запросы сразу и может использовать дополнительную память и вычисления для нахождения наиболее оптимальной последовательности обработки запросов. Стоимость работы дерева поиска для заданной последовательности ключей это стоимость доступа к каждому ключу и модификации дерева, и она не зависит от того, сколько времени мы потратили, чтобы найти оптимальную последовательность.

Online дерево поиска получает следующий запрос, только когда ответит на текущий, соответственно время работы пропорциональное стоимости исполнения запросов. Таким является splay-дерево.

Определение:

Пусть [math]OPT(S)[/math] — оптимальное время работы бинарного дерева поиска для последовательности запросов [math]S[/math]. Если стоимость запросов в бинарном дереве поиска — [math]O(n + OPT(S))[/math] для всей ключей от [math] 1 [/math] до [math] n [/math], то дерево называется динамически оптимальным.

Это свойство трудно показать. Неизвестно, есть ли какое-то динамически оптимальное online бинарное дерево поиска, и также неизвестно полиномиальное время для вычисления [math]OPT(S)[/math] с точностью до константы. Обозначим время работы динамически оптимального дерева [math]O(OPT_{dyn})[/math], где [math]OPT_{dyn} = n + OPT(S)[/math].

Гипотеза:

Splay-деревья обладают динамической оптимальностью. То есть если мы разрешаем перестраивать деревья в процессе запроса, то splay-деревья не больше, чем в константу хуже оптимальных. Гипотетическое время работы splay-дерева [math]O(OPT_{dyn})[/math]

Модель динамически оптимального дерева

Рассмотрим ключи [math]1..n[/math] и запросы [math]x_{1}..x_{n}[/math], где [math]x_{i} \in \{1..n\}[/math] — ключ, к которому мы обращаемся.

Утверждение:

Существует гипотетически оптимальное дерево, которое на каждый запрос делает следующие вещи: Идет от корня до [math]x_{i}[/math] Делает какое-то количество поворотов

Оценка снизу на динамический оптимум

Визуализация работы с гипотетически оптимальным динамическим двоичным деревом поиска

Рассмотрим систему координат ключ — время. Поставим точки, которые соответствуют обращению по данному ключу в определенное время.

Множество точек определяет, что происходило с деревом.

Определение:

Множество точек называется древесным (англ. aboral), если выполняется следующее свойство: на сторонах любого невырожденного (площадь прямоугольника больше нуля) прямоугольника, построенного на двух точках, как на противоположных вершинах (левая нижняя-правая верхняя или левая верхняя-правая нижняя), есть еще хотя бы одна точка.

1) Запрос вершины 3 : вершина 3; 2) Запрос 2 : вершина 3 – вершина 1 – вершина 2; 3) Запрос 4 : вершина 3 – вершина 4

Определение:

Фазовая диаграмма (диаграмма состояния) работы с деревом — графическое отображение состояния дерева, при котором координата точки [math](x_{i}, i)[/math] означает обращение к элементу [math]x_{i}[/math] в момент времени [math]i[/math].

Теорема:

Множество точек является фазовой диаграммой работы с некоторым деревом поиска тогда и только тогда, когда оно обладает свойством древесности.

Доказательство:

[math]\triangleright[/math]

1. Фазовая диаграмма работы с деревом поиска обладает свойством древестности. Пусть мы обращались к какому-то ключу [math]x[/math] в [math]i[/math]-ом запросе и к какому-то ключу [math]y[/math] в [math]j[/math]-ом запросе. Рассмотрим этот прямоугольник. На момент [math]i[/math]-го запроса рассмотрим в дереве поиска наименьшего общего предка [math]x[/math] и [math]y[/math] — вершину [math]t[/math]. Если [math]t \ne x[/math], то все хорошо, значит в дереве поиска она находится между [math]x[/math] и [math]y[/math], поэтому мы к нему обращались в то время, когда шли к [math]x[/math], значит есть точка на стороне нашего многоугольника. t — наименьший общий предок х и у Если [math]t = x[/math], то есть [math]x[/math] — предок [math]y[/math] в момент [math]i[/math]-го запроса, тогда рассмотрим момент [math]j[/math]-го запроса, когда мы обращались к [math]y[/math]. Найдем в дереве поиска наименьшего общего предка [math]t[/math] вершин [math]x[/math] и [math]y[/math] на момент [math]j[/math]-го запроса. Если [math]t \ne y[/math], тогда мы к нему обращались, и есть точка на стороне нашего прямоугольника. Если [math]t = y[/math], то есть [math]y[/math] — предок [math]x[/math] в момент [math]j[/math]-го запроса, Значит [math]y[/math] «всплывал», и хотя бы раз, между этими моментами выполнялся поворот вокруг ребра от [math]y[/math] к родителю. То есть во время [math]i[/math]-го запроса [math]y[/math] был в поддереве [math]x[/math], а во время [math]j[/math]-го запроса [math]x[/math] в поддереве [math]y[/math], значит где-то между этими моментами выполнялся поворот вокруг ребра от [math]y[/math] к родителю, и мы обращались к [math]y[/math], следовательно есть точка на правой стороне нашего прямоугольника. 2. Если множество точек обладает свойством древесности, то оно является фазовой диаграммой работы с некоторым деревом поиска. Для любого прямоугольника, построенного на наших точках, есть еще одна точка на стороне. Докажем, что можно построить такое дерево, для которого наши точки будут соответствовать запросам. Рассмотрим наше множество точек. Построим из них декартово дерево, где ключом будет ключ, а вспомогательным ключом — время, когда мы следующий раз обратимся к вершине, то есть для каждого [math]x[/math] найдем минимальный [math]y[/math] такой, что существует точка [math](x, y)[/math]. Приоритет [math]y[/math] будет меняться по мере того, как мы будет симулировать работу с деревом поиска. Построение декартова дерева Рассмотрим общий случай Есть очередная горизонталь, на которой есть точки. Они по построению в текущий момент имеют минимальный приоритет, поэтому как-то организованы в районе корня нашего декартового дерева. Обойдем эти точки. После этого мы должны перестроить наше дерево, изменив приоритеты. Утверждается, что выполняя повороты только внутри верхней части нашего дерево можно построить дерево в соответствии с новыми приоритетами. Почему? Предположим, что это не удалось сделать. У нас есть вершина [math]x[/math], у которой есть правый сын [math]y[/math], и приоритет [math]x[/math] больше чем у [math]y[/math], их надо поменять, то есть дотронуться до вершины [math]y[/math], чего мы делать не хотели в этой строке. Но тогда рассмотрим прямоугольник (мы обращались к [math]x[/math]). А когда-то мы обратимся к [math]y[/math]. Если есть точка на левой стороне, то к [math]x[/math] мы обратимся раньше, чем к [math]y[/math] следовательно неверно, что приоритет [math]x[/math] больше чем приоритет [math]y[/math] На левой стороне точек нет. Если на нижней стороне есть точка, значит есть точка, к которой мы обращались сейчас, ключ которой больше, чем у [math]x[/math], но меньше [math]y[/math], но тогда она должна быть нашим правым сыном, а не вершина [math]y[/math]. Если на правой стороне есть точка, то сейчас мы бы обращались к ней, а не к [math]y[/math]. Если на верхней стороне есть точка [math]z[/math] с ключом меньше [math]y[/math], мы будем обращаться к ней тогда же, когда и к [math]y[/math], значит мы может перейти к прямоугольнику, построенному на точках [math]x[/math] и [math]z[/math]. Когда таких точек (как [math]z[/math]) не останется, то мы получим прямоугольник, у которого нет точек на всех сторонах, а это противоречит исходному условию. Поэтому при перестроении декартова дерева нам не потребуется переходить из нашей верхней зоны.

[math]\triangleleft[/math]

Таким образом, мы получили какую-то offline оптимальность.

Рассмотрим наши запросы, отметим их точками, тогда время работы оптимального динамического дерева равно количество точек на диаграмме.

Получим нижнюю оценку на оптимум. [math]OPT(x) = \Omega(f) [/math]

Если что-то работает за [math]O(f \cdot g)[/math], значит это работает не более, чем в [math]g[/math] раз хуже.

Рассмотрим запросы. Покроем их независимыми прямоугольниками. Прямоугольники независимы, если угол одного не лежит внутри другого.

Можно показать, что [math]OPT(x) \geqslant M + MP / 2[/math], где [math]M[/math] — число запросов, [math]MP[/math] — максимальное число независимых прямоугольников.

То есть [math]OPT(x) = \Omega(M + MP / 2)[/math]

Вторая нижняя оценка Уилбера (Wilber)

Для каждого запроса [math]x_{j}[/math] вычислим число Уилбера.

Рассмотрим запросы [math]x_{i}, i = 0..j[/math]

Пусть [math]a \lt x_{j} \lt b[/math], где [math]a[/math] и [math]b[/math] — левая и правая границы на момент [math]i[/math]. На момент времени [math] i = 0 : a = -\infty, b = +\infty[/math]. Будем передвигать левую границу каждый раз, когда встречаем число [math]x_{i} : \{x_{j} \lt x_{i} \lt a\} [/math]. Аналогично правую. В каждый момент времени позиция [math]a[/math] может увеличиваться, [math]b[/math] уменьшаться. Рано или поздно, наши границы [math]a[/math] и [math]b[/math] встретятся в [math]x_{i} = x_{j}[/math]

Напишем [math]r[/math], если изменяется правая граница [math]b[/math] и [math]l[/math] — если левая.

Определение:

Числом Уилбера [math]ch(j)[/math] называется количество смен [math]r[/math] на [math]l[/math] и обратно.

Получаем следующую оценку

[math]OPT \geqslant \sum\limits_{j \in [1, n]} 1 + ch(j)[/math]

Это можно вывести из предыдущей оценки, построив соответствующее [math]ch(j)[/math] множество попарно независимых прямоугольников.

Определение:

Жирное ребро (англ. Prefered edge) — ребро, соединяющее вершину с ее последним посещенным ребенком.

Теорема:

Рассмотрим [math]n[/math] ключей и [math]m[/math] запросов [math]x_{1} .. x_{m}[/math] Организуем их в полное двоичное сбалансированное дерево. Если [math]n[/math] — не степень двойки, то на последний уровень будет заполнен не до конца. Будем в этом дереве искать наши ключи в том порядке, в котором их искали в оптимальное дереве. Для каждой вершины будем запоминать жирное ребро. Утверждается, что [math]\sum\limits_{i \in [1, n]} ch(i) \geqslant \sum\limits_{i \in [1, n]} K[/math], где [math]K[/math] — число изменений жирных ребер. То есть если мы улучшили правую границу (мы искали что-то справа), а потом улучшили левую (искали слева от нас), значит где-то по пути мы прошли туда-обратно и сменили жирное ребро.

Tango-деревья

Построение

Рассмотрим бинарное дерево поиска. Изначально сделаем все левые ребра жирными. Разобьем наше дерево на жирные пути.

Определение:

Жирный путь (англ. Prefered path) — максимальный по включению путь, состоящий из жирных ребер.

Каждый из этих жирных путей организуем в свое splay-дерево. Splay-дерево может быть построено как угодно.

Из каждой вершины каждого splay-дерева создадим вспомогательную ссылку на корень другого splay-дерева, в котором лежит ее ребенок, связанный с ней нежирным ребром в исходном бинарном дереве поиска (при этом ссылка ставится на само дерево, а не на ребенка).

Корнем tango-дерева будет являться splay-дерево, которое есть жирный путь от корня исходного бинарного дерева поиска.

Таким образом, все наши ключи организуют иерархичную структуру — Tango-дерево.

Каждый жирный путь — splay-дерево, и каждая вершина дерева указывает на корень другого splay-дерева, в котором лежит сын вершины по нежирному ребру.

Глубина tango-дерева [math]\log n[/math].

Общее время работы дерева [math](M + K) \cdot \log \log n[/math], где [math]K[/math] — число изменений жирных ребер, [math]M[/math] — число запросов.

Операций первого становления ребра жирным — [math]O(\log n)[/math], это дает несущественный вклад в асимптотику.

Поиск

Поиск элемента в tango-дереве схож с поиском в обычном дереве поиска.

Начинаем с поиска в жирном пути корня tango-дерева — splay-дереве.

Если текущий жирный путь не содержит искомый элемент, то сделаем переход по вспомогательной ссылке (красная стрелка в tango-дереве) и осуществим поиск в новом жирном пути (splay-дереве).

Поиск в splay-дереве (синее дерево в splay-дереве) работает за высоту от количества вершин (количество вершин — длина жирного пути ([math]\log n[/math])) — то есть за [math]\log \log n[/math].

Поиск во всем дереве соответствует [math](\log \log n) \cdot [/math] число проходов по нежирному ребру.

Пример

Изменение жирных ребер в бинарном дереве поиска

Соответствие tango-дерева текущему бинарному дереву поиска

Перестройка дерева

Для того, чтобы сохранить структуру tango-дерева (splay-дерево соответствует текущему жирному пути), мы должны обновлять его каждый раз, когда жирные ребра изменяются в результате поиска. После изменения жирного ребра верхняя часть жирного пути отделяется от нижней части (которая становится самостоятельным жирным путем) и присоединяется к другому жирному пути (который становится нижней частью).

Во-первых, мы должны запомнить для каждой вершины нашего изначального дерева поиска дополнительную информацию: [math]minChild[/math] — минимальное значение в поддереве текущей вершины, [math]maxChild[/math] — максимальное значение в поддереве.

Во-вторых, нам понадобятся операции split и merge, которые работают за [math]O(\log k)[/math], где [math]k[/math] — число узлов в [math]splay[/math]- дереве.

Пусть для того, чтобы найти вершину [math]x[/math], которая находится в дереве [math]F[/math], мы прошли по тонкому ребру из вершины [math]t[/math], находящейся в дереве [math]A[/math]. Значит, нам нужно объединить деревья [math]A[/math] и [math]F[/math] и вырезать из дерева [math]A[/math] подддерево [math]D[/math], в которое ведет жирное ребро из вершины [math]t[/math].

Пусть поддерево [math]D[/math] — правое. Для левого аналогично.

1. Так как мы знаем интервал значений [math][l', r'][/math] вершины [math]t[/math] в ее правом поддереве [math]D[/math], сделаем по концам отрезка две операции [math]split[/math]. Теперь мы можем отрезать поддерево [math]D[/math].
2. Все ключи дерева [math]F[/math] меньше [math]t[/math] (так как бинарное дерево поиска), поэтому выполним операцию [math]split[/math] по максимальному значению [math]m[/math], меньшему [math]t[/math].
3. Выполним операцию merge деревьев [math]F[/math] и [math]H[/math].
4. Выполним операцию merge деревьев [math]FH[/math] и [math]G[/math].
5. Выполним операцию merge деревьев [math]FGH[/math] и [math]E[/math].
6. Проведем тонкое ребро от вершины [math]t[/math] к дереву [math]D[/math].

Таким образом, перестройка = [math](3 \cdot split + 3 \cdot merge) \cdot K = (O(1) + 3 \cdot O(\log \log n) + 3 \cdot O(\log \log n)) \cdot K[/math] = [math]O(\log \log n \cdot OPT_{dyn}) [/math], где [math]K[/math] — число изменений жирного ребра, [math]n[/math] — число вершин в tango-дереве.

Пример

Операции вставки и удаления в tango-дереве не поддерживаются.

Источники информации

• А.С.Станкевич, Дополнительные главы алгоритмов, Tango-деревья
• Dion Harmon, New Bounds on Optimal Binary Search Trees
• Wikipedia — Tango tree
• Prof. Erik Demaine, Advanced Data Structures
• Sanjeev Arora, Competitive analysis of data structures
• Erik D. Demaine, Dion Harmon, John Iacono, Mihai Patrascu, Dynamic Optimality—Almost