СНМ (реализация с помощью леса корневых деревьев)

Данная реализация СНМ позволяет добиться наилучшей асимптотики при работе с этой структурой данных. А именно, обе операции (get и union) выполняются в среднем за практически константное время.

Реализация

Каждое множество хранится в виде дерева. Элементы множества хранятся в узлах дерева. У каждого множества есть его представитель — один из элементов этого множества, он хранится в корне дерева. В каждом узле, кроме корня, хранится ссылка на "родителя".

При объединении двух множеств, корень одного дерева подвешивается к другому (операция union). Таким образом, чтобы определить, в каком множестве находится элемент достаточно пройтись по ссылкам по дереву вверх до корня (операция get).

Без использования дополнительных "улучшений", такое дерево может выродиться в линейный список, где get будет работать за линейное время, и никакого выигрыша по сравнению с наивными реализацими не будет. Выигрыш в скорости можно получить, используя две эвристики: объединение по рангу (union by rank) и сжатие пути (path compression).

Объединение по рангу

Эта эвристика аналогична весовой эвристике у связных списков. Идея в том, чтобы при объединении подвешивать дерево с меньшей глубиной к дереву с большей.

Вместо того, чтобы явно хранить высоту дерева, можно хранить его ранг, который по сути является некой верхней оценкой высоты дерева. У дерева, состоящего ровно из одного элемента ранг равен 1. При объединении дерево с меньшим рангом подвешивается к дереву с большим, и ранг объединенного дерева становится равным большему из этих двух рангов. Если ранги объединяемых деревьев равны, то не важно какое к какому дереву подвешивать, но ранг объединенного дерева следует делать большим на 1.

Сжатие пути

Эта эвристика несколько модифицирует операцию get. Операция get вызывается для элемента x, проходит через несколько вершин и попадает в корень. Все пройденные в этом процессе вершины принадлежат тому же множеству, что и x. Поэтому мы можем подвесить (изменить ссылки) эти вершины напрямую к корню дерева и, таким образом, уменьшить его высоту. При нерекурсивной реализации операция get становится двухпроходной.

Псевдокод

Для реализации СНМ будем поддерживать следующие массивы:

[math]p[x][/math] — массив "родителей".

[math]r[x][/math] — массив рангов.

get

get(x)
   if p[x] != x
      p[x] = get(p[x])
   return p[x]

union

union(x, y)
   x = get(x)
   y = get(y)
   if x == y
      return;
   if r[x] == r[y]
      r[x]++
   if r[x] < r[y]
      p[x] = y
   else
      p[y] = x

Асимптотика

см. также Анализ реализации с ранговой эвристикой

Операция	Истинное время	Амортизированное время
get	[math]O(\log n)[/math]	[math]O(\alpha(m, n))[/math]
union	[math]O(1)[/math]	[math]O(1)[/math]

• m — общее количество операций

• n — полное количество элементов

• [math]\alpha(m, n)[/math] — функция, обратная к функции Аккермана (если [math]m[/math] операций get и [math]n[/math] элементов).

Докажем, что если глубина множества (т.е. его ранг) равна k, то в нем содержится как минимум [math]2^k[/math] элементов. Из этого свойства следует, что глубина множества с n элементами есть [math]O(\log n)[/math], а значит и время работы операции get является логарифмическим.

Будем доказывать данное свойство по индукции. Для k = 0, очевидно, в множестве содержится 1 вершина. Пусть для множеств ранга k - 1 свойство выполняется. Как следует из ранговой эвристики, множество ранга k может получиться только при подвешивании множества ранга k - 1 к множеству ранга k - 1. Но тогда из предположения индукции в новом множестве действительно будет [math]2^k[/math] вершин, что и требовалось доказать.

Функция Аккермана

Функция Аккермана определяется следующим рекуррентным соотношением для целых неотрицательных чисел [math]m[/math] и [math]n[/math]:

[math]A(m, n) = \begin{cases} 2^n, & m = 1 \\ 2, & m \gt 1, n = 0 \\ A(m - 1, A(m, n - 1)), & m \gt 1, n \gt 0 \end{cases} [/math]

Таблица значений функции Аккермана:

[math]m \backslash n[/math]	0	1	2	3	4	5
1	1	2	4	8	16	32
2	2	4	16	65536	[math]2^{2^{16}}[/math]	[math]2^{2^{2^{16}}}[/math]
3	2	16	[math]\underbrace{2^{2^{\cdot^{\cdot^{\cdot^2}}}}}_{17}[/math]	[math]\underbrace{2^{2^{\cdot^{\cdot^{\cdot^2}}}}}_{A(3, 2)}[/math]	[math]\cdots[/math]	[math]\cdots[/math]
4	2	[math]\underbrace{2^{2^{\cdot^{\cdot^{\cdot^2}}}}}_{17}[/math]	[math]\cdots[/math]	[math]\cdots[/math]	[math]\cdots[/math]	[math]\cdots[/math]

Функция, обратная функции Аккермана [math]\alpha(m, n)[/math] равна минимальному [math]i[/math] такому, что [math]A \left (i, \left [\frac{m}{n} \right ] \right ) \geq \log n[/math]. Как видно из таблицы значений для функции Аккермана, обратная функция для любых значений, которые могут возникнуть при решении прикладных задач, не превышает 4, то есть можно считать, что операция get выполняется за константное время.

Анализ реализации с ранговой эвристикой

Проведем анализ реализации с ранговой эвристикой, будем доказывать более слабую оценку (итерированный логарифм). Рассмотрим [math] a [/math] операций [math] union [/math] и [math] b [/math] операций [math] get [/math] ([math] b \gt a [/math]). Не теряя общности, будем считать, что [math] union [/math] принимает в качестве аргументов представителей, то есть [math] union(v_1,v_2) [/math] заменяем на [math] union(get(v_1),get(v_2)) [/math].

Оценим стоимость операции [math] get(v) [/math]. Обозначим [math] R(v) [/math] — ранг вершины, [math]P(v)[/math] — представитель множества, содержащего [math] v [/math], [math] L(v) [/math] — отец вершины, [math] K(v) [/math] — количество вершин в поддереве, корнем которого является [math] v [/math].

Утверждение:

[math] R(P(v)) \gt R(v) [/math]

[math]\triangleright[/math]

Из принципа работы функции [math] get [/math] следует: [math] R(L(v))\gt R(v) [/math]. Между [math] v [/math] и [math] P(v) [/math] существует путь вида: [math] v \rightarrow L(v) \rightarrow L(L(v)) \rightarrow \dots \rightarrow P(v) [/math]. Записав неравенство из первого пункта вдоль пути из второго пункта, получаем требуемое.

[math]\triangleleft[/math]

Утверждение:

[math] R(v) = i \Rightarrow K(v) \ge 2^i [/math]

[math]\triangleright[/math]

Докажем по индукции: Для 0 равенство очевидно. Ранг вершины станет равным [math] i [/math] при объединении поддеревьев ранга [math]i-1[/math], следовательно: [math]K(v) \ge K(v_1) + K(v_2) \ge 2^{i-1}+2^{i-1} \ge 2^i [/math].

[math]\triangleleft[/math]

Из последнего утверждения следует:

1. [math] R(v) \le \log_2a [/math].
2. Количество вершин ранга [math] i \le {a \over 2^i} [/math].

Теорема:

Амортизационная стоимость [math] get = O(\log^{*}a) [/math]

Доказательство:

[math]\triangleright[/math]

Рассмотрим некоторое число [math] x [/math]. Разобьем наши ребра на три класса: Ведут в корень или в сына корня. [math] R(P(v)) \ge x^{R(v)}[/math]. Все остальные. Обозначим эти классы [math] T_1, T_2, T_3 [/math]. Амортизационная стоимость [math] S = {\sum_{get} \limits} ({\sum_{v:v \in get,v \in T_1} \limits 1} + {\sum_{v:v \in get,v \in T_2} \limits 1} + {\sum_{v: \in get,v \in T_3} \limits 1} ) / b [/math], где [math] {v \in get } [/math] означает, что ребро, начало которого находится в [math] v [/math], было пройдено во время выполнения текущего [math] get [/math]. Ребро [math] v [/math] эквивалентно вершине, в которой оно начинается. В силу того, что [math]{\sum_{v:v \in get,v \in T_1} \limits 1} = O(1) [/math] получаем: [math] S = O(1) + {\sum_{get} \limits} ~ {\sum_{v:v \in get,v \in T_2} \limits} 1/b+ {\sum_{get} \limits} ~ {\sum_{v:v \in get,v \in T_3} \limits} 1 / b [/math]. Во время [math] get [/math] после прохождения K ребер из второго класса [math] R(v_1) \ge x^{x^{.^{.^{.^{x^{R(v)}}}}}} [/math]. Из выше сказанного и первого следствия второго утверждения получаем, что: [math] {\sum_{v:v \in get,v \in T_2} \limits} \le \log^*_x(\log_2a) = O(\log^*a) [/math]. Для того, чтобы [math] \log^*_x(\log_2a) [/math] существовал необходимо, чтобы [math] x \gt e ^{ 1 /e } \approx 1,44 [/math]. Рассмотрим сумму [math] {\sum_{get} \limits} ~ {\sum_{v:v \in get,v \in T_3} \limits} 1/b \lt {\sum_{get} \limits} ~ {\sum_{v:v \in get,v \in T_3} \limits} 1/a [/math]. Из первого утверждения и в силу использования сжатия путей следует, что [math] R(P(x))[/math] cтрого увеличивается при переходе по ребру из [math] T_3 [/math]. Как максимум через [math] x^{R(k)} [/math] переходов ребро перестанет появляться в классе [math] T_3 [/math]. [math] {\sum_{get} \limits}~ {\sum_{v:v \in get,v \in T_3} \limits} 1/a = {\sum_v \limits ~\sum_{get: in ~ this ~ get ~ v \in T_3} \limits } 1/a \le \sum_v \limits x^{R(v)} /a [/math]. Из второго следствия второго утверждения следует: [math] {\sum_{get} \limits}~ {\sum_{v:v \in get,v \in T_3} \limits} 1/a \le \sum_{Rank=0}^{\log_2a} \limits {ax^{Rank} \over 2^{Rank} a} [/math]. При [math] x \lt 2~[/math]: [math] {\sum_{get} \limits}~ {\sum_{v:v \in get,v \in T_3} \limits} 1/a \le \sum_{Rank=0}^{\log_2a} \limits {x^{Rank} \over 2^{Rank}} \le \sum_{Rank=0}^\infty \limits {x^{Rank} \over 2^{Rank}} \le { 2 \over 2-x } = O(1) [/math]. Итак [math] S = O(1) + O(\log^*x) + O(1) = O(\log^*x) [/math]. В силу того, что интервал (1.45; 2) не пустой, теорема доказана.

[math]\triangleleft[/math]

Ссылки

• Система непересекающихся множеств — описание этой реализации на habrahabr.ru
• Функция Аккермана — Википедия

Литература

• Томас Кормен, Чарльз Лейзерсон, Рональд Ривест, Клиффорд Штайн. Алгоритмы. Построение и анализ — Вильямс, 2010. - 1296с. — ISBN 978-5-8459-0857-4, 0-07-013151-1. (стр 589)