Smoothsort

Плавная сортировка (англ. Smooth sort) — алгоритм сортировки, модификация сортировки кучей, разработанный Э. Дейкстрой. Как и пирамидальная сортировка, в худшем случае работает за время [math] \Theta(N\log{N}) [/math]. Преимущество плавной сортировки в том, что её сложность приближается к [math] O(N) [/math], если входные данные частично отсортированы, в то время как у сортировки кучей сложность всегда одна, независимо от состояния входных данных.

Основная идея

Разовьём идею пирамидальной сортировки. Для этого используем не двоичную кучу, а специальную, полученную с помощью чисел Леонардо, которые задаются следующим образом:

[math] L(n) = \begin{cases} 1 & \mathrm{if}\ n = 0, \\ 1 & \mathrm{if}\ n = 1, \\ L(n-1)+L(n-2)+1 & \mathrm{if}\ n \gt 1. \\ \end{cases} [/math]

Вот первые несколько членов этой последовательности: [math] 1, 1, 3, 5, 9, 15, 25, 41, ... [/math]

Утверждение:

Любое натуральное число можно представимо в виде суммы из [math] O(\log{N}) [/math] различных чисел Леонардо.

Утверждение:

[math] L(n) = 2 \cdot F(n + 1) - 1 [/math], где [math] F(n + 1) [/math] — [math] (n + 1) [/math]-ое число Фибоначчи.

[math]\triangleright[/math]

Это утверждение доказывается по индукции. База: [math] L(0) = 2 \cdot F(1) - 1 = 1 [/math]. Пусть для [math] n [/math] первых чисел это равенство выполняется. Делаем индуктивный переход: [math] L(n + 1) = L(n) + L(n - 1) + 1 = 2 \cdot F(n + 1) - 1 + 2 \cdot F(n) - 1 + 1 = 2 \cdot F(n + 2) - 1 [/math]. Утверждение доказано.

[math]\triangleleft[/math]

Определение:

K-ая куча Леонардо — это двоичное дерево с количеством вершин [math] L(k) [/math], удовлетворяющее следующим условиям: число, записанное в корне, не меньше чисел в поддеревьях, левым поддеревом является [math] (k-1) [/math]-я куча Леонардо, правым — [math] (k-2) [/math]-я куча Леонардо.

Можно заметить, что куча Леонардо очень похожа на биномиальную.

Пример последовательности куч (список хранит номера чисел Леонардо, соответствующих размерам куч)

Будем поддерживать следующий инвариант:

• сортируемый массив делится на группу подмассивов,
• каждый подмассив представляет собой структуру данных куча,
• каждая куча имеет размер равный одному из чисел Леонардо,
• размеры куч строго убывают слева направо,
• при этом не существует двух куч, имеющих одинаковый размер,
• значения ключей в корнях деревьев идут в порядке возрастания слева направо,
• в самих кучах значение в детях меньше либо равно значению в родителе.

В дальнейшем эту группу подмассивов будем называть последовательностью куч.

Алгоритм:

Шаг 0: В массиве записаны элементы, которые надо отсортировать.

Шаг 1: Превращение массива в последовательность куч.

Шаг 2: Пока последовательность куч не пустая, достаем максимальный элемент (это всегда корень самой правой кучи) и восстанавливаем порядок куч, который мог измениться.

Операции над последовательностью куч

При конструировании последовательности куч будем по очереди вставлять в конец новые элементы, а при получении отсортированного массива — удалять максимальный элемент из последовательности. Следовательно, нам необходимы две операции: увеличение последовательности куч путём добавления элемента справа (будем считать, что в начале последовательности располагаются кучи максимального размера) и уменьшение путём удаления крайнего правого элемента (корня последней кучи), с сохранением состояния кучи и последовательности.

Чтобы быстро обращаться к кучам, будем хранить список их длин. Зная индекс корня некоторой кучи и её длину, можно найти индекс корня соседней кучи слева от неё. Чтобы искать индексы детей вершины, надо воспользоваться свойством кучи Леонардо, что левым поддеревом является [math] (n - 1) [/math]-ая, а правым является [math] (n - 2) [/math]-ая куча Леонардо. Для хранения списка длин куч придется выделить [math] O(\log{N}) [/math] дополнительной памяти.

Вставка элемента

Пример вставки элемента (без просеивания вниз)

Вставка в последовательность куч, показанную выше, числа 13. Далее будет сразу происходить просеивание внутри "зеленого" дерева Леонардо, так как корень соседнего дерева меньше, чем дети корня "зелёного" дерева.

При добавлении в последовательность нового элемента возможны две ситуации:

• Если две последние кучи имеют размеры [math] L(x + 1) [/math] и [math] L(x) [/math] (двух последовательных чисел Леонардо), новый элемент становится корнем кучи большего размера, равного [math] L(x+2) [/math]. Для неё свойство кучи необязательно.
• Если размеры двух последних куч не равны двум последовательным числам Леонардо, новый элемент образует новую кучу размером [math] 1 [/math]. Этот размер полагается равным [math] L(1) [/math], кроме случая, когда крайняя правая куча уже имеет размер [math] L(1) [/math], тогда размер новой одноэлементной кучи полагают равным [math] L(0) [/math].

После этого необходимо восстановить свойства кучи и последовательности куч, что, как правило, достигается при помощи разновидности сортировки вставками (см. ниже псевдокод):

1. Крайняя правая куча (сформированная последней) считается «текущей» кучей.
2. Пока слева от неё есть куча, и значение её корня больше значения текущего корня и обоих корней куч-потомков:
   • Меняются местами новый корень и корень кучи слева (это гарантирует выполнение инварианта для текущей кучи). И куча, с которой произошел обмен, становится текущей.
3. Потом выполняется «просеивание» кучи, на которой остановилась сортировка корней, чтобы гарантировать выполнение инварианта кучи:
   • Пока размер текущей кучи больше [math] 1 [/math], и значение корня любой из куч-потомков больше значения корня текущей кучи:
     • Меняются местами наибольший по значению корень кучи-потомка и текущий корень. Куча-потомок становится текущей кучей.

Операция просеивания значительно упрощена благодаря использованию чисел Леонардо, так как каждая куча либо будет одноэлементной, либо будет иметь двух потомков. Нет нужды беспокоиться об отсутствии одной из куч-потомков.

Так как в последовательности [math] O(\log{N}) [/math] куч, то модификация сортировки вставками будет работать за [math] O(\log{N}) [/math]. Просеивание тоже выполняется за [math] O(\log{N}) [/math], тогда в итоге операция вставки выполняется за: [math] O(\log{N}) + O(\log{N}) = O(\log{N}) [/math].

Уменьшение последовательности куч путём удаления элемента справа

Если размер крайней правой кучи равен [math] 1 [/math] (то есть [math] L(1) [/math] или [math] L(0) [/math]), эта куча просто удаляется. В противном случае корень этой кучи удаляется, кучи-потомки считаются элементами последовательности куч, после чего проверяется выполнение свойства последовательности куч (т.е. корни деревьев идут в порядке возрастания слева направо), сначала для левой кучи, затем — для правой.

Так как в последовательности [math] O(\log{N}) [/math] куч, то восстановление свойства последовательности выполняется за [math] O(\log{N}) [/math].

Восстановление свойств последовательности

Пусть нам надо восстановить инвариант последовательности куч. Будем считать, что функции prev (возвращает индекс корня ближайшей слева кучи), left (возвращает индекс левого сына), right (возвращает индекс правого сына) уже реализованы. В функцию ensureSequence передается индекс корня кучи, с которой начинаем восстановление.

function ensureSequence(i: int):
  j = prev(i) // j - индекс корня соседней кучи
  while A[j] > A[i] and A[j] > A[left(i)] and A[j] > A[right(i)]
    swap(A[j], A[i])
    i = j
    j = prev(i)
  siftDown(i)

Сложность

Построение последовательности

Последовательность куч получается последовательной вставкой элементов массива в конец. Получаем время работы [math] O(N \log{N}) [/math].

Получение отсортированного массива

Так как [math] O(N) [/math] выполняется удаление максимального элемента из последовательности, то вся эта операция выполняется за [math] O(N\log{N}) [/math]. Следовательно, сортировка в худшем случае выполняется за [math] O(N\log{N}) [/math].

Лучший случай

Однако если подать на вход плавной сортировке уже отсортированный массив, асимптотика будет составлять [math] O(N) [/math]. Дело в том, что:

• Операция добавления элемента последовательности на таком примере будет выполняться за [math] O(1) [/math], из-за того, что в конец будет добавляться максимальный элемент и просеивание будет сразу останавливаться.
• Операция получения и удаления максимального элемента будет так же выполняться за [math] O(1) [/math], потому что в силу построения в корнях куч-детей будут новые максимальные элементы и следовательно восстановление свойства последовательности закончится на просмотре корня соседней кучи.

В итоге на таком примере получается асимптотика [math] O(N) [/math].

Достоинства

• худшее время работы — [math] O(N\log{N}) [/math],
• время работы в случае, когда подается отсортированный массив — [math] O(N) [/math].

Недостатки

• не является устойчивой,
• требует [math] O(\log{N}) [/math] дополнительной памяти для хранения длин куч в последовательности. Однако с помощью некоторых модификации можно получить [math] O(1) [/math] дополнительной памяти.

Связь с быстрой сортировкой

На практике, когда реализуют алгоритм быстрой сортировки, пытаются улучшить асимптотику в худшем случае. Для этого заводится некоторый лимит глубины рекурсии, при превышении которого запускают другую сортировку. Так реализована стандартная сортировка в стандартной библиотеке языка С++. Часто при превышении порога глубины рекурсии используют сортировку кучей. Замена неё на плавную сортировку могла бы улучшить время работы на некоторых тестах, так как после нескольких итераций быстрой сортировки массив окажется почти отсортированным, а на таких массивах время работы плавной сортировки приближается к линейному. Хотя итоговой линейной асимптотики достичь всё равно не получится по теореме о нижней оценке.

См. также

• Сортировка кучей
• Быстрая сортировка

Источники информации

• Wikipedia — Smoothsort
• Smoothsort Demystified
• Хабрахабр — И снова про сортировки