Амортизационный анализ

Основные определения

Определение:

Амортизационный анализ — метод подсчета времени, требуемого для выполнения последовательности операций над структурой данных. При этом время усредняется по всем выполняемым операциям, и анализируется средняя производительность операций в худшем случае.

Такой анализ чаще всего используется, чтобы показать, что даже если некоторые из операций последовательности являются дорогостоящими, то при усреднении по всем операциям средняя их стоимость будет небольшой за счёт низкой частоты встречаемости. Подчеркнём, что оценка, даваемая амортизационным анализом, не является вероятностной: это оценка среднего времени выполнения операций для худшего случая.

Определение:

Средняя амортизационная стоимость операций — величина [math]a[/math], находящаяся по формуле: [math]a = \frac{\sum\limits^{n}_{i = 1} {t_i}}{n}[/math], где [math]t_1,t_2, ... t_n[/math] - время выполнения операций [math]1,2, ... , n,[/math] совершённых над структурой данных.

Амортизационный анализ использует следующие методы:

1. Метод усреднения (метод группового анализа).

2. Метод потенциалов.

3. Метод предоплаты (метод бухгалтерского учета).

Метод усреднения

В методе усреднения амортизационная стоимость операций определяется напрямую по формуле, указанной выше: суммарная стоимость всех операций алгоритма делится на их количество.

Пример

Рассмотрим стек с операцией [math]multipop(a)[/math] — извлечение из стека [math]a[/math] элементов. В худшем случае она работает за [math]O(n)[/math] времени, если удаляются все элементы массива. Однако прежде чем удалить элемент, его нужно добавить в стек. Итак, если в стеке было не более [math]n[/math] элементов, то в худшем случае с каждым из них могли быть произведены 2 операции - добавление в стек и извлечение из него. Например, если было [math]n[/math] операций [math]push[/math] - добавление в стек, стоимость каждой [math]O(1)[/math], и одна операция [math]multipop(n)[/math], то суммарное время всех операций - [math]O(2n)[/math], всего операций [math]n+1[/math], а значит, амортизационная стоимость операции - [math]O(1)[/math].

Математическое обоснование:

Пусть [math]n[/math] — количество операций, [math]m[/math] — количество элементов, задействованных в этих операциях. Очевидно [math]m \leq n[/math] Тогда:

[math]a = \frac{\sum\limits^{n}_{i=1} {t_i}}{n} = \frac{\sum\limits^{n}_{i=1} \sum\limits^{m}_{j=1} {t_{ij}}}{n} = \frac{\sum\limits^{m}_{j=1} \sum\limits^{n}_{i=1} {t_{ij}}}{n},[/math] где [math]{t_{ij}}[/math] — стоимость [math]i[/math]-ой операции над [math]j[/math]-ым элементом. Величина [math]\sum\limits^{n}_{i=1} {t_{ij}}[/math] не превосходит 2, т. к. над элементом можно совершить только 2 операции, стоимость которых равна 1 — добавление и удаление. Тогда:

[math]a \leq \frac{2m}{n} \leq 2,[/math] так как [math]m \leq n[/math].

Таким образом, cредняя амортизационная стоимость операций [math]a = O(1)[/math].

Метод потенциалов

Теорема (О методе потенциалов):

Введём для каждого состояния структуры данных величину [math]\phi[/math] — потенциал. Изначально потенциал равен [math]\phi_0[/math], а после выполнения [math]i[/math]-ой операции — [math]\phi_i[/math]. Стоимость [math]i[/math]-ой операции обозначим [math]a_i = t_i + \phi_i - \phi_{i-1}[/math]. Пусть [math]n[/math] — количество операций, [math]m[/math] — размер структуры данных. Тогда средняя амортизационная стоимость операций [math]a = O(f(n, m)),[/math] если выполнены два условия: 1) Для любого [math]i: \enskip a_i = O(f(n, m))[/math] 2) Для любого [math]i: \enskip \phi_i = O(n \relax f(n, m))[/math]

Доказательство:

[math]\triangleright[/math]

[math]a = \frac{\sum\limits^{n}_{i = 1} {t_i}}{n} = \frac{\sum\limits^{n}_{i = 1} {a_i} + \sum\limits^{n - 1}_{i = 0} {\phi_i} - \sum\limits^{n}_{i = 1} {\phi_i} }{n} = \frac{n \relax O(f(n, m)) + \phi_0 - \phi_n}{n} = O(f(n, m))[/math]

[math]\triangleleft[/math]

Пример

В качестве примера вновь рассмотрим стек с операцией [math]multipop(a)[/math]. Пусть потенциал — это количество элементов в стеке. Тогда:

1.1) [math]a_{push} = 1 + 1 = 2,[/math] т. к. время выполнения операции push — 1, и изменение потенциала — тоже 1.

1.2) [math]a_{pop} = 1 - 1 = 0,[/math] т. к. время выполнения операции pop — 1, а изменение потенциала — -1.

1.3) [math]a_{multipop} = k + k = 0,[/math] т. к. время выполнения операции multipop(k) — k, а изменение потенциала — -k.

2) Для любого [math]i: \enskip \phi_i = O(n),[/math] так как элементов в стеке не может быть больше [math]n[/math]

Таким образом, [math]f(n, m) = 1[/math], а значит, cредняя амортизационная стоимость операций [math]a = O(1)[/math].

Метод предоплаты

Рассмотрим метод предоплаты на примере работы саморасширяющегося массива.
Пусть в массиве реализованы операции [math]push(x)[/math] - добавление элемента [math]x[/math] в последнюю незанятую ячейку массива, если она есть, и операция [math]exp(x)[/math] (от "expansion") - она выделяет память размером [math]2n[/math], если в массиве было [math]n[/math] элементов, и добавляет [math]x[/math] на [math]n+1[/math] место в новом массиве. Покажем, что амортизированная стоимость операции [math]exp[/math] равна [math]O(1)[/math].
Представим, что использование определенного количества времени равносильно использованию определенного количества монет (плата за выполнение каждой операции). Перед использованием операции [math]exp(x)[/math] программе необходимо выполнить [math]n[/math] операций [math]push(x)[/math]. Пусть на каждую операцию [math]push(x)[/math] тратися три монеты - одна на добавление элемента в массив, одну монету будем класть рядом с элементом на место [math]i[/math], и еще одну на [math]i-\frac{n}{2}[/math] место в массиве (до первого выполнения операции [math]exp(x)[/math] эта монета никуда не кладется). К тому моменту, как нам нужно будет выполнить операцию [math]exp(x)[/math] около каждого элемента массива будет лежать по одной монете, которая и будет тратиться на его копирование во вновь созданный массив удвоенной длины. Таким образом, каждая операция [math]push(x)[/math] стоит три монеты, а каждая операция [math]exp(x)[/math] ничего не стоит и произвродится за счет накопленных ранее монет, т.е. ее амортизированная стоимость равна [math]O(1)[/math], что и требовалось доказать.

Литература

Томас Кормен. Алгоритмы. Построение и анализ. - Санкт-Петербург, 2005. стр. 483-491.