Теоретическая оценка времени работы алгоритмов RMHC и (1+1)-ES для задач OneMax и MST

Постановка задачи однокритериальной оптимизации

Пусть [math]S[/math] — дискретное пространство решений, а [math]f : S \rightarrow \mathbb{R}[/math] — оценочная функция.

Тогда задача однокритериальной оптимизации заключается в том, чтобы найти такое [math]s \in S [/math], что [math] f(s)[/math] максимально. При этом рассматривается black-box scenario, что означает, что получить информацию об [math]f[/math] можно только путем ее вычисления.

Методы решения

HC(Hill Climbing)

В русскоязычном варианте этот метод называется методом спуска. Общая схема данного алгоритма выглядит следующим образом:

x [math]\leftarrow[/math] random
while(true)
  x' [math]\leftarrow[/math] neighbour(x)
  f(x') [math]\geq[/math] f(x) [math] \Rightarrow [/math] x = x' 

Итерации выполняются, пока не будет удовлетворен критерий останова. Возможны два варианта HC:

1) first ascent — в качестве [math]x'[/math] выбирается первый из соседей, для которого [math]f(x') \geq f(x)[/math]

2) steepest ascent — осуществляется перебор всех соседей, и в качестве [math]x'[/math] выбирается тот, для которого [math]f(x')-f(x)[/math] максимально

RMHC (Random Mutation Hill Climbing)

В данном алгоритме применяется же схема, что и для метода спуска, но [math] x'[/math] получают путем случайного изменения одного из компонентов решения [math] x [/math].

ES (Evolution Strategies)

Это широкий класс алгоритмов поиска, основанных на идеях приспособления и эволюции. Существуют различные вариации ES:

1) (1+1)-ES — на каждой итерации существует одно исходное решение [math] x[/math] и одно промежуточное решение [math]x'[/math]. После внесения случайного изменения в каждый из компонентов [math] x[/math], [math]x'[/math] может оказаться любым элементом [math]S[/math], но, чем он ближе к [math]x[/math], тем выше вероятность его выбора.

2) (1+[math]\lambda[/math])-ES — на каждой итерации генерируется [math]\lambda[/math] промежуточных решений, среди них выбирается лучшее.

3) ([math]\mu[/math]+[math]\lambda[/math])-ES — на каждой итерации генерируется [math]\lambda[/math] промежуточных решений, среди них выбирается [math]\mu[/math] лучших.

Примеры задач

OneMax

Задача состоит в том, чтобы найти битовую строку длины [math]n[/math], состоящую из одних единиц. Оценочная функция — количество единиц в текущем решении:

[math]f(x_1, x_2, \dots , x_n) = OneMax(x_1, x_2, \dots , x_n) = x_1 + x_2, + \dots + x_n [/math]

MST (Minimum spanning tree)

Известная задача на графах, формулируется следующим образом. Пусть дан связный неориентированный граф [math] G = (V, E) [/math], с ребрами веса [math] w_e [/math]. Требуется найти остовное дерево [math]T = (V, E')[/math] минимального веса [math] w(T) = \sum_{e \in E'} w_e [/math].

Оценка времени работы для OneMax

Чтобы оценить время работы вышеописанных алгоритмов на задаче OneMax необходимо доказать несколько утверждений.

Утверждение (1):

[math] ( 1 - \frac{1}{n} ) ^ {n-1} \geq \frac{1}{e}[/math]

[math]\triangleright[/math]

Из курса математического анализа известно, что [math] lim_{n \to \infty}(1 + \frac{1}{n})^n = e [/math]. Путем несложных преобразований получаем: [math] (\frac {1} {1 + \frac{1}{n}})^n = (\frac {1} {\frac{n + 1}{n}})^n = (\frac {n} {n+1})^n \stackrel{ _{m = n + 1}}{=} (1 - \frac{1}{m}) ^ {m-1}[/math].

[math]\triangleleft[/math]

Утверждение (2):

[math] \frac{n^k}{k^k} \leq C_n^k (1)[/math] [math] C_n^k \leq \frac{n^k}{k!} (2)[/math]

[math]\triangleright[/math]

1) Из определения [math] C_n^k [/math] сразу следует [math] (2) [/math] : [math] C_n^k = \frac{n!}{k!(n-k)!} \leq \frac{n^k}{k!}[/math]. 2) Известно, что для [math] a,b \gt 1 [/math] справедливо [math]b \leq a \Rightarrow \frac{a}{b} \leq \frac{a - 1} {b - 1}[/math] Отсюда, вновь воспользовавшись определением [math] C_n^k [/math], получаем [math](1) [/math].

[math]\triangleleft[/math]

Утверждение (3):

[math] (\frac{1}{n})^k (1 - \frac{1}{n})^{n - k} \geq \frac{1}{e n^k} [/math].

[math]\triangleright[/math]

[math] (1 - \frac{1}{n})^{n - k} \geq \frac{1}{e} [/math] по утверждению(1), отсюда следует требуемый результат.

[math]\triangleleft[/math]

Утверждение (4):

[math] C_n^k \frac{1}{n}^k(1 - \frac{1}{n})^{n - k} \geq \frac{1}{e k^k} [/math].

[math]\triangleright[/math]

[math] C_n^k (\frac{1}{n})^k(1 - \frac{1}{n})^{n - k} \geq \frac{n^k}{k^k} \frac{1}{e n^k} = \frac{1}{e k^k}[/math] по утверждению(2) и утверждению(3).

[math]\triangleleft[/math]

Утверждение (Лемма об ожидании):

Если вероятность наступления события [math]A[/math] на каждом шаге равна [math]p[/math], то матожидание наступления этого события [math]E(t_A) = \frac{1}{p}[/math].

[math]\triangleright[/math]

По определению математического ожидания: [math]E(t_A) = 1 \cdot p + 2 (1-p) p + 3 (1 - p)^2 p + \dots + k (1 - p)^k p + \dots = \sum_{i=1}^\infty i p (1 - p) ^{i - 1} = p\sum_{i=1}^\infty i (1 - p) ^{i - 1}[/math]. Из курса математического анализа известно, что [math] \frac{1}{1 - x} = \sum_{i=0}^\infty x^i [/math], а также то, что этот ряд удовлетворяет условиям теоремы о почленном дифференцировании. Воспользовавшись этим фактом, получаем: [math] \frac{1}{1 - x}' = \frac{1}{(1 - x) ^ 2} = \sum_{i=0}^\infty i x^{i - 1} [/math]. Отсюда видно, что: [math] \frac{p}{ (1 - (1 - p)) ^ 2} = p \sum_{i=1}^\infty i (1 - p)^{i-1} = \frac{1}{p} [/math].

[math]\triangleleft[/math]

Алгоритм RMHC

Решение задачи OneMax с помощью алгоритма RMHC выглядит следующим образом. В качестве начального решения примем случайный вектор, а затем на каждой итерации равномерно выбираем и инвертируем один бит из [math] n [/math]. Пусть [math] k [/math] — количество единиц в векторе (то есть значение [math] f [/math]) в начале фазы. При [math] k + 1 = k' \gt k [/math] фаза заканчивается.

Оценим время работы алгоритма для данной задачи.

Вероятность окончания фазы — это вероятность того, что будет выбран один из оставшихся [math]n - k[/math] нулевых битов: [math] \frac{n - k}{n} [/math]. Тогда по лемме об ожидании [math] E(t) = \frac{n}{n-k} [/math] для конкретной фазы.

Отсюда ожидаемая продолжительность всех фаз равна: [math] \sum_{k=0}^{n-1} \frac{n}{n-k} = n \sum_{i=1}^{n} \frac{1}{i} = O(n \log n) [/math]

Алгоритм (1+1)-ES

Применим (1+1)-ES к решению задачи OneMax. Для этого на каждой итерации независимо для каждого бита инвертируем его с вероятностью [math] p = \frac{1}{n} [/math]. Пусть [math] k [/math] — значение [math] f [/math] в начале фазы. При [math] k' \gt k [/math] фаза заканчивается.

Оценим время работы алгоритма для данной задачи.

Чтобы количество единиц увеличилось, необходимо из перевернуть хотя бы один [math]n - k[/math] нулевых битов, и при этом не затронуть единичных. С учетом того, что вероятность переворота [math] \frac{1}{n} [/math], получаем вероятность окончания фазы [math] (n - k)\frac{1}{n}(1 - \frac{1}{n}) ^ {n-1} \geq \frac{n - k}{e n}[/math] по утверждению(3). Тогда по лемме об ожидании [math] E(t) \leq \frac{e n}{n-k} [/math] для конкретной фазы.

Отсюда ожидаемая продолжительность всех фаз меньше либо равна: [math] \sum_{k=0}^{n-1} \frac{e n}{n-k} = e n \sum_{i=1}^{n} \frac{1}{i} = O(n \log n) [/math]

Оценка времени работы с использованием Drift Analysis

Теорема (Drift theorem):

Пусть [math]X_0, X_1, \dots[/math] — неотрицательные целочисленные случайные величины и существует [math]\delta \gt 0[/math] такое что: [math]\forall t \in \mathbb{N}, x \in \mathbb{N}_0 : E(X_t | X_{t-1} = x) \leq (1 - \delta) x[/math]. Тогда [math]T = \min\{t \in \mathbb{N}_0 | X_t = 0\}[/math] (момент достижения оптимума) удовлетворяет: [math]E(T) \leq \frac{1}{\delta}(\ln(X_0) + 1)[/math]

Теорема (An Improved Drift theorem):

Пусть [math]X_0, X_1, \dots[/math] — случайные величины из [math]\{0\} \cup [1, \infty)[/math] и существует [math]\delta \gt 0[/math] такое что: [math]\forall t \in \mathbb{N}, x \in \mathbb{N}_0 : E(X_t | X_{t-1} = x) \leq (1 - \delta) x[/math]. Тогда [math]T = \min\{t \in \mathbb{N}_0 | X_t = 0\}[/math] удовлетворяет: [math]E(T) \leq \frac{1}{\delta}(\ln(X_0) + 1)[/math], [math]\forall c \gt 0, Pr(T \gt \frac{1}{\delta}(\ln(X_0) + c)) \leq e ^ {-c}[/math]

Теорема о дрифте с успехом применяется для оценки времени работы эволюционных алгоритмов в различных ситуациях. Рассмотрим несколько примеров.

RMHC для OneMax

Пусть [math]X_t[/math] — число нулевых бит после итерации [math]i[/math]: [math]X_t = f_{opt} - f(X_t)[/math]

Пусть [math]X_{t-1} = k[/math]. Тогда

[math]E(X_t | X_{t-1} = k) = (k-1)\frac{k}{n} + k \frac{n-1}{n} = k (1 - \frac{1}{n})[/math], то есть [math] \delta = \frac{1}{n}[/math].

Отсюда по теореме о дрифте, с учетом того, что [math] X_0 \leq n [/math] получаем: [math] E(T) \leq n(\ln{n} + 1)[/math].

(1+1)-ES для OneMax

Пусть [math]X_t[/math] — число нулевых бит после итерации [math]i[/math]: [math]X_t = f_{opt} - f(X_t)[/math].

Пусть [math]X_{t-1} = k[/math]. Тогда вероятность перевернуть один нулевых битов равна [math]k \frac{1}{n} ( 1 - \frac{1}{n})^{n-1} \geq \frac{k}{e n} [/math]. Отсюда:

[math]E(X_t | X_{t-1} = k) \leq (k-1)\frac{k}{e n} + k (1 - \frac{k}{e n}) = k (1 - \frac{1}{e n})[/math], то есть [math] \delta = \frac{1}{e n}[/math].

Применяем теорему о дрифте, с учетом того, что [math] X_0 \leq n [/math], и получаем: [math] E(T) \leq e n(\ln{n} + 1)[/math].

(1+1)-ES для MST

Рассмотрим в качестве более содержательного примера поиск минимального остовного дерева с помощью (1+1)-ES. Решение представляет собой битовую строку [math]x[/math] длины [math]m = |E|[/math], где [math]x_e = 1[/math], если [math]e \in E'[/math], и [math]x_e = 0[/math] в обратном случае.

На каждой итерации независимо для каждого бита инвертируем его с вероятностью [math]\frac{1}{m}[/math].

В качестве оценочной функции возьмем [math]w(T) + c_{penalty} ({\#comp} - 1) [/math], где [math]\#comp[/math] — число компонент связности в текущем [math] T [/math].

Теорема (Neumann, Wegener (2004)):

Ожидаемое время работы (1+1)-ES для задачи MST равно [math]O(m^2 \log(m w_{max}))[/math], где [math]w_{max}[/math] — максимальный вес ребра.

Доказательство:

[math]\triangleright[/math]

1) Пусть после [math]O(m \log m)[/math] итераций [math]T[/math] связно: [math]X_t = {\#comp} - 1[/math] после итерации [math]t[/math]. Если [math]X_{t - 1} = k[/math], то существует как минимум [math]k[/math] ребер, которые не входят в [math]T[/math] и добавление которых уменьшает [math]X_t[/math]. По аналогии с решением задачи OneMax получаем: [math]E(X_t) \leq (1 - \frac{1}{e m})k[/math]. Применяя теорему о дрифте, получаем требуемый результат. 2) Пусть [math]T[/math] уже связно. Тогда оно остается связным и на дальнейших итерациях. Пусть — это разница между весом текущего дерева и оптимального: [math] X_t = w(T) - w_{opt} [/math] для [math]T[/math] после итерации [math]t[/math]. Если [math]X_{t-1} = D \gt 0[/math], то существуют наборы ребер [math]e_1, \dots, e_k[/math] из [math]T[/math] и [math]e'_1, \dots, e'_k[/math] из [math]E \setminus T[/math] такие, что [math]T' = T - \{e_1, \dots , e_k\} + \{e'_1, \dots , e'_k\}[/math] — это минимальное остовное дерево. Следовательно [math]D = \sum_{i} (w(e_i) - w(e'_i))[/math], и для всех [math]i[/math] [math]T_i = T - e_i + e'_i[/math] — остовное дерево с весом [math]w(T_i) \lt w(T)[/math]. С верояностью [math]\geq 1/e m^2[/math], одна итерация обменяет в точности ребра [math]e_i[/math] и [math]e'_i[/math]. Тогда: [math]E(X_t) \leq D - \sum_{i} (1/e m^2) (w(e_i) - w(e'_i))= (1 - 1/e m^2) D [/math] Используем теорему о дрифте, учитывая, что [math]X_0 \leq \sum_{e \in E} w(e) \leq m w_{max}[/math], и получаем требуемый результат.

[math]\triangleleft[/math]

Источники

1. Doerr B.: Tutorial: Drift Analysis. GECCO '11 Proceedings of the 13th annual conference companion on Genetic and evolutionary computation, 1311-1320 (2011)
2. Droste S., Jansen T., Wegener I.: On the analysis of the (1 + 1) evolutionary algorithm. Theoretical Computer Science 276, 51–81 (2002)
3. Witt C.: Randomized Search Heuristics. Algorithms for Massive Data Sets, DTU Informatik,Danmarks Tekniske Universitet (2010)