Изменения

Тогда задача однокритериальной оптимизации заключается в том, чтобы найти такое <tex>s \in S</tex> - пространство решений , что <tex> f(дискретноs)</tex> максимально. При этом рассматривается black-box scenario,что означает, что получить информацию об <tex>f</tex> можно только путем ее вычисления.В случае эволюционных алгоритмов время их работы измеряется в количестве вычислений оценочной функции.

<tex>f : S \rightarrow \mathbb{R}</tex> - оценочная функция. Задача: найти <tex>s \in S : f(s) \rightarrow max </tex>. При этом рассматривается black-box scenario, что означает, что получить информацию об <tex>f</tex> можно только путем ее вычисления. == Методы Рассмотренные методы решения ====='''HC'''(Hill Climbing)=== В русскоязычном варианте этот метод называется методом спуска. Общая схема данного алгоритма выглядит следующим образом:

x' <tex>\leftarrow</tex> neiborneighbour(x)

1) '''first ascent''' {{---}} в качестве <tex>x'</tex> выбирается первый из соседей, для которого <tex>f(x') \geq f(x)</tex>;

2) '''steepest ascent''' {{---}} осуществляется перебор всех соседей, и в качестве <tex>x'</tex> выбирается тот, для которого <tex>f(x')-f(x)</tex> максимально.

Та В данном алгоритме применяется же схема, что и для HCметода спуска, но <tex> x'</tex> получают путем случайного изменения одного из компонентов решения <tex> x </tex>.

1) <tex>(1+1)-ES </tex> {{---}} после на каждой итерации существует одно исходное решение <tex> x</tex> и одно промежуточное решение <tex>x'</tex>. После внесения случайного изменения в каждый из компонентов <tex> x</tex>, <tex>x'</tex> может оказаться любым элементом <tex>S</tex>, но, чем он ближе к <tex>x</tex>, тем выше вероятность его выбора.

2) (1+<tex>(1+\lambda)-ES</tex> )-ES {{---}} на каждой итерации генерируется <tex>\lambda</tex> промежуточных решений, среди них выбирается лучшее.

3) (<tex>\mu</tex>(1+<tex>\lambda)-ES</tex> )-ES {{---}} на каждой итерации генерируется <tex>\lambda</tex> промежуточных решений, среди них выбирается <tex>\mu</tex> лучших.

Найти Задача состоит в том, чтобы найти битовую строку длины <tex>n</tex>, состоящую из одних единиц. Оценочная функция{{---}} количество единиц в текущем решении:

Дан Известная задача на графах, формулируется следующим образом. Пусть дан связный неориентированный граф <tex> G = (V, E) </tex>, с ребрами веса . Для каждого ребра <tex>e \in E</tex> задан вес <tex> w_e </tex>. Требуется найти минимальное [[Дискретная математика, алгоритмы и структуры данных#Построение остовных деревьев|остовное дерево ]] <tex>T = (V, E')</tex> минимального веса <tex> w(T) = \sum_{e \in E'} w_e </tex>.

|proof=Из курса математического анализа известно, что <tex> lim_{n \to \infty}(1 + \frac{1}{n})^n = e </tex>. Путем несложных преобразований получаем: <tex> (\frac {1} {1 + \frac{1}{n}})^n = (\frac {1} {\frac{n + 1}{n}})^n = (\frac {n} {n+1})^n \stackrel{ _{m = n + 1}}{=}(1 - \frac{1}{m}) ^ {m-1}</tex>. Чтобы перейти от предела к неравенству, докажем, что <tex>(1 + \frac{1}{n})^n \leq e</tex>. Известно, что <tex>1 + x \leq e^x</tex>. Пусть <tex>x = \frac{1}{n}</tex>, тогда <tex>1 + \frac{1}{n} \leq e^{\frac{1}{n}}</tex>. Возведем обе части в степень <tex>n</tex> и получим требуемое неравенство.

<tex> (\frac {1} {1 + \frac{1}{n}})^n = (\frac {1} {\frac{n + 1}{n}})^n = (\frac {n} {n+1})^n \stackrel{ _{m = n + 1}}{=}(1 - \frac{1}{m}) ^ {m-1}</tex>}}

1) Из определения <tex> C_n^k </tex> сразу следует <tex> (2) </tex> : <tex> C_n^k = \frac{n!}{k!(n-k)!} \leq \frac{n^k}{k!}</tex>.

2) Известно, что для <tex> a,b > 1 </tex> справедливо <tex>b \leq a \Rightarrow \frac{a}{b} \leq \frac{a - 1} {b - 1}</tex>Отсюда, aвновь воспользовавшись определением <tex> C_n^k </tex>,b получаем <tex> 1 \Rightarrow (1) </tex>.

|statement=<tex> C_n^k (\frac{1}{n})^k(1 - \frac{1}{n})^{n - k} \geq \frac{1}{e k^k} </tex>.

|statement=Если вероятность наступления события <tex>A</tex> на каждом шаге равна <tex>p</tex>, то матожидание времени наступления этого события <tex>E(t_A) = \frac{1}{p}</tex>.|proof=<tex>E(t_A) = 1 \cdot p + 2 (1-p) p + 3 (1 - p)^2 p + \dots + k (1 - p)^k p + \dots = \sum_{i=1}^\infty i p (1 - p) ^{i - 1} = p\sum_{i=1}^\infty i (1 - p) ^{i - 1}</tex>По определению математического ожидания:

<tex> E(t_A) = 1 \cdot p + 2 (1-p) p + 3 (1 - p)^2 p + \dots + k (1 - p)^k p + \fracdots = \sum_{i=1}^\infty i p (1 - p) ^{i - 1 - x} = p\sum_{i=01}^\infty xi (1 - p) ^{i - 1}</tex> .

ПродифференцировавИз курса математического анализа известно, получаем:что <tex> \frac{1}{1 - x} = \sum_{i=0}^\infty x^i </tex>, а также то, что этот ряд удовлетворяет условиям теоремы о почленном дифференцировании.

<tex> (\frac{1}{1 - x})' = \frac{1}{(1 - x) ^ 2} = \sum_{i=0}^\infty i x^{i - 1} </tex>. Отсюда видно, что: <tex> \frac{p}{ (1 - (1 - p)) ^ 2} = p \sum_{i=1}^\infty i (1 - p)^{i-1} = \frac{1}{p} </tex>.

На каждом шаге равномерно Решение задачи OneMax с помощью алгоритма RMHC выглядит следующим образом. В качестве начального решения примем случайный вектор, а затем на каждой итерации равновероятно выбираем и инвертируем один бит из <tex> n </tex>. Пусть <tex> k </tex> {{---}} количество единиц в векторе (то есть значение <tex> f </tex> ) в начале фазы. При <tex> k + 1 = k' > k </tex> фаза заканчивается.

Вероятность окончания фазы {{---}} это вероятность того, что будет выбран один из оставшихся <tex>n - k</tex> нулевых битов: <tex> \frac{n - k}{n} </tex>. Тогда по [[#proposal5|лемме об ожидании]] <tex> E(t) = \frac{n}{n-k} </tex> для конкретной фазы.

Отсюда ожидаемая продолжительность всех фазравна:

Независимо Применим (1+1)-ES к решению задачи OneMax. Для этого на каждой итерации независимо для каждого бита инвертируем его с вероятностью <tex> p = \frac{1}{n} </tex>. Пусть <tex> k </tex> {{---}} значение <tex> f </tex> в начале фазы. При <tex> k' > k </tex> фаза заканчивается.

Вероятность Чтобы количество единиц увеличилось, необходимо из перевернуть хотя бы один из <tex>n - k</tex> нулевых битов, и при этом не затронуть единичных. С учетом того, что вероятность переворота <tex> \frac{1}{n} </tex>, получаем вероятность окончания фазы <tex> (n - k)\frac{1}{n}(1 - \frac{1}{n}) ^ {n-1} \geq \frac{n - k}{e n}</tex> по [[#proposal3|утверждению(3)]]. Тогда по [[#proposal5|лемме об ожидании]] <tex> E(t) \leq \frac{e n}{n-k} </tex> для конкретной фазы.

{{[[Теоремао дрифте |id=theorem1|about=Drift theorem|statement= Пусть <tex>X_0, X_1, \dots</tex> {{---}} неотрицательные целочисленные случайные величины и существует <tex>\delta > 0</tex> такое что: <tex>\forall t \in \mathbb{N}, x \in \mathbb{N}_0 : E(X_t | X_{t-1} = x) \leq (1 - \delta) xТеорема о дрифте]] с успехом применяется для оценки времени работы эволюционных алгоритмов в различных ситуациях. Примеры можно найти в работе</texref>Doerr B. Тогда <tex>T = \min\{t \in \mathbb{N}_0 | X_t = 0\}</tex> удовлетворяет:<tex>E(T) \leq \frac{1}{\delta}(\ln(X_0) + 1)</tex>}} {{Теорема|about=An Improved Drift theorem|statement= Пусть <tex>X_0, X_1, \dots</tex> {{---}} случайные величины из <tex>\{0\} \cup [1, \infty)<http:/tex> и существует <tex>\delta > 0</tex> такое что: <tex>\forall t \in \mathbb{N}, x \in \mathbb{N}_0 : E(X_t | X_{t-1} = x) \leq (1 - \delta) x<dl.acm.org/tex>citation. Тогда <tex>T cfm?id= \min\{t \in \mathbb{N}_0 | X_t = 0\}</tex> удовлетворяет2002138 Tutorial: <tex>E(T) \leq \frac{1}{\delta}(\ln(X_0) + 1)</tex> <tex>\forall c > 0Drift Analysis.] GECCO '11 Proceedings of the 13th annual conference companion on Genetic and evolutionary computation, Pr(T > 1311-1320 \frac{1}{\delta}(\ln(X_0) + c)2011) \leq e ^ {-c}</texref>}}.

<tex>E(X_t | X_{t-1} = k) = (k-1)\frac{k}{n} + k \frac{n-1k}{n} = k (1 - \frac{1}{n})</tex>, то есть <tex> \delta = \frac{1}{n}</tex>.

Отсюда по [[#theorem1Теорема о дрифте|теореме о дрифте]], с учетом того, что <tex> X_0 \leq n </tex> получаем: <tex> E(T) \leq n(\ln{n} + 1)</tex>.

Пусть <tex>X_t</tex> {{---}} число нулевых бит после итерации <tex>i</tex>: <tex>X_t = f_{opt} - f(X_t)</tex>.

Пусть <tex>X_{t-1} = k</tex>. Тогда вероятность перевернуть один нулевых битов равна <tex>k \frac{1}{n} ( 1 - \frac{1}{n})^{n-1} \geq \frac{k}{e n} </tex>. Отсюда:

Отсюда Применяем [[#theorem1Теорема о дрифте|теореме теорему о дрифте]], с учетом того, что <tex> X_0 \leq n </tex> , и получаем: <tex> E(T) \leq e n(\ln{n} + 1)</tex>.

Рассмотрим в качестве более содержательного примера поиск минимального остовного дерева с помощью (1+1)-ES. Решение представляет собой битовую строку <tex>x</tex> длины <tex>m = |E|</tex>, где <tex>x_e = 1</tex>, если ребро <tex>e \in E'</tex> входит в текущий подграф <tex>T</tex>, и <tex>x_e = 0</tex> в обратном случае.

Мутация: На каждой итерации независимо для каждого бита инвертируем его с вероятностью <tex>\frac{1}{m}</tex>.

Фитнес-функция: В качестве оценочной функции возьмем <tex>w(T) + c_C_{penalty} (|T| - n + 1) + {C_{penalty}}^2 ({\#comp} - 1) </tex>, где <tex>\#comp</tex> {{---}} число компонент связности в текущем <tex> T </tex>, а <tex> C_{penalty} > m w_{max}</tex>, где <tex>w_{max}</tex> {{---}} максимальный вес ребра.

Разобьем доказательство теоремы на три этапа: получение связного подграфа, получение остовного дерева и получение минимального остовного дерева.  1) Пусть Покажем, что после <tex>O(m \log m)</tex> итераций <tex>T</tex> связно:.Пусть <tex>X_t = {\#comp} - 1</tex> после итерации <tex>t</tex>. Если <tex>X_{t - 1} = k</tex>, то существует как минимум <tex>k</tex> ребер, которые не входят в <tex>T</tex> и добавление которых уменьшает <tex>X_t</tex>. По аналогии с решением задачи OneMax получаем: <tex>E(X_t | X_{t-1} = k) \leq (1 - \frac{1}{e m})k</tex>. Применяя [[Теорема о дрифте|теорему о дрифте]], получаем требуемый результат. 

Если 2) Пусть <tex>X_{t - 1} = kT</tex>уже связно. Тогда оно остается связным и на дальнейших итерациях, то существует так как минимум <tex>k</tex> ребер, которые не входят в <tex>T</tex> и добавление которых уменьшает <tex>X_tC_{penalty}</tex>:достаточно велико.

Покажем, что после <tex>EO(m \log m)</tex> итераций <tex>T</tex> является деревом, то есть <tex>|T| = n - 1</tex>, где <tex>n = |V|</tex>.Пусть <tex>X_t) \leq = |T| - (1 n - \frac{1}{e m})k</tex>после итерации <tex>t</tex> (количество "лишних" ребер в <tex>T</tex>).

Применяя [[#theorem1|теорему о дрифте]]Если <tex>X_{t - 1} = k</tex>, то существует как минимум <tex>k</tex> ребер, удаление которых из <tex>T</tex> уменьшает <tex>X_t</tex>. По аналогии с решением задачи OneMax получаем требуемый результат.:

2) Пусть <tex>TE(X_t | X_{t-1} = k) \leq (1 - \frac{1}{e m})k</tex> уже связно. Тогда оно остается связным и на дальнейших итерациях.

Пусть <tex> X_t = w(T) - w_{opt} </tex> для <tex>T</tex> после итерации <tex>t</tex>Применяя [[Теорема о дрифте|теорему о дрифте]], получаем требуемый результат.

3) Пусть <tex>T' = T - \{e_1</tex> уже связно и является деревом. Тогда останется таковым и на дальнейших итерациях, \dots , e_k\} + \так как <tex>C_{e'_1, \dots , e'_k\penalty}</tex> {{---}} это MST,достаточно велико.

следовательно Пусть <tex>D = \sum_X_t </tex> для <tex>T</tex>{{i---}} (это разница между весом текущего дерева и оптимального: <tex> X_t = w(e_iT) - w(e'_i))w_{opt} </tex>, и для всех после итерации <tex>it</tex>.

Если <tex>T_i X_{t-1} = D > 0</tex>, то существуют наборы ребер <tex>e_1, \dots, e_k</tex> из <tex>T - e_i + </tex> и <tex>e'_1, \dots, e'_i_k</tex> {{---}} остовное дерево с из <tex>w(T_i) < w(E \setminus T)</tex>.такие, что

С верояностью <tex>T' = T - \{e_1, \geq 1/dots , e_k\} + \{e m^2</tex>'_1, \dots , одна итерация обменяет в точности ребра <tex>e_i</tex> и <tex>e'_i_k\}</tex>{{---}} это минимальное остовное дерево.

Следовательно <tex>E(X_t) \leq D - = \sum_{i} (1/e m^2) (w(e_i) - w(e'_i))= (1 - 1</e m^2) D tex>, и для всех <tex>i</tex>

<tex>T_i = T - e_i + e'_i</tex> {{---}} остовное дерево с весом <tex>w(T_i) < w(T)</tex>. С верояностью <tex>\geq 1/e m^2</tex>, одна итерация обменяет в точности ребра <tex>e_i</tex> и <tex>e'_i</tex>. Тогда: <tex>E(X_t | X_{t-1} = D) \leq D - \sum_{i} (1/e m^2) (w(e_i) - w(e'_i))= (1 - 1/e m^2) D </tex> Используем [[#theorem1Теорема о дрифте|теорему о дрифте]], учитывая, что

*Droste S., Jansen T., Wegener I. [http:<references //rain.ifmo.ru/~tsarev/teaching/ea-2012/lectures/7-DorsteJansenWegener.pdf| On the analysis of the (1 + 1) evolutionary algorithm]*Doerr B. Tutorial: [http://rain.ifmo.ru/~tsarev/teaching/ea-2012/lectures/p1311.pdf|Drift Analysis]*Witt C. [http://rain.ifmo.ru/~tsarev/teaching/ea-2012/lectures/slides-02283-20102.pdf|Randomized Search Heuristics]>