Поиск с помощью золотого сечения

Поиск с помощью золотого сечения (Golden section search) - это улучшение наивной реализации троичного поиска, служащего для нахождения минимума/максимума функции. При простом троичном поиске на каждой итерации функция вычисляется в двух точках. Метод же золотого сечения требует вычисления лишь в одной точке (за исключением первой итерации). За счет этого достигается выигрыш в производительности.

Алгоритм

Рассмотрим одну итерацию алгоритма троичного поиска. Попробуем подобрать такое разбиение отрезка на три части, чтобы на следующей итерации одна из точек нового разбиения совпала с одной из точек текущего разбиения. Тогда в следующий раз не придется считать функцию в двух точках, так как в одной она уже была посчитана.

Точки [math]x_1[/math] и [math]x_2[/math] разбивают отрезок на три части. Потребуем, чтобы одновременно выполнялось:

[math] \frac{a + b}{c} = \frac{b + c}{a} = \varphi [/math]

[math] \frac{a}{b} = \varphi [/math]

[math] \frac{c}{b} = \varphi [/math]

Где [math] \varphi [/math] - это некоторое отношение, в котором мы делим отрезок (точки [math]x_1[/math] и [math]x_2[/math] разбивают отрезок симметрично).

Тогда:

[math] a + b = \varphi c, a = \varphi b, c = \varphi b[/math], откуда получаем [math] \varphi + 1 = \varphi^2 \Rightarrow \varphi = \frac{1 + \sqrt{5}}{2}[/math]   (тот корень уравнения, который меньше нуля, по понятным причинам отбросили).

Это число совпадает с золотым сечением. Отсюда название метода.

Для реализации алгоритма нам потребуется найти [math] a [/math] и [math] a + b [/math]. Если [math] L [/math] - длина исследуемого отрезка, тогда:

[math] (\frac{b + c}{a} = \varphi;\; b + c = L - a) \Rightarrow[/math]

[math] a = \frac{L}{\varphi + 1} [/math]

[math] a + b = L - c = L - a = L - \frac{L}{\varphi + 1}[/math]

Причем, заметим что в силу того что [math]\varphi[/math] - золотое сечение, то [math]\frac{1}{\varphi + 1} = 2 - \varphi[/math].

Формально для поиска минимума (для максимума - делается аналогично) функции [math] f [/math] делаем следующее:

Шаг 1:

Определяем границы поиска [math]lbound[/math] и [math]rbound[/math], затем устанавливаем текущее разбиение:

[math]x_1 = lbound + \frac{rbound - lbound}{\varphi + 1}[/math]

[math]x_2 = rbound - \frac{rbound - lbound}{\varphi + 1}[/math]

и вычислим функцию на них: [math]f_1 = f(x_1), f_2 = f(x_2)[/math]

Старая точка x1 уже делит отрезок в нужном отношении, поэтому нет необходимости вычислять ее заново (красным отмечены новые значения точек).

Шаг 2:

если [math]f_1 \lt f_2[/math], тогда

[math]rbound = x_2[/math]

[math]x_2 = x_1, f_2 = f_1[/math]

[math]x_1 = lbound + \frac{rbound - lbound}{\varphi + 1},\; f_1 = f(x_1)[/math]

иначе:

[math]lbound = x_1[/math]

[math]x_1 = x_2, f_1 = f_2[/math]

[math]x_2 = rbound - \frac{rbound - lbound}{\varphi + 1},\; f_2 = f(x_2)[/math]

Шаг 3:

если точность [math]|rbound - lbound| \lt \varepsilon[/math] нас устраивает, тогда останавливаемся, и искомая точка [math]x = \frac{lbound + rbound}{2}[/math], иначе назад к шагу 2

Псевдокод

phi = (1 + sqrt(5)) / 2
resphi = 2 - phi

goldenSectionSearch(f, lbound, rbound, eps)
   x1 = lbound + resphi * (rbound - lbound)
   x2 = rbound - resphi * (rbound - lbound)
   f1 = f(x1)
   f2 = f(x2)
   
   do
       if f1 < f2:
           rbound = x2
           x2 = x1
           f2 = f1
           x1 = lbound + resphi * (rbound - lbound)
           f1 = f(x1)
       else:
           lbound = x1
           x1 = x2
           f1 = f2
           x2 = rbound - resphi * (rbound - lbound)
           f2 = f(x2)
   while (abs(rbound - lbound) > eps)
   
   return (x1 + x2) / 2

Время работы

Так как на каждой итерации мы считаем два значения функции и уменьшаем область поиска в полтора раза, пока [math] r - l \gt \varepsilon[/math], то время работы алгоритма составит [math]2 \log_{\frac32} \left(\frac{r - l}{\varepsilon}\right)[/math]

Так как на каждой итерации мы считаем одно значение функции и уменьшаем область поиска в [math] \varphi [/math] раз, пока [math] r - l \gt \varepsilon[/math], то время работы алгоритма составит [math] log_{\varphi}(\frac{r - l}{\varepsilon})[/math].

Если удельный вес вычисления функции [math] f [/math] достаточно большой, тогда получим ускорение работы примерно в 2,4 раз по сравнению с неулучшенным троичным поиском.

См также

• Троичный поиск

Ссылки

• Википедия - Метод золотого сечения

• Wikipedia - Golden section search (english)