Изменения
→Пример задачи, решаемой методом convex hull trick
Convex hull trick {{---}} один из методов оптимизации [[Динамическое_программирование | динамического программирования]], использующий идею [[Статические_выпуклые_оболочки:_Джарвис,_Грэхем,_Эндрю,_Чен,_QuickHull|выпуклой оболочки]]. Позволяет улучшить асимптотику решения некоторых задач, решемых методом динамического программирования, с <math>O(n^2)</math> до <tex>O(n\cdot\log(n))</tex>. Техника впервые появилась в 1995 году (задачу на нее предложили в USACO {{---}} национальной олимпиаде США по программированию). Массовую известность получила после IOI (международной олимпиады по программированию для школьников) 2002. ==Постановка примера Пример задачи, решаемой методом convex hull trick==Рассмотрим задачу на ДП:{{Задача|definition = Есть <math>n </math> деревьев с высотами <mathtex>a1a_1, a2a_2, \dots an, a_n</mathtex>(в метрах). Требуется спилить их все, потратив минимальное количество монет на заправку бензопилы. Но пила устроена так, что она может спиливать только по <math>1</math> метру от дерева, к которому ее применили. Также после уменьшения высоты спиливаемого срубленного метра (любого дерева на 1 ее надо заправить) пилу нужно заправлять, платя за бензин определенное кол-во монет. Причем стоимость заправки бензина зависит от срубленных (полностью) деревьев. Если сейчас максимальный индекс срубленного дерева равен <tex>i</tex>, то цена заправки равна ci<tex>c_i</tex>. Изначально пила заправлена.И Также известны следующие ограничения : <mathtex>c[n] c_n = 0, a[1] a_1 = 1, a[i]a_i</mathtex> возрастают, <mathtex>c[i]c_i</mathtex> убывают. Изначально пила заправлена.(убывание и возрастание нестрогие)}}(Задача H с H отсюда : Санкт-Петербургских сборов к РОИ 2016 <ref>[http://neerc.ifmo.ru/school/camp-2016/problems/20160318a.pdf Сайт с задачами Санкт-Петербургских сборов к РОИ 2016]</ref>)</noinclude><includeonly>{{#if: {{{neat|}}}|<div style="background-color: #fcfcfc; float:left;"><div style="background-color: #ddd;">'''Задача:'''</div><div style="border:1px dashed #2f6fab; padding: 8px; font-style: italic;">{{{definition}}}</div></div>|<table border="0" width="100%"><tr><td style="background-color: #ddd">'''Задача:'''</td></tr><tr><td style="border:1px dashed #2f6fab; padding: 8px; background-color: #fcfcfc; font-style: italic;">{{{definition}}}</td></tr></table>}}</includeonly>
==Наивное решение==
Сначала заметим важный факт : т.к. <tex>c[i]</tex> убывают (нестрого) и <tex>c[n] = 0</tex>, то все <tex>c[i]</tex> неотрицательны.Понятно, что нужно затратив минимальную стоимость срубить последнее (<mathtex>n</mathtex>-е) дерево, т.к. после него все деревья можно будет пилить рубить бесплатно (т.к. <mathtex>c[n] = 0</mathtex>). Посчитаем следующую динамику : <mathtex>dp[i]</mathtex> {{- --}} минимальная стоимость, заплатив которую будет срублено можно добиться того, что дерево номер <mathtex>i.</mathtex> Тогда будет срублено.База динамики : <mathtex>dp[i1] = min_{j=0</tex>, т.к..i-изначально пила заправлена и высота первого дерева равна <math>1}(dp[j] + a[i] * c[j])</math>, по условию задачи. То есть Переход динамики : понятно, что выгодно рубить сначала более дорогие и низкие деревья, а потом более высокие и дешвые дешевые (док-во этого факта оставляется читателям как несложное упражнение, т.к. эта идея относится скорее к теме [[Теорема_Радо-Эдмондса_(жадный_алгоритм)|жадных алгоритмов]], чем к теме данной статьи). Тогда переберем Поэтому перед <tex>i</tex>-м деревом мы обязательно срубили какое-то <tex>j</tex>-е, причем <mathtex>j \leqslant i - 1< /tex>. Поэтому чтобы найти <tex>dp[i]</mathtex> нужно перебрать все <tex> 1 \leqslant j \leqslant i - индекс предыдущего срубленного 1</tex> и попытаться использовать ответ для дереваномер <tex>j</tex>. Пусть Итак, пусть перед <tex>i</tex>-м деревом мы его полностью срубили отптимальным (в смысле денег) способом. Тогда просто <mathtex>j</tex>-е, причем высота <tex>i</tex>-го дерева составляет <tex>a[i]</mathtex>, а т.к. последнее дерево, которое мы срубили, имеет индекс <tex>j</tex>, то стоимость каждого метра <tex>i</tex> раз уменьшим высоту -го дерева i на 1. Каждый такой раз будем платить составит <mathtex>c[j]</mathtex> за последующую заправку пилы. Итак, Поэтому на сруб <mathtex>i</mathtex>-го дерева мы заплатили потратим <mathtex>a[i]*\cdot c[j]</mathtex>монет.
Нетрудно видетьТакже не стоит забывать, что такая динамика работает ситуацию, когда <tex>j</tex>-е дерево полностью срублено, мы получили не бесплатно, а за <mathtex>dp[j]</tex> монет.Итоговая формула пересчета : <tex>Odp[i] = \min\limits_{j=1...i-1} (n^2dp[j] + a[i] \cdot c[j])</mathtex>.
Посмотрим на код вышеописанного решения: '''int''' <tex>\mathtt{simpleDP}</tex>('''int''' a[n], '''int''' c[n]) dp[1] = 0 dp[2] = dp[3] = ... =dp[n] =О<tex>\infty</tex> '''for''' i = 2 = 1..n dp[i] = <tex>+\infty</tex> '''for''' j = 1..i -Оптимизация1 '''if''' (dp[j] + a[i] <tex>\cdot</tex> c[j] < dp[i]) dp[i] = dp[j] + a[i] <tex>\cdot</tex> c[j] '''return''' dp[n]Нетрудно видеть, что такая динамика работает за <tex>O(n^2)</tex>. ==Ключевая идея оптимизации==Для начала сделаем замену обозначений. Давайте обозначим <mathtex>dp[j]</mathtex> за <mathtex>b[j]</mathtex>, <mathtex>аa[i]</mathtex> за <mathtex>x[i]</mathtex>, а <mathtex>c[j]</mathtex> за <mathtex>k[j]</mathtex>. Теперь формула приняла вид <mathtex>dp[i] = min_\min\limits_{j=0...i-1}(k[j]*\cdot x[i] + b[j])</mathtex>. Выражение <mathtex>k[j]*\cdot x + b[j]</mathtex> напоминает {{---}} это в точности уравнение прямой вида <mathtex>y = kx + b</mathtex>. Сопоставим каждому <mathtex>j</mathtex>, обработанному ранее , прямую <mathtex>y[j](x) = k[j]*\cdot x + b[j]</mathtex>. Из условия «<mathtex>c[i]</mathtex> убывают <math><=tex> \Leftrightarrow k[j]</mathtex> уменьшаются с номером <mathtex>j</mathtex>» следует то, что прямые, полученные ранее отсортированы в порядке убывания углового коэффицентакоэффициент. Давайте нарисуем несколько таких прямых :
[[Файл:picture1convexhull.png]]
[[Файл:picture3convexhull.png]]
==Детали реализации:==
==Р.Реализация== '''int''' <tex>\mathtt{ConvexHullTrick}</tex>('''int''' a[n], '''int''' c[n]) st[01] = 01 from front[01] = -<tex>\infty</tex><font color=green>// первая прямая покрывает все x-ы, начиная с -∞</font> sz = 1 <font color=green>// текущий размер выпуклой оболочки</font> pos = 0 1 <font color=green>// текущая позиция первго первого такого j, что x[i] >= \geqslant front[st[j]]</font > '''for ''' i = 12..n-1 { '''while ''' (front[pos] < x[i]) <font color=green>// метод 1 указателя (ищем первое pos, такое что x[i] покрывается "областью действия" st[pos]-той прямой </font > pos = pos ++pos1 j = st[pos] dp[i] = K[j] * <math>\cdot</math> a[i] + B[j] '''if ''' (i < n - 1) <font color=green>// если у нас добавляется НЕ последняя прямая, то придется пересчитать выпуклую оболочку </font > K[i] = bc[i] <font color=green>// наши переобозначения переменных </font > B[i] = dp[i]<font color=green>// наши переобозначения переменных </font > x = -inf<tex>\infty</tex> '''while (1) {''' ''true'' j = st[sz - 1] x = divide(B[j] - B[i], K[i] - K[j])<font color=green>// x-координата пересечения с последней прямой оболочки, округленное в нужную сторону (*) </font > '''if ''' (x > from[sz - 1]) '''break''' <font color=green>// перестаем удалять последнюю прямую из множества, если новая прямая пересекает ее позже, чем начинается ее "область действия" </font > sz = sz --sz }1<font color=green>// удаляем последнюю прямую, если она лишняя </font > st[sz+ 1] = i from front[sz++1] = x<font color=green>// добавили новую прямую </font > sz = sz + 1 } '''return''' dp[n] (Здесь функция <tex>\mathtt{divide(a, b) }</tex> возвращает нужное (*) округление <tex>\frac{a }{b}</ tex>. Приведем её код : '''int''' <tex>\mathtt{divide}</tex>('''int''' a, '''int''' b) delta = 0 '''if''' (a '''mod''' b ≠ 0) delta = 1 '''if''' ((a > 0 '''and''' b> 0)'''or''' (a < 0 '''and''' b < 0)) '''return''' [a / b] + delta '''return''' -[|a| / |b|] Такая реализация будет работать за <math>O(n)</math>.
==Динамический convex hull trick==
Заметим, что условия на прямые, что возрастание/убывание <mathtex>k[i]</mathtex> возрастаетна убывание/убывает возрастание и <mathtex>x[i]</mathtex> убывает/возрастает выглядят не достаточно общимиредкими для большинства задач. Как же быть, если Пусть в задаче таких ограничений нет. Иногда можно Первый способ борьбы с этой проблемой - отсортировать прямые входные данные нужным образом, не испортив свойств задачи (пример : задача G отсюда c Санкт-Петербургских сборов к РОИ 2016 <ref>[http://neerc.ifmo.ru/school/camp-2016/problems/20160318a.pdfСайт с задачами Санкт-Петербургских сборов к РОИ 2016]</ref>). Но рассмотрим общий случай. Наша задача поменялась следующим образом : поПо-прежнему у нас есть выпуклая оболочкапрямых, имея которую с помощью которой мы за <mathtex>O(logn\log(n))</mathtex> или быстрее можем найти <mathtex>dp[i]</mathtex>, но теперь вставку <tex>i</tex>-й прямой в оболочку уже нельзя выполнить старым описанным ранее способом за <mathtex>O(1)</mathtex> (в среднем). У нас есть выпуклая оболочка, наша прямая пересекает ее, возможно, «отрезая» «отсекая» несколько отрезков выпуклой оболочки в середине (рис. 4: красная прямая - та, которую мы хотим вставить в наше множество). Более формально : теперь наша новая прямая будет ниже остальных при <tex>x \in [x_1; x_2]</tex>, где <tex>x_1, x_2 \in R</tex> - точки пересечения с некоторыми прямыми, причем <tex>x_2</tex> не обязательно равно <tex>+ \infty</tex>
[[Файл:picture4convexhull.png]]
== Альтернативный подход ==
[[Файл:picture5convexhull.png]]
Докажем то, что описанный выше алгоритм корректен. Для этого достаточно показать, что если имеются <math>3</math> вектора <math>a, b, c</math>, расположенные как на рис. 5, т.е. точка <math>b</math> не лежит на выпуклой оболочке векторов <tex>0, a, b, c </tex> : <tex> \Leftrightarrow [a-b, b-c] < 0 </tex>, то либо <tex>(a, u[i])</tex> оптимальнее, чем <tex>(b, u[i])</tex>, либо <tex>(c, u[i])</tex> оптимальнее, чем <tex>(b, u[i])</tex>.
{{Теорема
|id=th12392.
|statement=Если есть <tex>3</tex> вектора <tex>a, b, c</tex>, таких что <tex>[a-b, b-c] < 0</tex> то либо <math>(a, u) < (b, u)</math>, либо <math>(c, u) < (b, u)</math>, где вектор <math>u = (1; k)</math>.
|proof=По условию теоремы известно, что <tex>[a-b, b-c] < 0 \Leftrightarrow (a_{x} - b_{x})\cdot(b_{y} - c_{y}) < (a_{y} - b_{y}) \cdot (b_{x} - c_{x})</tex> (*). Предположим (от противного), что <tex>(b, u) < (a, u) \Leftrightarrow b_{x} + k \cdot b_{y} < c_{x} + k \cdot c_{y} \Leftrightarrow (b_{x} - c_{x}) < k \cdot (c_{y} - b_{y})</tex> и при этом <tex>(b, u) < (c, u) \Leftrightarrow b_{x} + k \cdot b_{y} < a_{x} + k \cdot a_{y} \Leftrightarrow (a_{x} - b_{x}) > k \cdot (b_{y} - a_{y})</tex>.
Подставим эти неравенства в (*). Получим цепочку неравенств : <tex>k \cdot (a_{y} - b_{y})</tex><tex> \cdot (c_{y} - b_{y}) = k</tex><tex> \cdot (b_{y} - a_{y}) \cdot </tex><tex>(b_{y} - c_{y})</tex> <tex> < (a_{x} - b_{x})</tex><tex> \cdot (b_{y} - c_{y})</tex><tex> < (a_{y} - b_{y}) \cdot </tex><tex>(b_{x} - c_{x})</tex> <tex>< k \cdot (a_{y} - b_{y})</tex><tex> \cdot (c_{y} - b_{y})</tex>. Получили противоречие : <tex>k \cdot (a_{y} - b_{y}) \cdot (c_{y} - b_{y}) < k \cdot (a_{y} - b_{y}) \cdot (c_{y} - b_{y})</tex>. Значит предположение неверно, чтд.
}}
Из доказанной теоремы и следует корректность алгоритма.
==См. также==
*[[:Статические_выпуклые_оболочки:_Джарвис,_Грэхем,_Эндрю,_Чен,_QuickHull|Выпуклая оболочка]]
*[[:Динамическое_программирование|Динамическое программирование]]
== Примечания ==
<references/>
[[Категория:Дискретная математика и алгоритмы]]
[[Категория: Динамическое программирование]]
[[Категория: Способы оптимизации методов динамического программирования]]