Модель алгоритма и её выбор

Понятие модели

Пусть дана обучающая выборка [math](X, Y)[/math], где [math] X [/math] — множество признаков, описывающих объекты, а [math] Y [/math] — конечное множество меток.

Пусть задана функция [math] g: X \times \Theta \rightarrow Y [/math], где [math] \Theta [/math] — множество дополнительных параметров (весов) функции.

Описанная выше функция [math] g [/math] для фиксированного значения весов [math] \theta \in \Theta [/math] называется решающим правилом.

Модель — это совокупность всех решающих правил, которые получаются путем присваивания весам всех возможных допустимых значений.

Формально модель [math] A = \{g(x, \theta)| \theta \in \Theta\} [/math].

Модель определяется множеством допустимых весов [math] \Theta [/math] и структурой решающего правила [math] g(x,\theta) [/math]

Понятие гиперпараметров модели

Гиперпараметры модели — это параметры, значения которых задается до начала обучения модели и не изменяется в процессе обучения. У модели может не быть гиперпараметров.

Параметры модели — это параметры, которые изменяются и оптимизируются в процессе обучения модели и итоговые значения этих параметров являются результатом обучения модели.

Примерами гиперпараметров могут служить количество слоев нейронной сети, а также количество нейронов на каждом слое. Примерами параметров могут служить веса ребер нейронной сети.

Для нахождения оптимальных гиперпараметров модели могут применяться различные алгоритмы настройки гиперпараметров^{[на 08.01.19 не создан]}.

Пример

Рис 1. Пример линейной регрессии

В качестве примера модели приведем линейную регрессию^{[на 18.01.19 не создан].}

Линейная регрессия задается следующей формулой:

[math] g(x, \theta) = \theta_0 + \theta_1x_1 + ... + \theta_kx_k = \theta_0 + \sum_{i=1}^k \theta_ix_i = \theta_0 + x^T\theta[/math], где [math] x^T = (x_1, x_2, ..., x_k) [/math] — вектор признаков, [math] \theta = (\theta_1, \theta_2, ..., \theta_k)[/math] — веса модели, настраиваемые в процессе обучения.

Гиперпараметром модели является число слагаемых в функции [math] g(x, \theta) [/math].

Более подробный пример линейной регрессии можно посмотреть в статье переобучение.

Задача выбора модели

Пусть [math] A [/math] — модель алгоритма, характеризующаяся гиперпараметрами [math] \lambda = \{\lambda_1, ..., \lambda_m\}, \lambda_1 \in \Lambda_1, ..., \lambda_m \in \Lambda_m [/math]. Тогда с ней связано пространство гиперпараметров [math] \Lambda = \Lambda_1 \times ... \times \Lambda_m [/math]. За [math] A_{\lambda}[/math] обозначим алгоритм, то есть модель алгоритма, для которой задан вектор гиперпараметров [math] \lambda \in \Lambda [/math].

Для выбора наилучшего алгоритма необходимо зафиксировать меру качества работы алгоритма. Назовем эту меру [math] Q(A_{\lambda}, D) [/math].

Задачу выбора наилучшего алгоритма можно разбить на две подзадачи: подзадачу выбора лучшего алгоритма из портфолио и подзадачу настройки гиперпараметров.

Подзадача выбора лучшего алгоритма из портфолио

Дано некоторое множество алгоритмов с фиксированными структурными параметрами [math] \mathcal{A} = \{A^1_{\lambda_1}, ..., A^m_{\lambda_m}\}[/math] и обучающая выборка [math] D = \{d_1, ..., d_n\}[/math]. Здесь [math] d_i = (x_i, y_i) \in (X, Y)[/math]. Требуется выбрать алгоритм [math] A^*_{\lambda_*} [/math], который окажется наиболее эффективным с точки зрения меры качества [math] Q [/math]

Подзадача оптимизации гиперпараметров

Подзадача оптимизации гиперпараметров заключается в подборе таких [math] \lambda^* \in \Lambda [/math], при которых заданная модель алгоритма [math] A [/math] будет наиболее эффективна.

Гиперпараметры могут выбираться из ограниченного множества или с помощью перебора из неограниченного множества гиперпараметров, это зависит от непосредственной задачи. Во втором случае актуален вопрос максимального времени, которое можно потратить на поиск наилучших гиперпараметров, так как чем больше времени происходит перебор, тем лучше гиперпараметры можно найти, но при этом может быть ограничен временной бюджет, из-за чего перебор придется прервать.

Методы выбора модели

Модель можно выбрать из некоторого множества моделей, проверив результат работы каждой модели из множества с помощью ручного тестирования, но ручное тестирование серьезно ограничивает количество моделей, которые можно перебрать, а также требует больших трудозатрат. Поэтому в большинстве случаев используются алгоритмы, позволяющие автоматически выбирать модель. Далее будут рассмотрены некоторые из таких алгоритмов.

Рис 2. Схема выбора модели в библиотеке scikit-learn для Python

Кросс-валидация

Основная идея алгоритма кросс-валидации — разбить обучающую выборку на обучающую и тестовую, чтобы таким образом эмулировать наличие тестовой выборки, которая не участвует в обучении, но для которой известны правильные ответы. Более подробно про алгоритм кросс-валидации можно прочитать в соответствующей статье.

Достоинства и недостатки кросс-валидации:

1. Ошибка в процедуре кросс-валидации является достаточно точной оценкой ошибки на генеральной совокупности;
2. Проведение кросс-валидации требует значительного времени на многократное повторное обучение алгоритмов и применимо лишь для «быстрых» алгоритмов машинного обучения;
3. Кросс-валидация плохо применима в задачах кластерного анализа и прогнозирования временных рядов.

Мета-обучение

Целью мета-обучения является решение задачи выбора алгоритма из портфолио алгоритмов для решения поставленной задачи без непосредственного применения каждого из них. Решение этой задачи в рамках мета-обучения сводится к задаче обучения с учителем. Для этого используется заранее отобранное множество наборов данных [math] D [/math]. Для каждого набора данных [math] d \in D [/math] вычисляется вектор мета-признаков, которые описывают свойства этого набора данных. Ими могут быть: число категориальных или численных признаков объеков в [math] d [/math], число возможных меток, размер [math] d [/math] и многие другие, а еще эту статью можно найти вот тут. Каждый алгоритм запускается на всех наборах данных из [math] D [/math]. После этого вычисляется эмпирический риск, на основе которого формируются метки классов. Затем мета-классификатор обучается на полученных результатах. В качестве описания набора данных выступает вектор мета-признаков, а в качестве метки — алгоритм, оказавшийся самым эффективным с точки зрения заранее выбранной меры качества.

Более подробно про мета-обучение можно почитать в соответствующей статье^{[на 08.01.19 не создан]}

Достоинства и недостатки мета-обучения:

1. Алгоритм, обучающийся большое время, запускается меньшее количество раз, что сокращает время работы;
2. Точность алгоритма может быть ниже, чем при кросс-валидации.

Теория Вапника-Червоненкиса

Идея данной теории заключается в следующем: чем более «гибкой» является модель, тем хуже ее обобщающая способность. Данная идея базируется на том, что «гибкое» решающее правило способно настраиваться на малейшие шумы, содержащиеся в обучающей выборке.

Емкость модели для задачи классификации — максимальное число объектов обучающей выборки, для которых при любом их разбиении на классы найдется хотя бы одно решающее правило, безошибочно их классифицирующее.

По аналогии емкость обобщается на другие задачи машинного обучения.

Очевидно, что чем больше емкость, тем более «гибкой» является модель и, соответственно, тем хуже. Значит нужно добиваться минимально возможного количества ошибок на обучении при минимальной возможной емкости.

Существует формула Вапника, связывающая ошибку на обучении [math] P_{train}(\theta) [/math], емкость [math] h(\theta) [/math] и ошибку на генеральной совокупности [math] P_{test}(\theta) [/math]:

[math] P_{test}(\theta) \lt = P_{train}(\theta) + \sqrt{\frac{h(\Theta) * (\log{(\frac{2d}{h(\Theta)})} + 1) - \log{(\frac{\eta}{4})}}{n}} [/math], где [math] d [/math] — размерность пространства признаков.

Неравенство верно с вероятностью [math] 1 - \eta [/math] [math] \forall \theta \in \Theta [/math]

Алгоритм выбора модели согласно теории Вапника-Червоненкиса: Последовательно анализируя модели с увеличивающейся емкостью, необходимо выбирать модель с наименьшей верхней оценкой тестовой ошибки.

Достоинства теории Вапника-Червоненкиса:

1. Серьезное теоретическое обоснование, связь с ошибкой на генеральной совокупности;
2. Теория продолжает развиваться и в наши дни.

Недостатки теории Вапника-Червоненкиса:

1. Оценки ошибки на генеральной совокупности сильно завышены;
2. Для большинства моделей емкость не поддается оценке;
3. Многие модели с бесконечной емкостью показывают хорошие результаты на практике.

Существующие системы автоматического выбора модели

Автоматизированный выбор модели в библиотеке auto-WEKA для Java.

Библиотека используется для одновременного поиска оптимальной модели и оптимальных гиперпараметров модели для задач классификации и регрессии (начиная с версии 2.0).

Библиотека позволяет автоматически выбирать из 27 базовых алгоритмов, 10 мета-алгоритмов и 2 ансамблевых алгоритмов лучший, одновременно настраивая его гиперпараметры при помощи алгоритма SMAC. Решение достигается полным перебором: оптимизация гиперпараметров запускается на всех алгоритмах по очереди. Недостатком такого подхода является слишком большое время выбора модели.

Автоматизированный выбор модели в библиотеке Tree-base Pipeline Optimization Tool (TPOT) для Python.

Рис 3. Схема выбора модели в библиотеке TPOT

Библиотека используется для одновременного поиска оптимальной модели и оптимальных гиперпараметров модели для задачи классификации.

Выбор модели осуществляется на основе конвейера, организованного в древовидной структуре. Каждая вершина дерева — один из четырех операторов конвейера (preprocessing, decomposition, feature selection, modelling). Каждый конвейер начинается с одной или нескольких копий входного набора данных, которые являются листьями дерева и которые подаются в операторы в соответствии со структурой конвейера. Данные модифицируются оператором в вершине и поступают на вход следующей вершины. В библиотеке используются генетические алгоритмы для нахождения лучших конвейеров.

После поиска конвейера его также можно экспортировать в файл Python.

Автоматизированный выбор модели в библиотеке auto-sklearn для Python.

Рис 4. Схема выбора модели в библиотеке auto-sklearn

Библиотека используется для одновременного поиска оптимальной модели и оптимальных гиперпараметров модели для задачи классификации.

Сначала используется мета-обучение на основе различных признаков и мета-признаков набора данных, чтобы найти наилучшие модели. После этого используется подход Байесовской оптимизации, чтобы найти наилучшие гиперпараметры для наилучших моделей.

См. также

• Настройка гиперпараметров^{[на 08.01.19 не создан]}
• Переобучение
• Мета-обучение^{[на 08.01.19 не создан]}
• Линейная регрессия^{[на 18.01.19 не создан]}

Примечания

1. Теория Вапника-Червоненкинса
2. Кросс-валидация
3. Мета-обучение
4. Обучение с учителем
5. Линейная регрессия
6. Datasets Meta-Feature Description for Recommending Feature Selection Algorithm
7. SMAC
8. Fast Automated Selection of Learning Algorithm And its Hyperparameters by Reinforcement Learning
9. Shalamov V., Efimova V., Muravyov S., and Filchenkov A. "Reinforcement-based Method for Simultaneous Clustering Algorithm Selection and its Hyperparameters Optimization." Procedia Computer Science 136 (2018): 144-153.

Источники информации

1. Выбор модели - презентация на MachineLearning.ru
2. Гиперпараметры - статья на Википедии
3. Разница между параметрами и гиперпараметрами - описание разницы между параметрами и гиперпараметрами модели
4. Применение обучения с подкреплением для одновременного выбора модели алгоритма классификации и ее структурных параметров