Изменения

== Гиперпараметры Гиперпараметр ==

Гиперпараметры - параметры'''Гиперпараметр''' (англ. ''hyperparameter'') — параметр, которые который не настраивается во время обучения модели. Пример гиперпараметра — шаг градиентного спуска, он задается перед обучением. Пример параметров — веса градиентного спуска, они изменяются и настраиваются во время обучения модели.

Пример гиперпараметра - шаг градиентного спускаДля подбора гиперпараметров необходимо разделить датасет на три части:* тренировочный набор данных (англ. ''training set''), он задается перед обучениемдля обучения модели* валидационный набор данных (англ. <br>Пример параметров - веса градиентного спуска''validation set''), они изменяются для расчета ошибки и настраиваются во время обучениявыбора наилучшей модели* тестовый набор данных (англ.''test set''), для тестирования выбранной модели

Для подбора гиперпараметров необходимо разделить датасет на три части:* training set (тренировочный Зачем нам нужен и валидационный, и тестовый набор данных? Дело в том, для обучении модели) * validation set (валидационный набор что модель может переучиться на валидационном наборе данных, для расчета ошибки и выбора наилучшей модели)* test set (. Для выявления переобучения используется тестовый набор данных, для тестирования лучшей модели).

Зачем нам нужен и валидационный, и тестовый набор? Рассмотрим модель <code>KNeighborsClassifier<br/code>Дело в томиз библиотеки sklearn. Все “параметры” данной модели (loss, что модель может переучиться на валидационном наборе данныхpenalty, alpha и т. Для выявления переобучения используется тестовый набор данныхд), с точки зрения машинного обучения, являются гиперпараметрами, так как задаются до начала обучения.

Рассмотрим модель KNeighborsClassifier из библиотеки class sklearn.linear_model.SGDClassifier(loss='hinge', penalty='l2', alpha=0.0001, l1_ratio=0.15, fit_intercept=True, max_iter=1000, tol=0.001, shuffle=True, verbose=0, epsilon=0.1, n_jobs=None, random_state=None, learning_rate='optimal', eta0=0.0, power_t=0.5, early_stopping=False, validation_fraction=0.1, n_iter_no_change=5, class_weight=None, warm_start=False, average=False)

== Техники настройки гиперпараметров = Общая информация ===

=== '''Поиск по сетке''' (англ. ''Grid search ==='') принимает на вход модель и различные значения гиперпараметров (сетку гиперпараметров). Далее, для каждого возможного сочетания значений гиперпараметров, метод считает ошибку и в конце выбирает сочетание, при котором ошибка минимальна.

Принимает на вход модель и различные значения гиперпараметров (сетку гиперпараметров). Далее, для каждого возможного сочетания значений гиперпараметров, метод считает ошибку и === Поиск по сетке в конце выбирает сочетание, при котором ошибка минимальна.Sklearn: использование ===

Пример использования Grid search <code>GridSearch</code> из библиотеки scikit-learn:

# Создание экземпляра класса <code>SGDClassifier </code> (из sklearn)

# Создание экземпляра класса кросс-валидации.# Создание экземпляра <code>GridSearch </code> (из sklearn). Первый параметр - — модель, второй - — сетка гиперпараметров, третий - — функционал ошибки (используемый для контроля качества моделей по технику технике кросс-валидации), четвертый - — кросс-# # # валидация (можно задать количество фолдов, а можно передать экземпляр класса кросс - валидации)

здесь будет картинка classifier = linear_model.SGDClassifier(random_state = 0, tol=1e-3)  parameters_grid = { 'alpha' : np.linspace(0.00001, 0.0001, 15), 'learning_rate': ['optimal', 'constant', 'invscaling'], 'eta0' : np.linspace(0.00001, 0.0001, 15), 'max_iter' : np.arange(5,10), }  cv = model_selection.StratifiedShuffleSplit(n_splits=10, test_size = 0.2) grid_cv = model_selection.GridSearchCV(classifier, parameters_grid, scoring = 'accuracy', cv = cv) grid_cv.fit(train_data, test_data)

Важные === Поиск по сетке в Sklearn: важные атрибуты GridSearch===

* <code>best_estimator_ </code> - — лучшая модель* <code>best_score_ </code> - — ошибка, полученная на лучшей модели.* <code>best_params_ - </code> — гиперпараметры лучшей модели<br>

* cv_results_ - результаты всех моделей print(grid_cv.best_score_) <br> Out: 0.9099999999999999

* доступ к массиву определенного параметра:<code>cv_results_</code> — результаты всех моделей. <br>

print(grid_cv.cv_results_['param_max_iter'].data) <br> Out: array([5, 6, 7, ..., 7, 8, 9], dtype=object) === Реализация =поиска по сетке в библиотеках ===* Katib* scikit-learn<ref>[https://scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html scikit-learn]</ref>* Katib<ref>[https://github.com/kubeflow/katib Katib]</ref>* Tune<ref>[https://tidymodels.github.io/tune/articles/grid.html Tune]</ref>* Talos<ref>[https://autonomio.github.io/docs_talos/#grid-search Talos]</ref> == Случайный поиск по сетке ==

=== '''Случайный поиск по сетке''' (англ. ''Random grid search ===Grid Search'') вместо полного перебора работает с некоторыми, случайным образом выбранными, комбинациями. На основе полученных результатов, происходит сужение области поиска.

Вместо полного перебора, Random grid search работает с некоторыми, случайным образом выбранными, комбинациями. На основе полученных результатов,происходит сужение области поиска. Random grid search Когда случайный поиск по сетке будет гораздо полезнее, чем grid search в просто поиск по сетке? В ситуации, когда гиперпараметров много, но сильно влияющих на конечную производительность алгоритма - — мало.

==== Реализация =случайного поиска по сетке ===

* hyperoptRay<ref>[https://ray.readthedocs.io/en/latest/tune-searchalg.html#variant-generation-grid-search-random-search Ray]</ref>

=== SMBO Основная информация ===SMBO - Sequential Model-Based Optimization (Методы последовательной оптимизации на основе моделей)

'''Последовательная оптимизация по модели''' (англ. ''Sequential Model-Based Optimization, SMBO являются формализацией байесовской оптимизации'') используются когда оптимизация целевой функции будет стоить очень "дорого". Главная идея SMBO — замена целевой функции "суррогатной" функцией.

На каждом шаге работы SMBO: # SMBO выбирает текущий набор гиперпараметров на основе предыдущих результатов и Байесовский рассужденийСтроится вероятностная модель (суррогатная функция) целевой функции. Делается это # Подбираются гиперпараметры, которые лучше всего подходят для тоговероятностной модели.# Подобранные гиперпараметры применяются к целевой функции.# Вероятностная модель перестраивается (обновляется).# Шаги 2-4 повторяются столько раз, чтобы сузить сколько задал пользователь.  Существует четыре ключевые аспекта SMBO:* Сетка значений гиперпараметров (область поиска и сосредоточиться на том).* Целевая функция (выводит оценку, которую мы хотим минимизировать или максимизировать).* Вероятностная модель целевой функции (суррогатная функция).* Критерий, что наиболее перспективноназываемый функцией выбора (для выбора следующих гиперпараметры по текущей вероятностной модели).# происходит запуск  Методы SMBO отличаются между собой вероятностными моделями и функциями выбора: <br>Популярные вероятностные модели с текущими гиперпараметрами(суррогатные функции):# обновляется вероятностная модель.* Гауссовские процессы* Древовидный парзеновский оценщик* Регрессия случайного леса

Существует несколько вариантов ==== Основная информация ====Как было написано выше, методы SMBO оптимизацииотличаются тем, которые отличаются между собой в 3 и 4 пунктах: есть различные варианты построения вероятностной модели целевой функции и выбора критериякак они строят вероятностную модель <math> {p(y|x)} </math>.Вероятностные модели В случае '''древовидного парзеновского оценщика''' (3 пункт): Gaussian Processes, Random Forest Regressions, and англ. ''Tree -structured Parzen Estimators (Estimator, TPE'').Популярный критерий (4 пункт), используется следующая функция: Expected Improvement

TPE - Tree-structured Parzen Estimator <math> p(Древовидная структура Парзенаx|y)= \begin{cases} l(x), & \mbox{if } y < y* \\ g(x), & \mbox{if } y \ge y*\end{cases}</math>

Методы SMBO отличаются темВ TPE задается два различных распределения гиперпараметров: первое при значениях целевой функции меньших, как они строят вероятностную модель p (y | x)чем пороговое значение. В случае TPEВторое - при значениях целевой функции больших, используется следующая функция:чем пороговое значение.

=== Последовательная конфигурация алгоритма на основе модели === ==== Основная информация ==== '''Последовательная конфигурация алгоритма на основе модели''' (англ. ''Sequential Model-based Algorithm Configuration, SMAC'') расширяет подходы SMBO : * Использует дискретные и условные пространства параметров.* Обрабатывает негауссовский шум.* Выделяет бюджет на общее время, доступное для настройки алгоритма, а не на количество оценок функций. Кроме того, SMAC использует переданную ему модель для формирования списка перспективных конфигураций (сочетаний) параметров. Чтобы оценить перспективность конфигурация <math> \theta </math>, SMAC строит распределение результатов модели для <math> \theta </math>.С помощью этого распределения, а также информации, о текущей лучшей конфигурации, SMAC вычисляет ожидаемое положительное улучшение [https://www.cs.ubc.ca/~hutter/papers/10-TR-SMAC.pdf <math> EI(\theta) </math>]. После нахождения <math> EI(\theta) </math> необходимо найти конфигурацию с наибольшим значением <math> EI(\theta) </math>. Эта задача приводит к проблеме максимизация значения на всем пространстве конфигураций.Другие методы SMBO максимизируют значения а случайной выборке из пространства конфигураций, что достаточно плохо работает в случае высокомерного пространства.SMAC применяет немного другой подход: выполняется несколько локальных и поисков и среди них выбираются все конфигурации с максимальным <math> EI(\theta) </math>. И уже среди них производится новый поиск и выбирается лучшая конфигурация. === Реализация ===* SMBO: [https://www.automl.org/automated-algorithm-design/algorithm-configuration/smac/ SMAC]* TPE: [https://hyperopt.github.io/hyperopt/#algorithms Hyperopt]* Гауссовские процессы: [https://devhub.io/repos/automl-spearmint Spearmint], [https://scikit-optimize.github.io/stable/modules/classes.html#module-skopt.optimizer Scikit-optimize] ==См. также==*[[Автоматическое машинное обучение]]*[[Бустинг, AdaBoost]]*[[Кросс-валидация]]*[[Поиск архитектуры нейронной сети]]== Примечания ==<references/>== Источники ==

В частности, разработаны подходы обработки данных* [https://papers.nips.cc/paper/4443-algorithms-for-hyper-parameter-optimization.pdf Algorithms for Hyper-Parameter Optimization]* [https://www.cs.ubc.ca/~hutter/papers/10-TR-SMAC.pdf Sequential Model-Based Optimization for General Algorithm Configuration]* [https://www.youtube.com/watch?v=u6MG_UTwiIQ Bayesian optimization]* [https://www.youtube.com/watch?v=PgJMLpIfIc8 Гауссовские процессы и байесовская оптимизация]* [https://scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html GridSearchCV sklearn]