Настройка гиперпараметров

Гиперпараметры

Гиперпараметры — параметры, которые не настраиваются во время обучения модели. Пример гиперпараметра — шаг градиентного спуска, он задается перед обучением. Пример параметров — веса градиентного спуска, они изменяются и настраиваются во время обучения.

Для подбора гиперпараметров необходимо разделить датасет на три части:

• training set (тренировочный набор данных, для обучении модели)
• validation set (валидационный набор данных, для расчета ошибки и выбора наилучшей модели)
• test set (тестовый набор данных, для тестирования лучшей модели)

Зачем нам нужен и валидационный, и тестовый набор? Дело в том, что модель может переучиться на валидационном наборе данных. Для выявления переобучения используется тестовый набор данных.

Рассмотрим модель KNeighborsClassifier из библиотеки sklearn. Все “параметры” данной модели (loss, penalty, alpha и т.д), с точки зрения машинного обучения, являются гиперпараметрами, так как задаются до начала обучения.

   class sklearn.linear_model.SGDClassifier(loss='hinge', penalty='l2', alpha=0.0001, l1_ratio=0.15, fit_intercept=True, max_iter=1000, 
                                        tol=0.001, shuffle=True, verbose=0, epsilon=0.1, n_jobs=None, random_state=None, learning_rate='optimal', 
                                        eta0=0.0, power_t=0.5, early_stopping=False, validation_fraction=0.1, n_iter_no_change=5, class_weight=None, 
                                        warm_start=False, average=False)

Grid search

Общая информация

Grid search принимает на вход модель и различные значения гиперпараметров (сетку гиперпараметров). Далее, для каждого возможного сочетания значений гиперпараметров, метод считает ошибку и в конце выбирает сочетание, при котором ошибка минимальна.

Sklearn Grid search: использование

Пример использования GridSearch из библиотеки scikit-learn:

1. Создание экземпляра класса SGDClassifier (из sklearn)
2. Создание сетки гиперпараметров. В данном случае будем подбирать коэффициент регуляризации, шаг градиентного спуска, количество итераций и параметр скорости обучения.
3. Создание экземпляра класса кросс-валидации
4. Создание экземпляра GridSearch (из sklearn). Первый параметр — модель, второй — сетка гиперпараметров, третий — функционал ошибки (используемый для контроля качества моделей по технике кросс-валидации), четвертый — кросс-валидация (можно задать количество фолдов, а можно передать экземпляр класса кросс - валидации)
5. Запуск поиска по сетке.

   classifier = linear_model.SGDClassifier(random_state = 0, tol=1e-3)

   parameters_grid = {
       'alpha' : np.linspace(0.00001, 0.0001, 15),
       'learning_rate': ['optimal', 'constant', 'invscaling'],
       'eta0' : np.linspace(0.00001, 0.0001, 15),
       'max_iter' : np.arange(5,10),
   }

   cv = model_selection.StratifiedShuffleSplit(n_splits=10, test_size = 0.2)
   grid_cv = model_selection.GridSearchCV(classifier, parameters_grid, scoring = 'accuracy', cv = cv)
   grid_cv.fit(train_data, test_data)

   Out:
   GridSearchCV(cv=StratifiedShuffleSplit(n_splits=10, random_state=0, test_size=0.2, train_size=None), error_score=nan,
                estimator=SGDClassifier(alpha=0.0001, average=False, class_weight=None, early_stopping=False,
                                    epsilon=0.1, eta0=0.0, fit_intercept=True, l1_ratio=0.15, learning_rate='optimal',
                                    loss='hinge', max_iter=1000, n_iter_no_change=5, n_jobs=None, 
                                    penalty='l2...
                        'eta0': array([1.00000000e-05, 1.64285714e-05, 2.28571429e-05, 2.92857143e-05, 3.57142857e-05, 4.21428571e-05, 4.85714286e-05, 5.50000000e-05,
                                      6.14285714e-05, 6.78571429e-05, 7.42857143e-05, 8.07142857e-05, 8.71428571e-05, 9.35714286e-05, 1.00000000e-04]),
                        'learning_rate': ['optimal', 'constant', 'invscaling'],
                        'max_iter': array([5, 6, 7, 8, 9])},
            pre_dispatch='2*n_jobs', refit=True, return_train_score=False,
            scoring='accuracy', verbose=0)

Sklearn Grid search: важные атрибуты

• best_estimator_ — лучшая модель
• best_score_ — ошибка, полученная на лучшей модели.
• best_params_ — гиперпараметры лучшей модели
  

   print(grid_cv.best_estimator_) 

   Out: SGDClassifier(alpha=4.857142857142857e-05, average=False, class_weight=None, early_stopping=False, epsilon=0.1, eta0=1e-05, fit_intercept=True,
                  l1_ratio=0.15, learning_rate='optimal', loss='hinge', max_iter=6, n_iter_no_change=5, n_jobs=None, penalty='l2', power_t=0.5,
                  random_state=0, shuffle=True, tol=0.001, validation_fraction=0.1, verbose=0, warm_start=False)

   print(grid_cv.best_score_) 

   Out: 0.9099999999999999

   print(grid_cv.best_params_) 

   Out: {'alpha': 4.857142857142857e-05, 'eta0': 1e-05, 'learning_rate': 'optimal', 'max_iter': 6}

• cv_results_ — результаты всех моделей.
  

   print(grid_cv.cv_results_) 

   Out:
       {'mean_fit_time': array([0.00209482, 0.00120714, 0.00089645, ..., 0.00109975, 0.00100021,
       0.00099928]),
       'std_fit_time': array([1.22382854e-03, 6.21233347e-04, 5.32190271e-04, ...,
           3.11922473e-04, 1.27400324e-05, 1.94000071e-06]),
       'mean_score_time': array([2.00700760e-04, 0.00000000e+00, 2.99715996e-04, ...,
           1.99961662e-04, 2.96926498e-04, 9.98973846e-05]),
       'std_score_time': array([0.0004014 , 0.        , 0.00045782, ..., 0.00039992, 0.00045363,
          0.00029969]),
        ...... }

    print(grid_cv.cv_results_['param_max_iter'].data) 

    Out: array([5, 6, 7, ..., 7, 8, 9], dtype=object)

Реализация Grid search в библеотеках

• scikit-learn
• Katib
• Tune
• Talos

Random grid search

Основная информация

Вместо полного перебора, Random grid search работает с некоторыми, случайным образом выбранными, комбинациями. На основе полученных результатов, происходит сужение области поиска.

Когда random grid search будет гораздо полезнее, чем grid search? В ситуации, когда гиперпараметров много, но сильно влияющих на конечную производительность алгоритма — мало.

Реализация Random grid

• Ray
• Katib
• scikit-learn
• Tune
• Talos
• Hyperopt

SMBO

Основная информация

SMBO (Sequential Model-Based Optimization) — методы, основанные на байесовской оптимизации

Когда используют SMBO? Когда оптимизация целевой функции будет стоить очень "дорого". Главная идея SMBO — замена целевой функции "суррогатной" функцией.

На каждом шаге работы SMBO:

1. Строится вероятностная модель (суррогатная функция) целевой функции.
2. Подбираются гиперпараметры, которые лучше всего подходят для вероятностной модели.
3. Подобранные гиперпараметры применяются к целевой функции.
4. Вероятностная модель перестраивается (обновляется).
5. Шаги 2-4 повторяются столько раз, сколько задал пользователь.

Существует четыре ключевые аспекта SMBO:

• Сетка значений гиперпараметров (область поиска).
• Целевая функция (выводит оценку, которую мы хотим минимизировать или максимизировать).
• Вероятностная модель целевой функции (суррогатная функция).
• Критерий, называемый функцией выбора (для выбора следующих гиперпараметры по текущей вероятностной модели).

Методы SMBO отличаются между собой вероятностными моделями и функциями выбора:
Популярные вероятностные модели (суррогатные функции):

• Gaussian Processes
• Tree Parzen Estimators (TPE)
• Random Forest Regressions

TPE

Основная информация

TPE — Tree-structured Parzen Estimator (Древовидная структура Парзена)

Как было написано выше, методы SMBO отличаются тем, как они строят вероятностную модель [math] {p(y|x)} [/math]. В случае TPE, используется следующая функция:

[math] p(y) = \frac{p(x|y) * p(y)}{p(x)} [/math]

[math] {p(x|y)} [/math] — распределение гиперпараметров.

[math] p(x|y) = \begin{cases} l(x), & \mbox{if } n \mbox{ is even} \\ g(x), & \mbox{if } n \mbox{ is odd} \end{cases} [/math]

SMAC

Основная информация

SMAC использует Random Forest regression и расширяет подходы SMBO:

• Использует дискретные и условные пространства параметров.
• Обрабатывает негауссовский шум.
• Выделяет бюджет на общее время, доступное для настройки алгоритма, а не на количество оценок функций.

Реализация

• Random Forest Regressions: SMAC
• Tree Parzen Estimators: Hyperopt
• Gaussian Processes: Spearmint, Scikit-optimize

Источники

• Algorithms for Hyper-Parameter Optimization
• Bayesian optimization
• Гауссовские процессы и байесовская оптимизация
• GridSearchCV sklearn