Изменения

== Гиперпараметры Гиперпараметр ==

Гиперпараметры '''Гиперпараметр''' (англ. ''hyperparameter'') — параметрыпараметр, которые который не настраиваются настраивается во время обучения модели. Пример гиперпараметра — шаг градиентного спуска, он задается перед обучением. Пример параметров — веса градиентного спуска, они изменяются и настраиваются во время обучения.

* training set (тренировочный набор данных(англ. ''training set''), для обучении обучения модели) * validation set (валидационный набор данных(англ. ''validation set''), для расчета ошибки и выбора наилучшей модели)* test set (тестовый набор данных(англ. ''test set''), для тестирования лучшей выбранной модели)

Рассмотрим модель <code>KNeighborsClassifier</code> из библиотеки sklearn. Все “параметры” данной модели(loss, penalty, alpha и т.д), с точки зрения машинного обучения, являются гиперпараметрами, так как задаются до начала обучения.

[[Файл:KNeighborsClassifier_model class sklearn.png|center|1000px]] linear_model.SGDClassifier(loss='hinge', penalty='l2', alpha=0.0001, l1_ratio=0.15, fit_intercept=True, max_iter=1000, tol=0.001, shuffle=True, verbose=0, epsilon=0.1, n_jobs=None, random_state=None, learning_rate='optimal', eta0=0.0, power_t=0.5, early_stopping=False, validation_fraction=0.1, n_iter_no_change=5, class_weight=None, warm_start=False, average=False)

 == Grid search Поиск по сетке ==

'''Поиск по сетке''' (англ. ''Grid search '') принимает на вход модель и различные значения гиперпараметров (сетку гиперпараметров). Далее, для каждого возможного сочетания значений гиперпараметров, метод считает ошибку и в конце выбирает сочетание, при котором ошибка минимальна.

=== Поиск по сетке в Sklearn Grid search: использование ===

GridSearchCV(cv=StratifiedShuffleSplit(n_splits=10, random_state=0, test_size=0.2, train_size=None), error_score=nan, estimator=SGDClassifier(alpha=0.0001, average=False, class_weight=None, early_stopping=False, epsilon=0.1, eta0=0.0, fit_intercept=True, l1_ratio=0.15, learning_rate='optimal', loss='hinge', max_iter=1000, n_iter_no_change=5, n_jobs=None,

'eta0': array([1.00000000e-05, 1.64285714e-05, 2.28571429e-05, 2.92857143e-05, 3.57142857e-05, 4.21428571e-05, 4.85714286e-05, 5.50000000e-05, 6.14285714e-05, 6.78571429e-05, 7.42857143e-05, 8.07142857e-05, 8.71428571e-05, 9.35714286e-05, 1.00000000e-04]),

=== Поиск по сетке в Sklearn Grid search: важные атрибуты ===

[[Файл:KNeighborsClassifier_bestest print(grid_cv.png|center|1000px]] best_estimator_) <br> Out: SGDClassifier(alpha=4.857142857142857e-05, average=False, class_weight=None, early_stopping=False, epsilon=0.1, eta0=1e-05, fit_intercept=True, l1_ratio=0.15, learning_rate='optimal', loss='hinge', max_iter=6, n_iter_no_change=5, n_jobs=None, penalty='l2', power_t=0.5, random_state=0, shuffle=True, tol=0.001, validation_fraction=0.1, verbose=0, warm_start=False)

* <code>cv_results_</code> — результаты всех моделей print(grid_cv. best_score_) <br> Out: 0.9099999999999999

[[Файл:KNeighborsClassifier_results print(grid_cv.png|center|1000px]] best_params_) <br> Out: {'alpha': 4.857142857142857e-05, 'eta0': 1e-05, 'learning_rate': 'optimal', 'max_iter': 6}

* доступ к массиву определенного параметра: <code>cv_results_</code> — результаты всех моделей. <br>

print(grid_cv.cv_results_) <br> Out: {'mean_fit_time': array([0.00209482, 0.00120714, 0.00089645, ..., 0.00109975, 0.00100021, 0.00099928]), 'std_fit_time': array([Файл1.22382854e-03, 6.21233347e-04, 5.32190271e-04, ..., 3.11922473e-04, 1.27400324e-05, 1.94000071e-06]), 'mean_score_time':KNeighborsClassifier_param_arrayarray([2.00700760e-04, 0.00000000e+00, 2.99715996e-04, ..., 1.99961662e-04, 2.96926498e-04, 9.png|center|1000px98973846e-05]), 'std_score_time': array([0.0004014 , 0. , 0.00045782, ..., 0.00039992, 0.00045363, 0.00029969] <br>), ...... }

print(grid_cv.cv_results_['param_max_iter'].data) <br> Out: array([5, 6, 7, ..., 7, 8, 9], dtype=== Реализация Grid search в библеотеках ===* Katib* scikit-learn* Tune* Talosobject)

== Random grid search Случайный поиск по сетке ==

Вместо '''Случайный поиск по сетке''' (англ. ''Random Grid Search'') вместо полного перебора, Random grid search работает с некоторыми, случайным образом выбранными, комбинациями. На основе полученных результатов, происходит сужение области поиска.

Когда random grid search случайный поиск по сетке будет гораздо полезнее, чем grid searchпросто поиск по сетке? В ситуации, когда гиперпараметров много, но сильно влияющих на конечную производительность алгоритма — мало.

=== Реализация Random grid случайного поиска по сетке ===

* hyperoptRay<ref>[https://ray.readthedocs.io/en/latest/tune-searchalg.html#variant-generation-grid-search-random-search Ray]</ref>

 == SMBO Последовательная оптимизация по модели ==

SMBO '''Последовательная оптимизация по модели''' (англ. ''Sequential Model-Based Optimization) — методы, основанные на байесовской оптимизации Когда используют SMBO? Когда '') используются когда оптимизация целевой функции будет стоить очень "дорого". Главная идея SMBO — замена целевой функции "суррогатной" функцией.

* Gaussian ProcessesГауссовские процессы* Tree Parzen Estimators (TPE)Древовидный парзеновский оценщик* Random Forest RegressionsРегрессия случайного леса

=== Реализация Древовидный парзеновский оценщик ===* Random Forest Regressions: SMAC* Tree Parzen Estimators: Hyperopt* Gaussian Processes: Spearmint, Scikit-optimize

== TPE ==Основная информация ====Как было написано выше, методы SMBO отличаются тем, как они строят вероятностную модель <math> {p(y|x)} </math>. В случае '''древовидного парзеновского оценщика''' (англ. ''Tree-structured Parzen Estimator, TPE''), используется следующая функция:

<math> p(y) === Основная информация ===TPE — Tree-structured Parzen Estimator \frac{p(x|y) * p(y)}{p(Древовидная структура Парзенаx)} </math>

Как было написано выше, методы SMBO отличаются тем, как они строят вероятностную модель <math> {p(x|y|x)} </math>. В случае TPE— распределение гиперпараметров, используется следующая функция:<math> y </math> — значение целевой функции, <math> y* </math> — пороговое начение

<math> p(x|y) = \fracbegin{pcases} l(x|), & \mbox{if } y < y) * p\\ g(yx), & \mbox{if } y \ge y*\end{p(x)cases} </math>

<math> {p(x|y)} </math> — распределение В TPE задается два различных распределения гиперпараметров: первое при значениях целевой функции меньших, чем пороговое значение. Второе - при значениях целевой функции больших, чем пороговое значение.

=== Реализация = Алгоритм ====

== SMAC = Последовательная конфигурация алгоритма на основе модели ===

==== Основная информация ====

'''Последовательная конфигурация алгоритма на основе модели''' (англ. ''Sequential Model-based Algorithm Configuration, SMAC использует Random Forest regression и '') расширяет подходы SMBO:

* AutoMLSMBO: [https://www.automl.org/automated-algorithm-design/algorithm-configuration/smac/ SMAC]* TPE: [https://hyperopt.github.io/hyperopt/#algorithms Hyperopt]* Гауссовские процессы: [https://devhub.io/repos/automl-spearmint Spearmint], [https://scikit-optimize.github.io/stable/modules/classes.html#module-skopt.optimizer Scikit-optimize]

* [https://towardsdatasciencepapers.comnips.cc/hyperparameterspaper/4443-algorithms-for-hyper-parameter-optimization.pdf Algorithms for Hyper-Parameter Optimization]* [https://www.cs.ubc.ca/~hutter/papers/10-TR-SMAC.pdf Sequential Model-526348bb8e2d Hyperparameters Based Optimizationfor General Algorithm Configuration]