Общие понятия

Понятие машинного обучения в искусственном интеллекте

Определение:

Машинное обучение (англ. Machine learning) — процесс, который даёт возможность компьютерам обучаться выполнять что-то без явного написания кода.

A.L. Samuel Some Studies in Machine Learning Using the Game of Checkers // IBM Journal. July 1959. P. 210–229.

Определение:

Говорят, что компьютерная программа учится на опыте $E$ относительно некоторой задачи $T$ и некоторой меры производительности $P$, если ее производительность на $T$, измеренная $P$, улучшается с опытом $E$.

T.M. Mitchell Machine Learning. McGraw-Hill, 1997.

Задача обучения

$X$ — набор объектов (англ. object set, or input set) $Y$ is label set (англ. '), or answer set, or output set; $y ∶ X → Y$ is unknown target function (англ. ')(dependency). {x1, . . . , xl

} ⊂ X is training sample set;

yi = y(xi), i = 1, . . . , l are known values of the function.

Problem: find a ∶ X → Y that is solving function (decision function), which approximates y on X.

Классификация задач машинного обучения

1. Обучение с учителем (англ. Supervised learning)
2. Обучение без учителя (англ. Unsupervised learning)
3. Обучение с частичным привлечением учителя (англ. Semi-supervised learning)
4. Обучение с подкреплением (англ. Reinforcement learning)
5. Активное обучение (англ. Active learning)
6. Обучение в реальном времени (англ. Online learning)
7. Структурное предсказание (англ. Structured prediction)
8. Выбор модели и валидация (англ. Model selection and validation)

Обучение с учителем (англ. Supervised learning)

Обучение без учителя (англ. Unsupervised learning)

Обучение с частичным привлечением учителя (англ. Semi-supervised learning)

Обучение с подкреплением (англ. Reinforcement learning)

Активное обучение (англ. Active learning)

Обучение в реальном времени (англ. Online learning)

Структурное предсказание (англ. Structured prediction)

Выбор модели и валидация (англ. Model selection and validation)

Примеры задач

Supervised learning A set of examples with answers is given. A rule for giving answers for all possible examples is required: • classification; • regression; • learning to rank; • forecasting.

Unsupervised learning A set of examples without answers is given. A rule for finding answers or some regularity is required: • clustering; • association rules learning; • recommender systems*; • dimension reduction**.

How are the objects described? f j ∶ X → D j , j = 1, ... , n are features or attributes. Feature types: • binary: D j = 0, 1 ; • categorical: D j is finite; • ordinal: D j is finite and ordered; • numerical: D j = R.

Источники информации

1. Wiki $-$ Машинное обучение
2. Курс К.В.Воронцова