Изменения

Перейти к: навигация, поиск

Линейная регрессия

18 байт добавлено, 18:04, 19 марта 2019
замена дефисов на тире
==== Дано ====
* <tex> f_1(x), \dots ,f_n(x) </tex> - числовые признаки
* модель многомерной линейной регрессии: <br> <tex> f(x,\alpha) = \sum\limits_{j=1}^n \alpha_j f_j(x) </tex>, <br> где <tex> a \in R^n </tex>
* обучающая выборка: множество из пар <tex>(x_i, y_i)_{i=1 \dots n}</tex>
* <tex> x_i </tex> - объекты из множества <tex> X = R^n </tex>* <tex> y_i </tex> - объекты из множества <tex> X = R </tex>
==== Матричные обозначения ====
, где
* <tex> F </tex> - матрица объектов-признаков, где строки соответствуют объектам а столбцы - признакам* <tex> y </tex> - вектор ответов, или целевой вектор* <tex> \alpha </tex> - вектор коэффициентов
==== Постановка задачи ====
<tex> F^T F \alpha = F^T y </tex>,
где <tex> F^T F - n \times n </tex> матрица
Мы получили систему уравнений, откуда можем выразить искомый вектор <tex> \alpha </tex>.
<tex> \alpha^* = (F^T F)^{-1} F^T y = F^+ y </tex>, <br> где <tex> F^+ </tex> — псевдо-обратная матрица.
Значение функционала: <tex> Q(\alpha^*) = ||P_F y - y||^2 </tex>, <br> где <tex> P_F = F F^+ = F (F^T F)^{-1} F^T </tex> - ''проекционная матрица''
==== Проблемы ====
Анонимный участник

Навигация