Изменения

Перейти к: навигация, поиск

Линейная регрессия

3 байта добавлено, 19:21, 19 марта 2019
Нормальная система уравнений
Запишем необходимые условия минимума в матричном виде.
<tex> \frac{\partial Q }{\partial \alpha } (\alpha) = 2F^T (F\alpha - y) = 0 </tex>.
Отсюда следует нормальная система задачи МНК:
<tex> F^T F \alpha = F^T y </tex>,
где <tex> F^T F — n \times n </tex> матрица.
Мы получили систему уравнений, откуда можем выразить искомый вектор <tex> \alpha </tex>.
<tex> \alpha^* = (F^T F)^{-1} F^T y = F^+ y </tex>, <br> где <tex> F^+ </tex> — псевдо-обратная матрица.
Значение функционала: <tex> Q(\alpha^*) = ||P_F y - y||^2 </tex>, <br> где <tex> P_F = F F^+ = F (F^T F)^{-1} F^T </tex> — ''проекционная матрица''.
==== Проблемы ====
Анонимный участник

Навигация