Изменения

У любой матрицы <tex> A </tex> размера <tex> n \times m </tex> существует разложение на матрицы <tex> U, \Sigma, V^T </tex>: <tex> A_{n \times m} = U_{n \times n} \times \Sigma_{n \times m} \times V^T_{m \times m} </tex>.<br/>При этом, матрицы <tex>\mathrmU_{P} n \neq \mathrm{NP} \Rightarrow \mathrm{NP} \setminus (\mathrm{P} \cup \mathrm{NPCtimes n}) \neq \varnothing</tex>.}}{{Определение|definition='''SVD''' (англ. ''Singular Value Decomposition'') {{---}} у любой матрицы и <tex> A </tex> размера <tex> n V_{m \times m }</tex> существует разложение на матрицы <tex> U, \Sigmaявляются ортогональными, V^T а матрица </tex>: <tex> A_{n \times m} = U_{n \times n} \times \Sigma_{n \times m} \times V^T_{m \times m} </tex>{{---}} диагональной.<br/>

Пусть дана матрица <tex> F </tex> — <tex> l F_{n \times n m} </tex> матрица. Тогда <tex> F </tex> можно представить в следующем виде:

<tex> F F_{n \times m} = U_{n \times n} \times \Sigma_{n \times m} \times V D U^T T_{m \times m} </tex>.

* <tex> l n \times n </tex>-матрица <tex> V U = (v_1, \dots, v_n) </tex> ортогональна, <tex> V^T V = I_n </tex>, <br> столбцы <tex> v_j </tex> — собственные векторы матрицы <tex> F F^T </tex>;* <tex> n m \times n m </tex>-матрица <tex> U V = (u_1, \dots, u_nu_m) </tex> ортогональна, <tex> U^T U = I_n I_m </tex>, <br> столбцы <tex> u_j </tex> — собственные векторы матриц <tex> F^T F </tex>;* <tex> n \times n m </tex>-матрица <tex> D \Sigma_{n \times m} </tex> диагональна{{---}} диагональная, <tex> D \Sigma_{n \times m} = diag(\sqrt{\lambda_1}, \dots, \sqrt{\lambda_n}) </tex>, <br> <tex> \lambda_j \geq 0 </tex> — собственные значения матриц <tex> F^T F </tex> и <tex> F F^T </tex>, <br> <tex> \sqrt{ \lambda_j } </tex> — сингулярные числа матрицы <tex> F </tex>.  Матрицы <tex> U, V </tex> ортогональные, <tex> \Sigma </tex> {{---}} диагональная:<tex> UU^T = I_n</tex>,<tex>VV^T = I_m</tex>, <tex> \Sigma = diag(\lambda_1,\dots,\lambda_{min(n, m)})</tex>, <tex>\lambda_1 \geq \dots \geq \lambda_{min(n, m)} \geq 0 </tex> . === Усеченное разложение ===Усеченное разложение {{---}} когда из лямбд, остаются только первые <tex> d </tex> чисел, а остальные полагаются равными нулю. <tex> \lambda_{d+1},\dots,\lambda_{min(n,m)} = 0 </tex> Значит у матриц <tex> U </tex> и <tex> V </tex> остаются только первые <tex> d </tex> столбцов, а матрица <tex> \Sigma </tex> становится квадратной размером <tex> d \times d </tex>. <tex> A'_{n \times m} = U'_{n \times d} \times \Sigma'_{d \times d} \times V'^T_{d \times m} </tex>. Полученная матрица <tex> A'</tex> хорошо приближает исходную матрицу <tex> A</tex>. Более того, является наилучшим низкоранговым приближением с точки зрения средне-квадратичного отклонения.