特征值分解、SVD分解在线性最小二乘解上的应用

1. 奇异值分解(SVD)原理

1.1 回顾特征值和特征向量

我们首先回顾下特征值和特征向量的定义如下：
$A x = λ x$ 其中A是一个n×n的实对称矩阵，x是一个n维向量，则我们说λ是矩阵A的一个特征值，而x是矩阵A的特征值λ所对应的特征向量。

求出特征值和特征向量有什么好处呢？就是我们可以将矩阵A特征分解。如果我们求出了矩阵A的n个特征值 $λ_1≤λ_2≤...≤λ_n$ ，以及这n个特征值所对应的特征向量 $w_1,w_2,...,w_n$ ，如果这n个特征向量线性无关，那么矩阵A就可以用下式的特征分解表示：
$A=WΣW^{−1}$ 其中W是这n个特征向量所张成的n×n维矩阵，而Σ为这n个特征值为主对角线的n×n维矩阵。一般我们会把W的这n个特征向量标准化，即满足 $wi||^2=1$ , 或者说 $w^T_iw_i=1$ ，此时W的n个特征向量为标准正交基，满足 $W^TW=I$ ，即 $W^T=W^{−1}$ , 也就是说W为酉矩阵。

这样我们的特征分解表达式可以写成
$A=WΣW^T$ 注意到要进行特征分解，矩阵A必须为方阵。那么如果A不是方阵，即行和列不相同时，我们还可以对矩阵进行分解吗？答案是可以，此时我们的SVD登场了。

1.2 SVD的定义

SVD也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵，那么我们定义矩阵A的SVD为：
$A=UΣV_T$ 其中U是一个m×m的矩阵，Σ是一个m×n的矩阵，除了主对角线上的元素以外全为0，主对角线上的每个元素都称为奇异值，V是一个n×n的矩阵。U和V都是酉矩阵，即满足 $U^TU=I$ , $V^TV=I$ 。下图可以很形象的看出上面SVD的定义：

在这里插入图片描述

1.3 求出SVD分解后的U,Σ,V矩阵

如果我们将A的转置和A做矩阵乘法，那么会得到n×n的一个方阵 $A^TA$ 。既然 $A^TA$ 是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
$A^TA)v_i=λ_iv_i$ 这样我们就可以得到矩阵 $A^TA$ 的n个特征值和对应的n个特征向量v了。将 $A^TA$ 的所有特征向量张成一个n×n的矩阵V，就是我们SVD公式里面的V矩阵了。一般我们将V中的每个特征向量叫做A的右奇异向量。

如果我们将A和A的转置做矩阵乘法，那么会得到m×m的一个方阵 $AA^T$ 。既然 $AA^T$ 是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
$AA^T)u_i=λ_iu_i$ 这样我们就可以得到矩阵 $AA^T$ 的m个特征值和对应的m个特征向量u了。将 $AA^T$ 的所有特征向量张成一个m×m的矩阵U，就是我们SVD公式里面的U矩阵了。一般我们将U中的每个特征向量叫做A的左奇异向量。

U和V我们都求出来了，现在就剩下奇异值矩阵Σ没有求出了。由于Σ除了对角线上是奇异值其他位置都是0，那我们只需要求出每个奇异值σ就可以了。

我们注意到:
$A=UΣV^T⇒AV=UΣV^TV⇒AV=UΣ⇒Av_i=σ_iu_i⇒σ_i=Av_i/u_i$ 这样我们可以求出我们的每个奇异值，进而求出奇异值矩阵Σ。

上面还有一个问题没有讲，就是我们说 $A^TA$ 的特征向量组成的就是我们SVD中的V矩阵，而 $AA^T$ 的特征向量组成的就是我们SVD中的U矩阵，这有什么根据吗？这个其实很容易证明，我们以V矩阵的证明为例。
$A=UΣV^T⇒A^T=VΣ^TU^T⇒A^TA=VΣ^TU^TUΣV^T=VΣ^2V^T$ 上式证明使用了: $U^TU=I,Σ^TΣ=Σ^2$ 。