奇异值分解（SVD分解）
SVD分解的意义在于有一些矩阵不能可对角化，但是对于所有矩阵我们都可以将他类似于对角化，即：
四个矩阵分别为m×n、m×m、m×n、n×n矩阵其中矩阵U与V均为正交矩阵，Σ为对角矩阵，对角线上的元素为A的奇异值
如何计算V
此时我们可以看到，这是对（A转置乘A）的一个对角化因此，我们求矩阵的特征值及特征向量，V即为（A转置乘A）的特征向量，而Σ即为特征值的开方 同理我们可以通过计算（A乘A转置）算出U，当然也可以通过
这个式子直接算出U 线性变换及对应矩阵 首先，若要求某变换矩阵，该变换必须满足线性性质：1.T(v+w)=T(v)+T(w)2.T(cv)=cT(v)3.T(0)=0 设变换T为R上的一线性变换，且R上一组基为：
用矩阵书写变换T：
则A称为该变换T的对应变换矩阵
从上式也可以看出，确定了基其实就是确定了坐标系 基变换 假设我们需要一组变换T，目的是将向量[x]从旧坐标系下的坐标[x]，转换成新坐标系下的新坐标[c]将变换矩阵定义为A即：
其中，x为向量在旧基下的坐标，c为向量在新基下的坐标不难看出，A即为新的一组基在旧坐标系下的本来的坐标 另外，如果T变换在以v为基组成的坐标系下，新基矩阵为A；在以w为基组成的坐标系下，新基矩阵为B那么，A与B相似，即通过不同的基，表示同样的向量矩阵，那么向量矩阵在不同的基下的矩阵相似 基变换最大的应用之一就是压缩图片JPEG就是利用傅里叶基进行压缩，傅里叶基即傅里叶矩阵（每一列为一个基向量）图片压缩基本原理流程：一、输入64个像素值；二、通过傅里叶基变换，输出在新的傅里叶基下的64个系数（即新坐标系中的坐标）；三、通过设定阈值，低于阈值的系数变为0；四、输出压缩后的新的64维的向量，再乘上原来的基，实现还原原来的信号（但是是经过压缩后的）注意：在过程一到二中，是无损的，因为只是做了基变换，二到三才是压缩的本质，将一些无关紧要的像素差异进行舍弃，三到四是还原成图片的过程
左右逆和伪逆矩阵 若矩阵A不可逆，即A为奇异矩阵分几种类别讨论 若A列满秩：那么矩阵
为可逆矩阵所以我们可以得到左逆矩阵为：
同理，当A行满秩时我们可以得到右逆矩阵：
对于行与列均不满秩的矩阵我们提出伪逆矩阵的概念：最接近逆矩阵的矩阵逆的概念其实就是一个还原的过程那么伪逆也沿用这个还原的概念即若行空间有向量x，与A相乘后可以投影到列空间上（即有解），该变换记为Ax，那么将Ax还原到行空间上的变换即为伪逆变换，记作：
寻找伪逆的方法：1.奇异值分解：
其中Σ为对角矩阵，对角线上有非零元素也有零元素，如下：
令Σ的伪逆与Σ相乘为接近单位矩阵的结果，求Σ伪逆过程如下：
则A的伪逆为：
