矩阵理论 课件 第6章第4节矩阵的奇异值分解.pptx
6.4矩阵的奇异值分解
矩阵的奇异值分解
从Beltrami(1873)和Jordan(1874)提出奇异值分解(SVD,Singularvalue
decomposition)至今，SVD及其推广已经成为矩阵计算最有用和最有效的工具之一，在最小二乘问题、最优化、统计分析、信号与图像处理、系统理论与控制、最佳逼近问题和实验数据处理等领域被广泛使用。
2,(i=1,2,…,n)均为非负实数，可以表示为Z≥2≥…≥2,0,2,+1=…=λ=0,称其算术
平方根σ=√λ(i=1,2,…,n)为矩阵A的奇异值.
定理6.10设A∈Cm×n,rank(A)=r,则存在m阶酉矩阵U以及n阶酉矩阵V,使
(6-7)
其中，Z=diag(o₁,o₂,…,σ,),且o₁≥o₂≥…≥0,0,σ;(i=1,2,…,r)是矩阵A的正奇异
值.这时式(6-7)称为矩阵A的奇异值分解式.
证明由定理6.5,n阶矩阵AA是半正定的Hermite矩阵，1rank(AA)=rank(AA)=rank(A)=r,因而，不妨设AA的特征值为
λ≥λ≥…≥λ,0,2,+1=…=λn=0
由定义令σ,=√a(i=1,2,…,n)均为A的奇异值，且满足
o₁≥σ₂≥…≥σ,0,σr+1=…=σn=0
矩阵的奇异值分解
定义6.7设A∈Cm×n,rank(A)=r,则n阶Hermite矩阵AA是半正定的，因而特征值
其中2=diag(q₁,o₂,…,σ,)令V=(V₁,V₂),其中V₁是r列，则
矩阵的奇异值分解
V(AA)V₁=2²,V(AA)V₂=0×(n-)
V₂(AA)V₁=0(m-)x,v₂(AA)V₂=0(n-r)x(n-)
(AV₂)AV₂=0
AV₂=0
U₁=AV₁z-¹
U₁U₁=E,
将其扩充成酉空间Cm
的一个标准正交基Y₁,Y₂,…,y,,Y,+1,…,m,令U₂=(Yr+1,…,ym)
则
U=(U₁,U₂)
即U₁为m×r阶矩阵且列向量是两两正交的单位向量，记为
U₁=(y₁,Y₂,…,y,)
矩阵的奇异值分解
比较上式左右两边的矩阵，可得
又因为
所以
令则
定理6.11设A为n阶非奇异矩阵，则存在n阶酉矩阵U及V,使得
,σ;0,i=1,2,…,n
若将U和V分别写成U=(u,u₂,…,u),V=(v₁,V₂,…,vn),则
矩阵的奇异值分解
是m阶酉矩阵，且有U₁U₁=E,,
(6-8)
,故
矩阵的奇异值分解
证明由A非奇异，AA为n阶正定的Hermite矩阵，故存在n阶酉矩阵V,使
V(AA)V=z²,z-¹v(AA)v2¹=E,
UH=z-lvHAH
其中σ²为AA的特征值，令
则令
的奇异值分解.
则AI-AA|=(λ-3)(a-1)λ,可得AA的特征值为
2=3,22=1,2=0,rank(A)=2.由此可得
酉对角分解的求法正如证明中所给：先对AA对角化(酉对角化),求出变换酉矩
阵V,再令U=AV2-¹即可.
U=AV-1
UU=E,
UHAV=2-¹vHAAV=2-¹z²=2
矩阵的奇异值分解
61*知峰
则故
而且
又AA的特征值所对应的特征向量分别是
由于AA是Hermite矩阵，故α,a₂,α₃两两正交，将其单位化
矩阵的奇异值分解
取U₁的列向量生成子空间的正交补的基
矩阵的奇异值分解
得正交矩阵
,从而
取
矩阵的奇异值分解
因此，A的奇异值分解为
证明U的列向量是AAH的特征向量，而V的列向量是AA的特征向量.
证明由A的奇异值分解式可得
故
令U=(y₁,Y₂,…,ym),代入上式得到
矩阵的奇异值分解
例6.12设矩阵A∈Cm×n,rank(A)=r,且矩阵A的奇异值分解为
矩阵的奇异值分解
AAy;=o²y;(i=1,2,…,r),
AAy,;=0=0y;(j=r+1,…,m)
故U的列向量是AA#标准正交的特征向量.
同理可证
令V=(