12 满秩分解与奇异值分解（西北工业大学版）

1 第十二讲 满秩分解与奇异值分解 一、矩阵的满秩分解 1. 定义：设 m n r A C (r 0)   ，若存在矩阵 m r r F C  及 r n r G C  ，使得 A FG ，则称其为A的一个满秩分解。 说明：（1）F为列满秩矩阵，即列数等于秩；G为行满秩矩阵，即行 数等于秩。 （2）满秩分解不唯一。 r r r D C   （r阶可逆方阵），则 1 1 1 1 A FG F(DD )G (FD)(D G) F G      ，且 m r r n 1 r 1 r F C ,G C    2. 存在性定理：任何非零矩阵均存在满秩矩阵 证明：采用构造性证明方法。设 m n r A C  ，则存在初等变换矩阵 m m m E C  ， 使 G r EA B ....... O (m r)           行 行 ， 其中 r n r G C  将A写成 1A E B ，并把 1E 分块成  1 r (m r) E F | S    列 列 ，其中 m r r F C  . G A F . S .... FG . O                      是满秩分解。 3. Hermite 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 形（行阶梯标准形） 设 m n r B C (r 0)   ，且满足 （1） B的前r行中每一行至少含一个非零元素（称为非零行）， 2 且第一个非零元素为 1，而后 (m r) 行的元素全为零（称 为零行）； （2） 若 B 中第 i 行的第一个非零元素（即 1）在第 i j 列 (i 1,2, ...,r) ，则 1 2 r j j ... j   ; （3） 矩阵B的第 1 j 列，第 2 j 列，…,第 r j 列合起来恰为m阶单位 方阵 m I 的前r列（即 1 2 r j , j , ..., j 列上除了前述的 1外全为 0） 则称B为 Hermite标准形。 例 1 5 6 1 3 5 6 1 2 0 0 1 3 0 0 1 0 2 2 B C0 0 0 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0                   为 Hermite标准形 4 5 2 2 4 5 0 0 1 0 2 0 0 0 1 3 B C 0 0 0 0 0 0 0 0 0 0                也是 Hermite标准形 4. 满秩分解的一种求法 设 m n r A C  ， （1） 采用行初等变换将A化成 Hermite 标准形，其矩阵形式为 EA B ，其中B为 Hermite 标准形定义中给出的形状； （2） 选取置换矩阵 1 P的第 i列为 ij e ，即该列向量除第 i j 个元素为 1 外，其 余元素全为零 (i 1,2, ...,r) ,其中 i j 为 Hermite 标准形中每 3 行第一个非零元素（即 1）所在的列数； 2 其它 (n r) 列只需确保P为置换矩阵即可（P的每一 行，每一列均只有一个非零元素，且为 1）； 3 用P右乘任何矩阵（可乘性得到满足时），即可将该矩 阵的第 i j 列置换到新矩阵（即乘积矩阵）的第 i列 4 令  1 r (n r) P P | *   列 列 ，即 1 2 r n r 1 j j j r n r P e e ...e C       （3）令G B 的前r行 r n n C  ， m r 1 r F AP C   则A FG 证明： G EA B O         ，  1 G A E B F | S FG O         则 m r r F C  ， r n r G C  ，G已知，但F ? ，当然可以通过求出 1E,E 再将 1E 分块得 到，但这样G就没必要采用 Hermite标准形形式，注意到 r 1 I BP O        ， 则  1 r1 1 I AP E BP F | S F O         证毕 例 2 1 2 3 0 A 0 2 1 1 1 0 2 1           求其满秩分解 解：（1）首先求出A的秩。显然，前两行互相独立，而第三行可由第 一行减去第二行得到，故r 2 。 (2)进行初等变换将A化为 Hermite 标准型。  3 1 2 3 0 . 1 0 0 A | I 0 2 1 1 . 0 1 0 1 0 2 1 . 0 0 1           (3) (1) (2)    4 1 2 3 0 . 1 0 0 0 2 1 1 . 0 1 0 0 0 0 0 . 1 1 1          (1) (2)   1 0 2 1 . 1 1 0 0 2 1 1 . 0 1 0 0 0 0 0 . 1 1 1           (2) / 2  1 0 2 1 . 1 1 0 0 1 1/ 2 1/ 2 . 0 1/ 2 0 0 0 0 0 . 1 1 1          ， 即 1 1 0 E 0 1/ 2 0 1 1 1          , 1 0 2 1 B 0 1 1/ 2 1/ 2 0 0 0 0           , 1 0 2 1 G 0 1 1/ 2 1/ 2       (3)求出 1 P 及 1 AP 由B可见， 1 2 j 1, j 2  故 1 1 0 0 1 P 0 0 0 0             ， 1 1 2 F AP 0 2 1 0           验证： 1 2 1 2 3 0 1 0 2 1 FG 0 2 0 2 1 1 0 1 1/ 2 1/ 2 1 0 1 0 2 1                        而 1 1 2 0 E 0 2 0 1 0 1           二、酉对角分解与奇异值分解 1. 厄米矩阵的谱分解 5 A为厄米矩阵，则存在酉矩阵U，使 1 2H n O U AU O               将U写成列向量形式，即  1 2 nU u u ... u ，则   H 11 H 22 n H H 1 2 n i i i i 1 H nn uO u A U U u u ... u . u u. .. uO                               2. 非奇异矩阵的酉对角分解 定理：设A为n阶非奇异矩阵，则存在n阶酉矩阵U及V，使得 H 1 2 n O U AV ,. . O                 i 0(i 1,2, ...,n)   （若将U, V写成    1 2 n 1 2 nU u u ... u , V v v ... v  ， 则 n n i i i i 1 A u v    ） 证： HA A也为n阶非奇异矩阵，而且是厄米、正定矩阵，故存在n阶 6 酉矩阵V，使 2 1 2 2 H H 2 n O V (A A)V . . O                2 i  为 HA A的特 征值。 令 1 2 n O . . O                  ，则 2H H V A AV  令 1 1H H H U V A , U AV       ，则 1 1H H H n U U (V A AV) I      即U也是酉矩阵，而且 1H H H U AV V A AV     证毕 酉对角分解的求法正如证明中所给：先对 HA A对角化（酉对 角化），求出变换矩阵V，再令 1 U AV    即可。 3. 一般矩阵的奇异值分解 定理：设 m n r A C  ，则存在m阶酉矩阵U及n阶酉矩阵V，使 1 2 H r 0 O r U AV 0 O O (m r) r (n r)                   行 行 列 列 即 7 1 2 H r O A U V. O O                 证：首先考虑 HA A。因为 H Hrank(A A) rank(AA ) rankA  ，故 H n n r A A C  ， 而且是厄米、半正定的，存在n阶酉矩阵V，使 2 1 2 2 H H 2 r n n O V (A A)V . O O                 令 1 2 r O . . O                  ，  1 2V | VV r (n r)  列 列 则 2H H H H H H 1 1 1 2 H H H H 2 1 2 2 V (A A)V V (A A)V O V (A A)V V (A A)V V (A A)V O O               2H H 1 1 V (A A)V  H H1 2 r (n r)V (A A)V O   H H 2 2 (n r) (n r) V (A A)V O    令 1 1 1 U AV    则 H1 1U AV  ，又 H 2 2 2 (AV ) (AV ) 0 AV 0   在 1 U 的基础上构造酉矩阵  1 2U U | U ，即 H U U I 这由前面基扩充定理可知是可行的， H H H 1 1 r 1 2 r (n r) 2 2 n r U U I ,U U O ,U U I     故 8   H H H H 1 1 1 1 2 1 2H H H 2 2 1 2 2 U U AV U AV U AV A V V U U AV U AV              其中已知 H 1 1 U AV  而 H H1 2 2 2U AV 0,U AV 0  2( A V 0 ) H H H 2 1 2 1 2 1 U AV U (U ) (U U ) 0    故定理得证。 奇异值分解的求法可按证明步骤求之。 作业： P225 1(2)， 2， 5 P233 1