几种矩阵分解的梳理概括

November 12, 2019
线性代数/Linear Algebra

一个线性变换, 其对应的矩阵可能很复杂, 也可能很简单. 为了简化问题, 我们会尝试选择合适的基, 使得矩阵有着更简单、更能体现其性质的表示形式. 先主要简单介绍一下特征值分解, 剩下三种分解的细节会慢慢补充.

特征值分解

特征值分解是最朴素的一种分解. 它的出发点是一个线性方程: [ Ax=\lambda x, ]

其中$x$为非$0$向量. 一个线性变换可能既有旋转又有拉伸, 但是如果这个式子成立, 那么只有拉伸. 这可以看成是其”特征”所在. 这转化成解一个线性齐次方程组 [ (\lambda{I}-A)x=0 ]

如果令$B=\lambda{I}-A$, 那么就是说, $Bx=0$有非$0$解. 如果$B$是$n$阶方阵, 那么根据齐次方程组非零解的判定办法, 就一定有 [ n-r(B)>0 ]

也就是说$r(B)<n$. 这又说明, $|B|=|\lambda{I}-A|=0$.

$|\lambda{I}-A|$其实就是一个$n$阶多项式. 通常记为$f(\lambda)$, 叫做特征多项式. 根据古典代数学基本定理, 方程$f(\lambda)=0$一定有$n$个根(可能有重根). 而这些根就是所谓特征根.

反过来, $Bx=0$的解$x$就是$A$的特征向量. 如果$f(\lambda_1)=0$, 而且$Ax_1=\lambda_1x_1$, 那么就称$x_1$为属于$\lambda_1$的特征向量. 可以验证的是, 属于不同特征值的特征向量是线性无关的.

如何进行特征值分解, 将一个矩阵转化成对角矩阵呢?

当且仅当$A$有$n$个线性无关的特征向量时, 设这些列向量为$x_1,x_2,\cdots,x_n$, 矩阵$A$可以对角化. 事实上, 设 [ P=(x_1,x_2,\cdots,x_n) ]

在这里用$n$个列向量表示了一个矩阵. 那么注意到 [ \begin{aligned} P^{-1}AP&=P^{-1}(Ax_1,Ax_2,\cdots,Ax_n)\\
&=P^{-1}(\lambda_1x_1,\lambda_2x_2,\cdots,\lambda_nx_n)\\
&=(\lambda_1P^{-1}x_1,\lambda_2P^{-1}x_2,\cdots,\lambda_nP^{-1}x_n)\\
&=(\lambda_1\varepsilon_1,\lambda_2\varepsilon_2,\cdots,\lambda_n\varepsilon_n)\\
&=\text{diag}(\lambda_1,\lambda_2,\cdots,\lambda_n) \end{aligned} ]

倒数第二个等号用到了$I=P^{-1}P=(P^{-1}x_1,P^{-1}x_2,\cdots,P^{-1}x_n)$. 从而$P^{-1}x_i=\varepsilon_i$. $\varepsilon_i$为标准正交基的第$i$分量.

必要性在此不做证明.

这说明特征值分解有惟一的办法: 找到$n$个线性无关的特征向量. 这个分解有很大的实际应用价值, 但是在某些情况下显得非常苛刻. 这要求我们找到一些更深刻的分解办法.

另外三种分解简单介绍

准素分解是借助极小多项式进行广义特征值分解. 考虑矩阵构成的多项式$f(A)=A-\lambda{I}$. $A$的特征向量有$f(A)x=0$. 设$\mathcal{A}:x\mapsto f(A)x$, 那么显然$A$的特征向量组为$\mathcal{A}$这个线性变换的核. 但是这时候的$f(A)$很简单. 将$f(A)$推广成任意的多项式, 那么这个时候$\mathcal{A}$的核就自然可以被称为广义特征值了.

循环分解利用了群论中循环群的思想. 这时候涉及到了比极小多项式更精细的零化子. 将一个线性空间在一个指定线性变换中分解成若干个循环子空间的直和. 结果矩阵被准对角化, 对角元素为零化子的友阵. 零化子的次数最大项就是线性变换对应矩阵的极小多项式, 而所有零化子的乘积就是矩阵的特征多项式.

最后, 将一个线性空间对线性变换先进行准素分解, 在进行循环分解, 最后选取合适的基, 即Jordan链, 再进行分解, 使线性变换的矩阵有着更简洁的表示形式, 即Jordan标准型. 值得注意的是, 任意一个复方阵都可以进行Jordan分解, 这样的话矩阵分解在理论上可行性就能提升不少.


如果您或您的朋友在Pocket等网站阅读本文, 建议使用“阅读原文”功能, 否则可能无法看到由Mathjax生成的数学公式

矩阵的广义逆

August 16, 2019
线性代数/Linear Algebra

从复数的矩阵表示到极分解

August 15, 2019
线性代数/Linear Algebra

商空间与线性映射基本定理

August 14, 2019
线性代数/Linear Algebra
comments powered by Disqus