矩阵的广义逆

August 16, 2019
线性代数/Linear Algebra

矩阵广义逆的概念最早于1920年被E.H.Moore提出, 在1955年被R. Penrose进一步完善. 此后广义逆在理论和应用上都逐渐重要. 可逆矩阵的逆一定满足这些条件, 但是广义逆不局限于狭义的可逆方阵, 有着比较广阔的研究空间, 现已成为矩阵论的一个重要分支. 应用领域也很广泛, 如数据分析和信号处理等.

Moore-Penrose(加号)广义逆

(Moore-Penrose条件)设$A$为$m\times{n}$复(或实)矩阵. 满足如下四个条件的矩阵$A^{+}$称为$A$的Moore-Penrose(或加号)广义逆

  • $AA^{+}A=A$

  • $A^{+}AA^{+}=A^{+}$

  • $(\overline{AA^{+}})^{T}=AA^{+}$

  • $(\overline{A^{+}A})^{T}=A^{+}A$

根据定义, 我们能立刻得到下面几点结论:

加号广义逆存在且唯一

设复矩阵$A=CR$, 其中$C$和$R$分别为列独立阵和行独立阵,则[A^{+}=\overline{R}^{T}(R\overline{R}^{T})^{-1}(\overline{C}^{T}C)^{-1}\overline{C}^{T}]

$A=CR$的分解是存在的. 由相抵标准形知存在可逆方阵$Q_1$, $Q_2$使得 [ A=Q_1\begin{bmatrix}I_r&0\\{0}&0\end{bmatrix}Q_2=\underbrace{Q_1\begin{bmatrix}I_r\\{0}\end{bmatrix}}_\text{$C$}\underbrace{\begin{pmatrix}I_r&0\end{pmatrix}Q_2}_\text{$R$} ]

当$A=C$为列独立阵时, $C$有左逆$X$使得$XC=I$. $C$的左逆有很多, 和我们欲证明的等式最相关的左逆是 [ C^+=(\overline{C}^{T}C)^{-1}\overline{C}^{T} ]

同理, 对$A=R$有右逆 [ R^+=\overline{R}^{T}(R\overline{R}^{T})^{-1} ]

设$A=CR$, 则$A^+=R^+C^+$为加号广义逆. 这可以通过将其代入广义逆的四个限制条件中进行验证. 至此, 我们证明了其存在性, 接下来, 我们要证明它的唯一性.

设$X_1$和$X_2$均为$A$的加号广义逆, 则 [ \begin{aligned} X_1&=X_1AX_2=X_1AX_2AX_1=X_1(\overline{AX_2})^{T}(\overline{AX_1})^{T}=X_1(\overline{AX_1AX_2})^T\\
&=X_1(\overline{AX_2})^T=X_1AX_2=(\overline{X_1A})^{T}=(\overline{X_1AX_2A})^{T}X_2\\
&=(\overline{X_2A})^{T}(\overline{X_1A})^{T}X_2=X_2AX_1AX_2=X_2AX_2=X_2 \end{aligned} ] 唯一性得到证明.

几个加号广义逆的例子

可以看到, 在这时没有狭义逆的严苛要求. 对于狭义的可逆阵而言, 这个广义逆就是自身的逆, 且是唯一的; 对狭义上不可逆的矩阵而言, 仍然可以求出矩阵的逆.

减号(一般)广义逆

所有满足$AA^{-}A=A$的矩阵$A^{-}$称为$A$的减号广义逆,或(一般)广义逆.

在这里只满足了加号广义逆中的条件1. 如果满足条件1和3, 记为$A_l^{-}$, 称为最小二乘广义逆. 如果满足条件1和4, 记为$A_m^{-}$, 称为$A$的极小范数广义逆. 下面会介绍几点减号广义逆的具体应用, 再介绍如何求所有减号广义逆.

减号广义逆在线性方程组中的应用

齐次线性方程组$Ax=0$的解全体为[x=(I-A^{-}A)z.]其中$A^{-}$遍历任意减号广义逆, $z$表示任意列向量.

这个定理的证明可以通过展开$A$来进行. 因为$A=A^{-}AA^{-}$, $A-AA^{-}A=A(I-A^{-}A)=0$. 故知$(I-A^{-}A)z$均为方程的解. 相反, 如果$Ax=0$, 那么考虑到$x=x-A^{-}Ax=(I-A^{-}A)x$, 这也是$x=(I-A^{-}A)z$的形式. 第一个等式成立的原因是,可以左乘$A$得到$Ax=(A-AA^{-}A)x=0$.

非齐次线性方程组$Ax=b$有解当且仅当$b=A^{-}Ab$, 此时全体解为$x=A^{-}b$.

这其实是广义逆表示形式的应用, 证明可以通过矩阵相抵实现, 证明在此略去.

减号广义逆的表示

设复矩阵$A$相抵于$PAQ=\begin{bmatrix}I_r&\\ &{0}\end{bmatrix}$, 则$A$的所有减号广义逆为[A^{-}=Q\begin{bmatrix}I_r&Y_2\\ Y_3 &{Y_4}\end{bmatrix}P.] 其中$Y_i$中元素为任意复数, 故$A^{-}$不唯一, 其秩也不唯一(除非$A$可逆).

证明过程

由$AA^{-}A=A$可以得到 [ (PAQ)(Q^{-1}A^{-}P^{-1})(PAQ)=PAQ ]

设$Q^{-1}A^{-}P^{-1}=\begin{bmatrix}Y_1&Y_2\\ Y_3&Y_4\end{bmatrix}$, 则有 [ \begin{bmatrix}I_r&\\ &{0}\end{bmatrix}\begin{bmatrix}Y_1&Y_2\\ Y_3&Y_4\end{bmatrix}\begin{bmatrix}I_r&\\ &{0}\end{bmatrix}=\begin{bmatrix}Y_1& \\ & \end{bmatrix}=\begin{bmatrix}I_r&\\ &{0}\end{bmatrix} ]

即$Y_1=I_r$, 得证.


如果您或您的朋友在Pocket等网站阅读本文, 建议使用“阅读原文”功能, 否则可能无法看到由Mathjax生成的数学公式

几种矩阵分解的梳理概括

November 12, 2019
线性代数/Linear Algebra

从复数的矩阵表示到极分解

August 15, 2019
线性代数/Linear Algebra

商空间与线性映射基本定理

August 14, 2019
线性代数/Linear Algebra
comments powered by Disqus