线性代数与矩阵之广义逆矩阵

广义逆矩阵

广义逆(Generalized inverse),是线性代数中针对矩阵的一种运算。一个矩阵\(A\)的广义逆叫做\(A\)的广义逆阵,是指具有部分逆矩阵的特性,但是不一定具有逆矩阵的所有特性的另一矩阵。假设一矩阵\(A\in \mathbb {R} ^{n\times m}\)及另一矩阵\(A^{\mathrm {g} }\in \mathbb {R} ^{m\times n}\),若\(A^{\mathrm {g} }\)满足\(AA^{\mathrm {g} }A=A\),则\(A^{\mathrm {g} }\)即为\(A\)的广义逆阵。

广义逆也称为伪逆(pseudoinverse),有些时候,伪逆特指摩尔-彭若斯广义逆

摩尔-彭若斯广义逆

彭若斯条件可以用来定义不同的广义逆阵:针对\(A\in \mathbb {R} ^{n\times m}\)\(A^{\mathrm {g} }\in \mathbb {R} ^{m\times n}\)

  1. \({\displaystyle AA^{\mathrm {g} }A=A}\)
  2. \(\displaystyle A^{\mathrm {g} }AA^{\mathrm {g} }=A^{\mathrm {g}}\)
  3. \({\displaystyle (AA^{\mathrm {g} })^{\mathrm {T} }=AA^{\mathrm {g}}}\)
  4. \({\displaystyle (A^{\mathrm {g} }A)^{\mathrm {T} }=A^{\mathrm {g} }A}\)

\({\displaystyle A^{\mathrm {g} }}\)满足条件(1),即为\(A\)的广义逆阵,若满足条件(1)和(2),则为\(A\)的广义反身逆阵(generalized reflexive inverse),若四个条件都满足,则为\(A\)的摩尔-彭若斯广义逆。

广义逆矩阵可以通过满秩分解或者SVD分解求得,虽然方法不同,满秩分解也不是唯一的,但是计算出的广义逆矩阵是一样的。

假设\(A=BC\)为任一满秩分解,则\(A^g=C^H(CC^H)^{-1}(B^HB)^{-1}B^H\)

假设\(A=U\Sigma V^T\)为SVD分解,则\(A^g=V\Sigma^gU^T\),其中\(\Sigma^g\)中元素为对应\(\Sigma\)中非零元素的倒数。

单边逆矩阵

单边逆矩阵(左逆矩阵或是右逆矩阵)若矩阵\(A\)的维度是\(n\times m\)且为(行或列)满秩,若\(n>m\)则用左逆矩阵,若\(n<m\)则用右逆矩阵。

左逆矩阵为\(A_{\mathrm {left} }^{-1}=\left(A^{\mathrm {T} }A\right)^{-1}A^{\mathrm {T} }\),也就是\(A_{\mathrm {left} }^{-1}A=I_{m}\),其中\(I_{m}\)\(m\times m\)单位矩阵。

右逆矩阵为\(A_{\mathrm {right} }^{-1}=A^{\mathrm {T} }\left(AA^{\mathrm {T} }\right)^{-1}\),也就是\(AA_{\mathrm {right} }^{-1}=I_{n}\),其中\(I_n\)\(n\times n\)单位矩阵。

性质

  1. 可逆矩阵有\((AB)^{-1}=B^{-1}A^{-1}\),但是广义逆\((AB)^g\)\(B^gA^g\)一般不相等。
  2. \((A^g)^g=A\)
  3. \((A^H)^g=(A^g)^H\)
  4. \(k\in R\),则有\((kA^g)=k^gA^g,k^g=\begin{cases}k^{-1},k\neq 0\\0,k=0\end{cases}\)
  5. 区别于性质1,有\((A^H A)^g=A^g(A^H)^g\)
  6. \(A^g=(A^HA)^gA^H=A^H(AA^H)^g\)
  7. 对于酉矩阵\(U,V\),则\((UAV)^g=V^HA^gU^H\)。从这点也可以看出用SVD分解求广义逆的方法。
  8. \(A^gAB=A^gAC\Leftrightarrow AB=AC\)

广义逆矩阵的应用

\(Ax=b\)无解时可以用广义逆矩阵求近似解,实际是就是求\(||Ax-b||_2\)最小。

其通解为 \[x=A^gb+(I-A^gA)y,y\in C^n\] 其中,\(A^gb\)是唯一的极小最小二乘解。极小指长度(范数)最小。