线性代数与矩阵之矩阵的正定性,二次型与合同矩阵

线性代数与矩阵之矩阵的正定性,二次型与合同矩阵

我们在对称矩阵的基础上定义了正定、半正定、负定、半负定的概念,并引入二次型,其与最大最小值相关。最后我们简介了矩阵的合同。

对称(埃米特)矩阵与正定性

对称(埃米特)矩阵与矩阵的正定性,通常正定性是定义在对称矩阵(或埃米特矩阵)上的,如果一个矩阵不是对称(埃米特)矩阵,就不具备讨论正定性的前提条件。

一个\(n×n\)的实对称矩阵\(A\)正定的,当且仅当对于所有的非零实系数向量\(x\),都有\(x^TAx>0\),其中\(x^T\)表示x的转置。

类似的,如果\(x^TAx\geq 0\),则\(A\)称为半正定矩阵;如果\(x^TAx<0\),则\(A\)称为负定矩阵;如果\(x^TAx\leq 0\),则\(A\)称为半负定矩阵

注:如果是复数域的埃米特矩阵,那么上面一定中的转置都有替换成共轭转置。

正定性还有这几个等价命题:

  1. 矩阵\(A\)的所有特征值为正。对于正定矩阵的特征向量\(y\),有\(y^TAy>0\Rightarrow y^T\lambda y=\lambda |y|^2>0\Rightarrow \lambda>0\)
  2. 矩阵\(A\)的所有主元为正。证明思路:主元与二次型展开的平方项系数一致。
  3. 矩阵\(A\)的顺序主子式为正。
  4. 矩阵\(A\)与单位阵\(I\)合同,即存在可逆矩阵\(C\),使得\(A=C^TIC\)

类似的,半正定矩阵有以下等价命题:

  1. 矩阵\(A\)的所有特征值为非负。
  2. 矩阵\(A\)的所有主元为非负。
  3. 矩阵\(A\)的顺序主子式为非负。

我们可以通过例子说明,非对称矩阵可以在满足上述1,2,3的前提下不满足正定矩阵的定义\(x^TAx>0\)。如下例 \[ \begin{bmatrix} 1&-100\\0&1 \end{bmatrix} \] 显然,其主元、特征值都是1,顺序主子式也都大于0,但是对于\(x^TAx\),我们随便找一个向量\(x=[1,1]^T\),则 \[ [1\quad 1]\begin{bmatrix}1&-100\\0&1\end{bmatrix}\begin{bmatrix}1\\1\end{bmatrix}=-98<0 \] 这并不满足\(x^TAX>0\)。这说明,正定性必须建立在对称矩阵上

正定矩阵性质

  1. 矩阵\(A\)是正定矩阵,它的逆矩阵\(A^{-1}\)也是正定矩阵。因为逆矩阵的特征值是原矩阵的倒数\(1\over \lambda\),因此也都是正数。
  2. 矩阵\(A,B\)是正定矩阵,那么\(A+B\)也是正定矩阵。证明:\(x^T(A+B)x=x^TAx+x^TBx>0\)
  3. 如果\(A\)是一个\(m×n\)长方形矩阵,则\(A^TA\)是对称方阵,且一定半正定。证明:\(x^TA^TAx=(Ax)^TAx=|Ax|^2\geq 0\)。当\(A\)的秩为\(n\)时,\(A^TA\)为秩为\(n\)\(n\)阶方阵,此时\(A^TA\)的零空间为零维空间,此时\(A^TA\)为正定矩阵。

二次型与最小值

有了对称矩阵和定义在对称矩阵上的正定矩阵,我们由\(x^TAx\)引出二次型的概念。所谓“二次型”就是多元二次函数的矩阵表示形态,但是这个多元二次函数只包含二次项不包含一次项和常数项。这是因为在高阶多项式中,主要性质大多由最高阶项决定。

二次型:对\(n\)维实向量\(x∈R^n\)\(n\)阶实对称阵\(A\)\(f(\vec x)=\vec x^TA\vec x\)称为二次型。复数域上变为共轭转置即可。

由二项式展开式: \[ \begin{aligned} f(x_1,x_2,\dotsb,x_n)&=c_{11}x_1^2+c_{22}x_2^2+\dotsb+c_{nn}x_n^2\\ &+c_{12}x_1x_2+c_{13}x_1x_3+\dotsb+c_{1n}x_1x_n\\ &+\dotsb+c_{n-1,n}x_{n-1}x_n \end{aligned} \] 与二次型\(f(\vec x)=\vec x^TA\vec x\)关系可知,其系数矩阵\(A\)与二项式系数关系为: \[ A=\begin{bmatrix} c_{11}&0.5c_{12}&0.5c_{13}&\dotsb&0.5c_{1,n}\\ c_{21}&c_{22}&0.5c_{23}&\dotsb&0.5c_{2,n}\\ \vdots&\vdots&\vdots&\ddots&\vdots&\\ 0.15c_{1,n}&0.5c_{2,n}&0.5c_{3,n}&\dotsb&c_{n,n}\\ \end{bmatrix} \] 显然,矩阵\(A\)是对称矩阵。当\(A\)是(半)正定矩阵时,二次型有最小值;当\(A\)是(半)负定矩阵时二次型有最大值。

正定负定不定半正定.png

正定负定不定半正定.png

合同矩阵(了解)

合同矩阵,在线性代数,特别是二次型理论中,常常用到矩阵间的合同关系。

合同矩阵:设\(A,B\)是两个\(n\)阶方阵,若存在可逆矩阵\(C\),使得: \[B=C^TAC\] 则称方阵\(A\)\(B\)合同,记作\(A≃B\)

合同性质

合同关系是一个等价关系,也就是说满足:

  1. 反身性:任意矩阵都与其自身合同;
  2. 对称性:\(A\)合同于\(B\),则可以推出\(B\)合同于\(A\)
  3. 传递性:\(A\)合同于\(B\)\(B\)合同于\(C\),则可以推出\(A\)合同于\(C\)
  4. 此外,由于\(B=C^TAC\)中,要求\(C\)可逆,所以合同矩阵的秩相同。

两个实对称矩阵合同的充要条件是它们的正负惯性指数相同

其中,提到了正负惯性指数,是指:

正惯性指数,简称正惯数,是线性代数里矩阵的正的特征值个数,也即是规范型里的系数"1"的个数。

实二次型的标准形中,系数为正的平方项的个数等于二次型的正惯性指数。

此外,合同变化与二次型的化简有关。