正定与半正定矩阵

形式陈述 ​

设 $A\in {\mathbb{R}}^{n\times n}$ 为实对称矩阵。若对每个非零 $x\in {\mathbb{R}}^n$ 都有

$$x^{\mathsf{T}}Ax>0,$$

则称 $A$ 正定，记作 $A\succ 0$；若对每个 $x$ 都有 $x^{\mathsf{T}}Ax\ge 0$，则称 $A$ 半正定，记作 $A⪰0$。复数情形必须要求 $A=A^{\ast }$ 为 Hermitian 矩阵，并把表达式换成 $x^{\ast }Ax$。

由有限维谱定理公理库有限维谱定理Finite-dimensional spectral theorem有限维实对称或复自伴算子存在正交规范特征向量基。，对称/Hermitian 矩阵正定当且仅当所有特征值严格为正，半正定当且仅当所有特征值非负。半正定还等价于存在矩阵 $B$ 使

$$A=B^{\ast }B,$$

也等价于存在唯一半正定平方根 $A^{1/2}$。正定时 $B$ 可取可逆的 Cholesky 因子。

Sylvester 判据说，Hermitian 矩阵正定当且仅当所有顺序主子式 $\det A_{1:k,1:k}$ 都为正。半正定的对应判据要求所有主子式非负，不能只检查顺序主子式。

直觉 ​

二次型公理库二次型Quadratic form把向量映为二次齐次标量的函数，并通过极化与对称双线性形式相联系。 $x^{\ast }Ax$ 给每个方向赋予能量。正定意味着除原点外没有平坦方向或负能量方向；半正定允许某些非零方向能量为零，但仍禁止向下弯曲。谱分解把空间旋转到特征向量坐标后，这个能量成为 $\sum _i{\lambda }_i|y_i{|}^2$，所以定性完全由特征值符号控制。

Gram 表示 $A=B^{\ast }B$ 说明半正定矩阵是在记录一组向量的内积：$A_{ij}=⟨b_i,b_j⟩$。零特征值意味着这些向量存在依赖，也意味着能量模型无法区分某些方向。

例子与边界 ​

矩阵

$$A=\left(\begin{array}{cc}2& -1\\ -1& 2\end{array}\right)$$

的特征值为 $1,3$，并且

$$\left(\begin{array}{cc}x& y\end{array}\right)A(\genfrac{}{}{0ex}{}{x}{y})=(x-y{)}^2+x^2+y^2>0$$

对 $(x,y)\ne (0,0)$ 成立，所以 $A$ 正定。Gram 矩阵总是半正定；若生成它的向量线性相关，Gram 矩阵会奇异，只是半正定而非正定。协方差矩阵也是这一情形：随机变量之间的精确线性关系会产生零方差方向。

只检查标准基方向不够。矩阵 $\left(\begin{array}{cc}1& 2\\ 2& 1\end{array}\right)$ 的两个对角元都为正，但在 $x=(1,-1)$ 上二次型取 $-2$，故不正定。可逆也不推出正定，例如 $\mathrm{diag}(1,-1)$ 可逆却不定。半正定时仅要求顺序主子式非负同样不足：$\mathrm{diag}(0,-1)$ 的两个顺序主子式都是 $0$，但它显然有负能量方向。

推论与应用 ​

正定矩阵定义一个内积公理库内积空间Inner product space带正定对称双线性形式或正定 Hermitian 半双线性形式的向量空间。 $⟨x,y{⟩}_A=x^{\ast }Ay$，从而产生范数与椭球几何。半正定矩阵按 Loewner 序组织：$A⪰B$ 表示 $A-B⪰0$，这是矩阵不等式、协方差比较与凸优化的基本语言。

二阶可微函数在某点的 Hessian 正定时，该点具有严格局部极小的充分条件；Hessian 处处半正定则刻画凸性。最小二乘中的 $A^{\ast }A$ 总是半正定，只有 $A$ 满列秩时才正定并给出唯一参数解。数值计算中直接利用 Cholesky 分解比先求特征值更高效，但半正定且秩亏时必须允许零主元或改用秩揭示分解。

参考资料

• Roger A. Horn and Charles R. Johnson, Matrix Analysis, 2nd ed., Cambridge University Press, 2013, Chapters 4 and 7.
• Gilbert Strang, MIT 18.06, Positive Definite Matrices and Minima lecture notes.