线性代数-对称矩阵及正定性-26

Linear Algebra-对称矩阵及正定性-26

一、知识概要

本节从对称矩阵的特征值和特征向量出发，介绍对称矩阵在之前所学内容中的特殊性质，并借此引出正定矩阵。

二、对称矩阵

如同之前学习的许多特殊矩阵（如马尔科夫矩阵）一样，对称矩阵具有诸多特殊性质。我们注意到，一个矩阵的很多特殊性质往往体现在特征值与特征向量上，对于对称矩阵，我们也从其特征值和特征向量的特殊性开始探讨。

对称矩阵满足以下性质：

(1) $A = A^{T}$ 。

(2) 有正交的特征向量。

这里需要注意，对于特征值重复的情况，会存在一整个平面的特征向量，那么我们只要挑选出一组垂直的向量，“有正交的特征向量”这一定理依然成立；而对于特征值不重复的情况，其对应的特征向量相互垂直。

2.1 对称矩阵的分解

基于上述两个性质，能发现对称矩阵的诸多特点。由性质(2)可知，其特征向量必然全部线性无关，而这是矩阵可被对角化的前提条件。根据矩阵对角化的知识：

• 通常情况：$A = S\Lambda S^{-1}$（$S$是由特征向量组成的矩阵）。
• 对称情况（有正交特征向量）：

$$A=Q\Lambda Q^{-1} $$，Q的列向量标准正交，$$Q^{T}=Q^{-1}$$，因此$$A=Q\Lambda Q^{T}$$

另外，$A = Q\Lambda Q^{T}$ 本身就是对称的，因为$(Q\Lambda Q^{T})^{T}=Q\Lambda Q^{T}$ 。所以，给定一个对称矩阵，就可以将其分解成这种形式。在力学上，这被称为主轴定理，意味着在合适的轴上观察某种材料时，它会变成对角化形式，方向不会重复；在数学上，这被称为“谱定理”。

2.2 对称矩阵的特征值

回忆之前介绍的旋转矩阵，存在使特征值为虚数的情况，但对称矩阵不会出现这种情况，即对称矩阵特征值均为实数。下面证明这一结论：

由特征值公式 $A x=\lambda x$ ：

• 对该公式取共轭，因为$A$是实矩阵，所以得到：$A\overline{x}=\overline{\lambda}\overline{x}$ 。
• 对其两侧同时取转置：$\overline{x}^{T}A^{T}=\overline{\lambda}\overline{x}^{T}$ ，又因为$A = A^{T}$ ，所以$\overline{x}^{T}A=\overline{\lambda}\overline{x}^{T}$ 。
• 两侧同时乘上$x$构造方程，可得：$\overline{x}^{T}A x=\overline{x}^{T}\overline{\lambda}x(2.2.1)$ 。

注意到这时左边的等式出现了$Ax$ ，如果构造一个新的等式，将$A x=\lambda x$ 代入，可以得到另一个关系式：$\overline{x}^{T}Ax=\lambda \overline{x}^{T}x(2.2.2)$ 。

• 对比上面的两个式子(2.2.1)与(2.2.2)，可以得到：$\lambda=\overline{\lambda}$ （$\overline{x}^{T}x$不为零时），这就证明了特征值是一个实数。

计算$\overline{x}^{T}x$ ：

$$\overline{x}^{T}x = \begin{bmatrix} \overline{x}_{1} & \overline{x}_{2} & \cdots & \overline{x}_{n} \end{bmatrix} \begin{bmatrix} x_{1} \\ x_{2} \\ \cdots \\ x_{n} \end{bmatrix} =\overline{x}_{1}x_{1}+\overline{x}_{2}x_{2}+\cdots+\overline{x}_{n}x_{n}$$

其中$\overline{x}_{i}x_{i}=(a + bi)(a - bi)=a^{2}+b^{2}$ ，均为实数且大于 $0$。仅当$x$为零向量时，其内积为 $0$，而对称矩阵的特征向量$x$不是零向量，所以$\overline{x}^{T}x = 0$情况不存在，即对称矩阵特征值均为实数。

同时需要强调，复数矩阵也可能特征值均为实数，只要满足$\overline{A}^{T}=A$（共轭转置等于其本身），此时推理过程和对称矩阵无异，可将运算后的$\overline{A}^{T}$代换为$A$。

在知道对称矩阵特征值为实数之后，探究其正负性。

对称矩阵具有以下特殊性质：

(1) 对称矩阵的主元正负个数与特征值的正负个数对应一致，即：

• 正主元个数 = 正特征值个数
• 负主元个数 = 负特征值个数

(2) 对称矩阵的主元的乘积等于特征值的乘积（它们都等于矩阵行列式的值）。

这为了解对称矩阵的特征值正负情况提供了一种更简便的方式。因为在矩阵规模较大时，求矩阵的主元只需进行消元操作，比求解特征值要简单得多。

2.3 对称矩阵的另一种理解

根据$A = Q\Lambda Q^{T}$ ，将其展开，采用另一种矩阵乘法方式（列乘行再相加）来分析：

$$A = Q\Lambda Q^{T}= \begin{bmatrix} q_{1} & q_{2} & \cdots & q_{n} \end{bmatrix} \begin{bmatrix} \lambda_{1} & 0 & \cdots & 0 \\ 0 & \lambda_{2} & & 0 \\ \cdots & & \cdots & \\ 0 & & 0 & \lambda_{n} \end{bmatrix} \begin{bmatrix} q_{1}^{T} \\ q_{2}^{T} \\ \cdots \\ q_{n}^{T} \end{bmatrix}$$

中间的对角阵可视为常数，将$\begin{bmatrix}q_{1} & \cdots & q_{n}\end{bmatrix}\begin{bmatrix}q_{1}^{T} \\ \cdots \\ q_{n}^{T}\end{bmatrix}$按这种方式计算后相加，得到：$A=\lambda_{1}q_{1}q_{1}^{T}+\lambda_{2}q_{2}q_{2}^{T}+\cdots$ 。

由于$q_{1}$是列向量，且$q_{1}^{T}q_{1} = 1$（单位向量性质），所以可将这些$q_{i}q_{i}^{T}$改写为$\frac{q_{i}q_{i}^{T}}{q_{1}^{T}q_{1}}$ ，这明显是投影矩阵$A(A^{T}A)^{-1}A^{T}$的形式，$q_{i}q_{i}^{T}$可以理解为向$q_{i}$方向投影的投影矩阵。

于是从另一个角度理解谱定理：每一个对称矩阵都是一些互相垂直的投影矩阵的线性组合。

三、正定矩阵简介

本节提前介绍一些正定矩阵的内容，后续第 27、28 课会详细讲解。

正定矩阵是一类对称矩阵，满足：

(1) 所有的特征值是正数。

(2) 所有主元为正。

(3) 所有的子行列式都为正。

子行列式概念：从原行列式左上角开始依次划分出 $1\times1$的一块，$2\times2$的一块，……得到的这些子块对应的行列式就称之为“子行列式”。

【例】对于矩阵$\begin{bmatrix}5 & 2 \\ 2 & 3\end{bmatrix}$ ：

解：对该矩阵进行消元，可求得其主元为 $5$、$\frac{11}{5}$ ，皆为正。而且该矩阵是对称矩阵，所以它也是正定矩阵。

同时，计算它的特征值可得：$\lambda = 4\pm\sqrt{5}$ （和主元一样，皆为正）。

所以正定矩阵的行列式值是正数，但要注意，行列式为正数的矩阵不一定都是正定矩阵，必须满足“所有的子行列式都为正”才行。例如反例：$\begin{bmatrix}-1 & 0 \\ 0 & -3\end{bmatrix}$。

从主元到行列式再到特征值，这些性质将本课程的主要内容紧密融合在一起。例如，矩阵的特征值在计算微分方程时是关键条件，根据特征值的正负可以判断其稳定性。

四、学习感悟

本节从对称矩阵入手，介绍了对称矩阵的一些基本性质，并进而引出了正定矩阵。可以看到，正定矩阵将矩阵的特征值、主元、行列式都联系起来，简化了很多问题的探讨。在后续学习正定矩阵时，能更深刻地体会到这一点。

五、学习总结

1. 每个对称矩阵$S$都有实特征值和正交的特征向量；
2. 因为对称矩阵$S$特征向量互相正交，因此对称矩阵的对角化可以用正交特征向量矩阵$Q$表示为$S=Q\Lambda Q^T$；
3. 所有的对称矩阵都可以被对角化，即使有重复的特征值；
4. 正定矩阵是特殊的对称矩阵，其所有的特征值均为正数；