线性代数-复习2-25

Linear Algebra-复习2-25

一、知识概要

本节为习题课，主要回顾了第 14 - 24 课的学习内容，并通过习题练习进行巩固复习。

二、复习

2.1 回顾知识

2.1.1 投影部分

首先，我们学习了正交性。当矩阵$Q = \begin{bmatrix}q_{1} & \cdots & q_{n}\end{bmatrix}$中的$q$都是标准正交基时，$Q$是正交矩阵，具有性质$QQ^{T}=I$。

然后，我们学习了投影相关知识，利用投影解决了$Ax = b$问题。当方程$Ax = b$无解时，通过最小二乘拟合寻找最优解。

我们还介绍了 Gram - Schmidt 正交化方法，它可以将线性无关的向量投影到另一组向量上，使新得到的向量正交，再进行单位化，从而将基变为标准正交基。

2.1.2 行列式部分

我们学习了行列式的十个性质，其中前三个性质最为重要，后面的性质都是由前三个推导得出。行列式展开式有$n!$项，展开时要注意符号问题。

此外，我们还学习了代数余子式公式，它是计算行列式的简便方法之一。由代数余子式公式我们得到了逆矩阵公式：$A^{-1}=\frac{1}{|A|}C^{T}$。

2.1.3 特征值部分

我们学习了特征值与特征向量的定义，即满足$Ax=\lambda x$的$\lambda$和$x$分别为矩阵$A$的特征值和特征向量，以及求特征向量的方程。

如果矩阵有$n$个线性无关的特征向量，将它们构成矩阵$S$，可以对矩阵进行对角化处理：$A = S\Lambda S^{-1}$。利用对角化公式，我们可以计算矩阵幂的问题。特征值在很多应用中都有体现，例如微分方程等问题。

2.2 例题

【例 1】现有向量$a=\begin{bmatrix}2\\1\\2\end{bmatrix}$，试找到向量$a$所在直线的投影矩阵并讨论其性质（即对于任意的向量$b$，找到可以将其投影到该直线上的投影矩阵）。

解：

根据投影矩阵的公式：

$$P = A(A^{T}A)^{-1}A^{T}$$

可得投影矩阵为：

$$P=\frac{1}{9}\begin{bmatrix}4&2&4\\2&1&2\\4&2&4\end{bmatrix}$$

很明显这是一个不可逆矩阵，第一列、第三列均是第二列$\begin{bmatrix}2\\1\\2\end{bmatrix}$的 2 倍，所以这个矩阵$P$的秩为 1，列空间为 1 维，对应的零空间为 2 维。这意味着它有两个特征值都为 0，最后一个特征值由矩阵的迹可得：$\frac{1}{9}(4 + 1 + 4)=1$。

求特征值 1 对应的特征向量：

$$Px = x$$

由于$P$是投影矩阵，从实际意义联想，只有$P$作用于$a$向量上时，$Pa = a$，此时$P$矩阵对$a$无影响，所以其对应特征向量为$a$。

【延伸】将矩阵$P$引入差分方程，题目如下：方程$u_{k + 1}=Pu_{k}$，其对应初值为$u_{0}=\begin{bmatrix}9\\9\\0\end{bmatrix}$，求解$u_{k}$。

解：首先看这个方程中的$P$的特殊性质，$P$代表投影，$P^{k}$与$P$单独作用在一个向量上的效果相同。所以，求出投影一次后的$u_{0}$很关键。将$P$展开，利用已知$a=\begin{bmatrix}2\\1\\2\end{bmatrix}$，求得：

$$u_{1}=Pu_{0}=a\frac{a^{T}u_{0}}{a^{T}a}=a\frac{27}{9}=\begin{bmatrix}6\\3\\6\end{bmatrix}$$

由于矩阵$P$是投影矩阵，有结论：

$$u_{k}=P^{k}u_{0}=Pu_{0}=\begin{bmatrix}6\\3\\6\end{bmatrix}$$

复习一下之前学习差分方程时，当$P$矩阵不是投影矩阵时，我们使用特征值特征向量展开来求解：

$$u_{0}=c_{1}x_{1}+c_{2}x_{2}+\cdots +c_{n}x_{n}$$ $$u_{k}=A^{k}u_{0}=c_{1}\lambda_{1}^{k}x_{1}+c_{2}\lambda_{2}^{k}x_{2}+\cdots +c_{n}\lambda_{n}^{k}x_{n}$$

而在本题中使用这个公式，对于这里的投影矩阵$P$，有两个特征值为 0，一个特征值为 1，于是前两项$c_{1}\lambda_{1}^{k}x_{1}+c_{2}\lambda_{2}^{k}x_{2}$可以舍弃，最后一项 $1\times c_{3}x_{3}$可以通过初值$u_{0}$以及三个特征向量$x_{1}$，$x_{2}$，$x_{3}$ 来确定。

【例 2】给定一组点$(1,4)$，$(2,5)$，$(3,8)$，尝试将其拟合到一条过原点的直线上。

解：先设直线$y = Dt$，只有一个未知数，一个自由度。列出矩阵形式：

$$\begin{bmatrix}1\\2\\3\end{bmatrix}D=\begin{bmatrix}4\\5\\8\end{bmatrix}$$

记作：$AD = b$

下面求解最优的$D$：根据之前学习的内容，最优方程为：

$$A^{T}A\hat{D}=A^{T}b$$

（本题中$AD = b$对应前面介绍过的$Ax = b$）解得：

$$\hat{D}=\frac{38}{14}$$

【例 3】已知$a_{1}=\begin{bmatrix}1\\2\\3\end{bmatrix}$，$a_{2}=\begin{bmatrix}1\\1\\1\end{bmatrix}$，求一组正交基。

解：

将第一个向量设为 A ,求解正交于其的一个向量 B。

以$a_{2}$作为模板，可以将$B$表示为$a_{2}$减去其在$a_{1}$上的投影的形式，这样就可以保证$B$与$a_{1}$（即$A$）相垂直：

$$B=\begin{bmatrix}1\\1\\1\end{bmatrix}-\frac{a_{1}^{T}a_{2}}{a_{1}^{T}a_{1}}a_{1}=\begin{bmatrix}1\\1\\1\end{bmatrix}-\frac{6}{14}\begin{bmatrix}1\\2\\3\end{bmatrix}$$

【例 4】给定一个 $4\times4$矩阵，其特征值为$\lambda_{1}$，$\lambda_{2}$，$\lambda_{3}$，$\lambda_{4}$。

(1) 特征值在满足什么条件下，矩阵是可逆的？

答：根据之前的学习，只有特征值均不为 0 时，矩阵才可逆。否则，$Ax = 0x$就会有非零解。

(2) $|A^{-1}|$的行列式等于多少？

答：根据$|A||A^{-1}| = 1$以及特征值之积为$A$矩阵行列式的值这两个定理，可知：

$$\left|A^{-1}\right|=\frac{1}{\lambda_{1}\lambda_{2}\lambda_{3}\lambda_{4}}$$

(3) 矩阵$A + I$的迹是多少？（迹等于矩阵特征值之和）

答：$I$为四阶单位阵，加上$I$使得$A$的迹在基础之上加 4，结果为：

$$\lambda_{1}+\lambda_{2}+\lambda_{3}+\lambda_{4}+4$$

【例 5】有一种矩阵$A_{4}=\begin{bmatrix}0&1&0&0\\1&0&2&0\\0&2&0&3\\0&0&3&0\end{bmatrix}=A_{4}^{T}$，类比$A_{3}=\begin{bmatrix}0&1&0\\1&0&2\\0&2&0\end{bmatrix}$。

(1) 求投影到$A_{3}$列空间的投影矩阵。

解：由投影公式：

$$P = A(A^{T}A)^{-1}A^{T}$$

代入矩阵$A_{3}$，可以很快得到答案。这里要注意一点，$A_{3}$是不可逆矩阵，其列空间是一个平面，所以投影矩阵实际上是将另一个空间投影到一个平面上。

(2) 求$A_{3}$的特征值和特征向量。

解：令行列式$|A_{3}-\lambda I| = 0$，解得特征值为 $0,\pm\sqrt{5}$。再代入$(A-\lambda I)x = 0$ 可解出特征向量。

(3) 求投影到$A_{4}$列空间的投影矩阵。

解：如果$A_{4}$矩阵可逆，则其列空间就是$R^{4}$。因此如果确定了矩阵是可逆矩阵，那么其投影矩阵很简单，即为单位阵$I$，因为此时向$R^{4}$投影不影响向量本身。$A_{4}$矩阵对应的行列式值为 9，于是矩阵可逆，故其投影矩阵为 4 阶单位阵。

此外，结合$A_{3}$可提出猜想：此种规律的矩阵，奇数号矩阵都是奇异（不可逆）的，偶数号矩阵都是可逆的。

三、学习感悟

这一章学习了很多知识，这些基本求解方法必须掌握，因为它们是我们进一步学习更深层次内容的基础。尤其是特征值的求解、投影矩阵的理解等内容非常重要。