常见矩阵及其关系

可以把你列出的这些矩阵统一放到一个核心框架里理解：

矩阵不是一堆数，而是一个“线性变换”的表示。

不同种类的矩阵，本质上是在描述不同性质的线性变换。

例如：

• 逆矩阵：把变换“倒着做回去”；
• 对角矩阵：各坐标轴互不干扰，只分别缩放；
• 伴随矩阵：为了构造逆矩阵而自然出现的一种矩阵；
• 相似矩阵：同一个线性变换，在不同坐标系下的不同写法；
• 正交矩阵：只旋转、反射，不改变长度和夹角；
• 对称矩阵：拥有非常好的几何结构，可以用正交坐标轴完全解耦；
• 可对角化矩阵：经过换坐标以后，可以变成最简单的“各方向独立缩放”。

把这条主线抓住以后，线性代数中大量看似零散的矩阵概念会连成一张网。

---

一、先从“矩阵是什么”说起

考虑二维矩阵

$$A=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right).$$

它作用于向量

$$x=\left(\begin{array}{c}{x}_1\\ x_2\end{array}\right)$$

得到

$$Ax=\left(\begin{array}{c}a{x}_1+b{x}_2\\ c{x}_1+d{x}_2\end{array}\right).$$

这件事可以理解为：

$$x\stackrel{A}{\to }Ax.$$

矩阵 $A$ 是一种规则，它把一个向量变成另一个向量。

例如

$$A=\left(\begin{array}{cc}2& 0\\ 0& 3\end{array}\right)$$

表示

$$(x,y)\mapsto (2x,3y).$$

也就是：

• $x$ 方向拉长 2 倍；
• $y$ 方向拉长 3 倍。

而

$$A=\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right)$$

表示把平面中的向量逆时针旋转 $90^{\circ }$。

所以理解各种特殊矩阵时，要一直问：

这个矩阵代表的变换有什么特殊性质？

---

二、单位矩阵：什么也不做

单位矩阵

$$I=\left(\begin{array}{cc}1& 0\\ 0& 1\end{array}\right).$$

满足

$$Ix=x.$$

所以它对应：

恒等变换——什么都不改变。

而且

$$AI=IA=A.$$

这与数字里的 $1$ 完全类似：

$$a\cdot 1=1\cdot a=a.$$

因此矩阵世界中：

$$1\leftrightarrow I.$$

这一步非常关键，因为“逆矩阵”就是从这里来的。

---

三、逆矩阵：把变换倒过来

1. 为什么需要逆矩阵？

假设

$$y=Ax.$$

现在知道 $y$，想恢复原来的 $x$。

自然希望存在某个矩阵 $B$，使得

$$By=x.$$

因为

$$y=Ax,$$

所以

$$BAx=x.$$

要对任意 $x$ 都成立，就要求

$$BA=I.$$

这个 $B$ 就叫 $A$ 的逆矩阵：

$$B=A^{-1}.$$

因此

$$A^{-1}A=A{A}^{-1}=I.$$

---

四、逆矩阵最深刻的理解：撤销操作

假设

$$A:x\mapsto y.$$

那么

$$A^{-1}:y\mapsto x.$$

也就是：

$$x\stackrel{A}{\to }y\stackrel{A^{-1}}{\to }x.$$

例如：

$$A=\left(\begin{array}{cc}2& 0\\ 0& 3\end{array}\right).$$

表示

$$(x,y)\mapsto (2x,3y).$$

那么

$$A^{-1}=\left(\begin{array}{cc}1/2& 0\\ 0& 1/3\end{array}\right).$$

它把变换撤销：

$$(2x,3y)\mapsto (x,y).$$

所以可以记：

逆矩阵 = 线性变换的“撤销键”。

---

五、为什么有些矩阵没有逆？

比如

$$A=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right).$$

它把

$$(x,y)$$

变成

$$(x,0).$$

也就是说整个平面被压到了 $x$ 轴上。

例如：

$$(1,2)\mapsto (1,0),$$

同时

$$(1,5)\mapsto (1,0).$$

现在只知道结果

$$(1,0),$$

你根本不知道原来是 $(1,2)$ 还是 $(1,5)$。

信息丢失了。

所以无法逆转。

这就是不可逆。

---

六、可逆为什么和行列式有关？

对于二维矩阵：

$$A=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right),$$

行列式

$$\det A=ad-bc.$$

从几何上看：

$$|\det A|$$

表示面积缩放倍数。

如果

$$\det A=0,$$

意味着二维区域被压成：

• 一条线；
• 甚至一个点。

面积变成 0。

也就是说发生了降维，信息丢失，因此不可逆。

所以：

$$A\text{ 可逆}⟺\det A\ne 0.$$

这不是巧合。

而是：

可逆意味着没有维度丢失； 行列式非零正是在检测有没有维度丢失。

---

七、对角矩阵：最简单的线性变换

对角矩阵形如

$$D=\left(\begin{array}{ccc}{\lambda }_1& 0& 0\\ 0& {\lambda }_2& 0\\ 0& 0& {\lambda }_3\end{array}\right).$$

它作用于

$$x=\left(\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right)$$

得到

$$Dx=\left(\begin{array}{c}{\lambda }_1{x}_1\\ {\lambda }_2{x}_2\\ {\lambda }_3{x}_3\end{array}\right).$$

注意这里最特殊的地方：

$$x_1,x_2,x_3$$

之间完全没有混合。

---

八、普通矩阵为什么复杂？

例如

$$A=\left(\begin{array}{cc}2& 1\\ 3& 4\end{array}\right).$$

那么

$$Ax=\left(\begin{array}{c}2x_1+x_2\\ 3x_1+4x_2\end{array}\right).$$

你会发现：

• 第一个输出同时依赖 $x_1,x_2$；
• 第二个输出也同时依赖 $x_1,x_2$。

坐标互相“搅在一起”。

而对角矩阵

$$D=\left(\begin{array}{cc}2& 0\\ 0& 3\end{array}\right)$$

只是

$$(x,y)\mapsto (2x,3y).$$

不同方向彼此独立。

所以：

对角矩阵代表已经被完全“解耦”的线性变换。

这也是为什么线性代数一直想办法把矩阵化成对角矩阵。

---

九、对角矩阵为什么特别好算？

因为

$$D=\left(\begin{array}{cc}{\lambda }_1& 0\\ 0& {\lambda }_2\end{array}\right)$$

时，

$$D^2=\left(\begin{array}{cc}{\lambda }_1^2& 0\\ 0& {\lambda }_2^2\end{array}\right).$$

于是

$$D^n=\left(\begin{array}{cc}{\lambda }_1^n& 0\\ 0& {\lambda }_2^n\end{array}\right).$$

甚至

$$e^D=\left(\begin{array}{cc}{e}^{{\lambda }_1}& 0\\ 0& e^{{\lambda }_2}\end{array}\right).$$

所以很多难题最终都会变成：

能不能把一个复杂矩阵化成对角矩阵？

这就是特征值、特征向量、相似对角化出现的根本原因。

---

十、什么是相似矩阵？

两个矩阵 $A,B$ 如果满足

$$B=P^{-1}AP,$$

其中 $P$ 可逆，就称

$$A\sim B.$$

表面上这个公式非常抽象，但它其实有极其重要的含义：

$A$ 和 $B$ 是同一个线性变换，在不同坐标系下的表示。

---

十一、为什么会出现 $P^{-1}AP$？

这是理解相似矩阵的核心。

假设 $A$ 是在旧坐标系中的矩阵。

现在换一组新基。

$P$ 的作用是：

$$\text{新坐标}\stackrel{P}{\to }\text{旧坐标}.$$

然后在旧坐标中使用 $A$：

$$\text{旧坐标}\stackrel{A}{\to }\text{新的旧坐标}.$$

最后再用

$$P^{-1}$$

转回新坐标：

$$\text{旧坐标}\stackrel{P^{-1}}{\to }\text{新坐标}.$$

所以全过程：

$$\text{新坐标}\stackrel{P}{\to }\text{旧坐标}\stackrel{A}{\to }\text{旧坐标}\stackrel{P^{-1}}{\to }\text{新坐标}.$$

因此新坐标系中的矩阵就是

$$B=P^{-1}AP.$$

---

十二、相似矩阵最深刻的理解：同一对象的不同描述

这和物理中的坐标变化非常类似。

一个物体并没有改变。

只是你换了坐标轴。

例如：

• 在标准坐标中，它可能表达得非常复杂；
• 换到某个特殊方向后，它可能非常简单。

因此

$$A\sim B$$

不是说两个矩阵“恰好长得像”。

而是说：

它们背后代表的是同一个线性变换。

因此相似矩阵具有相同：

$$\det A=\det B,$$ $$\mathrm{tr}A=\mathrm{tr}B,$$

以及相同的特征值。

因为这些是线性变换本身的属性，而不是坐标选择造成的。

---

十三、相似对角化是什么意思？

如果

$$P^{-1}AP=D,$$

其中 $D$ 是对角矩阵，就叫

$$A$$

可以相似对角化。

也就是

$$A=PD{P}^{-1}.$$

这意味着：

$A$ 原来虽然看起来很复杂，但只是因为坐标轴选得不好。

找到正确的坐标轴后，它就变成：

$$D=\left(\begin{array}{ccc}{\lambda }_1& & \\ & {\lambda }_2& \\ & & {\lambda }_3\end{array}\right).$$

也就是说：

$$\text{复杂线性变换}=\text{换坐标}+\text{各方向独立缩放}+\text{换回来}.$$

---

十四、特征向量为什么是“正确坐标轴”？

如果

$$Av=\lambda v,$$

说明 $A$ 作用在 $v$ 上后：

方向没有改变，只是长度变成原来的 $|\lambda |$ 倍。

这样的方向称为特征方向。

所以如果有足够多个线性无关特征向量

$$v_1,v_2,\dots ,v_n,$$

就可以直接用它们作为新的坐标轴。

设

$$P=\left(\begin{array}{cccc}|& |& & |\\ v_1& v_2& \cdots & v_n\\ |& |& & |\end{array}\right),$$

那么

$$P^{-1}AP=\left(\begin{array}{ccc}{\lambda }_1& & \\ & {\lambda }_2& \\ & & \ddots \end{array}\right).$$

所以：

相似对角化 = 找到矩阵真正天然的方向。

---

十五、正交矩阵是什么？

正交矩阵 $Q$ 满足

$$Q^{T}Q=I.$$

因此

$$Q^{-1}=Q^T.$$

这是正交矩阵最重要的公式。

---

十六、为什么叫“正交矩阵”？

如果

$$Q=\left(\begin{array}{cccc}|& |& & |\\ q_1& q_2& \cdots & q_n\\ |& |& & |\end{array}\right),$$

那么

$$Q^{T}Q=I$$

意味着

$$q_i^T{q}_j=\{\begin{array}{ll}1,& i=j,\\ 0,& i\ne j.\end{array}$$

也就是：

• 每一列长度为 1；
• 不同列互相垂直。

因此列向量组成一组标准正交基。

---

十七、正交矩阵代表什么几何变换？

正交矩阵保持长度。

因为

$$\Vert Qx{\Vert }^2=(Qx{)}^T(Qx).$$

所以

$$\Vert Qx{\Vert }^2=x^T{Q}^{T}Qx=x^{T}x=\Vert x{\Vert }^2.$$

因此

$$\Vert Qx\Vert =\Vert x\Vert .$$

它还保持内积：

$$(Qx{)}^T(Qy)=x^T{Q}^{T}Qy=x^{T}y.$$

所以：

• 长度不变；
• 夹角不变；
• 垂直关系不变。

于是正交矩阵代表的基本就是：

旋转与反射。

---

十八、二维旋转矩阵

二维旋转角度 $\theta$ 的矩阵：

$$Q=\left(\begin{array}{cc}\cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{array}\right).$$

满足

$$Q^{T}Q=I.$$

因此这是正交矩阵。

例如

$$\theta =\frac{\pi }{2},$$

得到

$$Q=\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right).$$

它就是旋转 $90^{\circ }$。

---

十九、正交矩阵为什么特别好？

因为一般矩阵逆矩阵不好算。

但如果 $Q$ 正交：

$$Q^{-1}=Q^T.$$

转置一下就行。

而且正交变换不会把空间扭曲，所以数值计算特别稳定。

因此正交矩阵在：

• QR 分解；
• 最小二乘；
• PCA；
• 信号处理；
• 计算机图形学；
• 数值分析；

中极其重要。

---

二十、伴随矩阵是什么？

这是最容易产生误解的一个概念。

对方阵 $A$，定义它的代数余子式

$$A_{ij}=(-1{)}^{i+j}{M}_{ij},$$

其中 $M_{ij}$ 是删除第 $i$ 行、第 $j$ 列以后得到的行列式。

把所有代数余子式组成矩阵：

$$C=\left(\begin{array}{ccc}{A}_{11}& A_{12}& \cdots \\ A_{21}& A_{22}& \cdots \\ ⋮& ⋮& \end{array}\right).$$

然后转置：

$$\mathrm{adj}(A)=C^T.$$

这叫伴随矩阵。

---

二十一、为什么要把代数余子式转置？

因为这样恰好得到一个极其漂亮的公式：

$$A\mathrm{adj}(A)=\mathrm{adj}(A)A=|A|I.$$

于是如果

$$|A|\ne 0,$$

两边除以 $|A|$：

$$A\left(\frac{1}{|A|}\mathrm{adj}(A)\right)=I.$$

因此

$$\boxed{A^{-1}=\frac{1}{|A|}\mathrm{adj}(A)}$$

这就是伴随矩阵最主要的来源。

---

二十二、这个公式到底怎么来的？

考虑

$$A=(a_{ij}).$$

把 $A$ 与伴随矩阵相乘。

乘积的第 $i,i$ 个元素为

$$a_{i1}{A}_{i1}+a_{i2}{A}_{i2}+\cdots +a_{in}{A}_{in}.$$

根据行列式按第 $i$ 行展开：

$$a_{i1}{A}_{i1}+\cdots +a_{in}{A}_{in}=|A|.$$

所以主对角线上得到

$$|A|.$$

而非对角位置，例如第 $i,j$ 项，$i\ne j$，相当于：

把第 $j$ 行的代数余子式与第 $i$ 行元素组合。

它实际上等价于一个具有两行相同元素的行列式展开，因此为

$$0.$$

所以最终：

$$A\mathrm{adj}(A)=\left(\begin{array}{ccc}|A|& 0& \cdots \\ 0& |A|& \cdots \\ ⋮& & \ddots \end{array}\right)=|A|I.$$

所以“伴随矩阵”并不是凭空定义的。

它是从行列式展开结构中自然构造出来的。

---

二十三、二阶矩阵的伴随矩阵特别直观

如果

$$A=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right),$$

那么

$$\mathrm{adj}(A)=\left(\begin{array}{cc}d& -b\\ -c& a\end{array}\right).$$

于是

$$A^{-1}=\frac{1}{ad-bc}\left(\begin{array}{cc}d& -b\\ -c& a\end{array}\right).$$

可以记成：

• 主对角线交换；
• 副对角线变号；
• 再除以行列式。

---

二十四、伴随矩阵到底有什么用？

最直接用途是求逆矩阵：

$$A^{-1}=\frac{1}{|A|}{A}^{\ast }.$$

考研中通常把伴随矩阵记作

$$A^{\ast }.$$

所以：

$$A{A}^{\ast }=A^{\ast }A=|A|I.$$

此外还能得到大量性质。

如果 $A$ 为 $n$ 阶可逆矩阵：

$$A^{\ast }=|A|A^{-1}.$$

于是

$$|A^{\ast }|=|A{|}^n|A^{-1}|.$$

由于

$$|A^{-1}|=\frac{1}{|A|},$$

所以

$$\boxed{|A^{\ast }|=|A{|}^{n-1}}$$

这是非常常见的公式。

---

二十五、伴随矩阵的秩

这是考研很重要的一组结论。

对于 $n$ 阶矩阵 $A$：

情形一

如果

$$r(A)=n,$$

即 $A$ 可逆，那么

$$r(A^{\ast })=n.$$

情形二

如果

$$r(A)=n-1,$$

那么

$$r(A^{\ast })=1.$$

情形三

如果

$$r(A)\le n-2,$$

那么所有 $n-1$ 阶子式都为 0，因此

$$A^{\ast }=0.$$

于是

$$r(A^{\ast })=0.$$

因此：

$$r(A^{\ast })=\{\begin{array}{ll}n,& r(A)=n,\\ 1,& r(A)=n-1,\\ 0,& r(A)\le n-2.\end{array}$$

---

二十六、对称矩阵：比一般矩阵结构好得多

实对称矩阵满足

$$A^T=A.$$

例如

$$A=\left(\begin{array}{cc}2& 1\\ 1& 3\end{array}\right).$$

其几何意义很重要。

实对称矩阵有一个极强结论：

任何实对称矩阵都可以被正交对角化。

也就是存在正交矩阵 $Q$，使得

$$Q^{T}AQ=D.$$

因为

$$Q^{-1}=Q^T,$$

也可以写成

$$Q^{-1}AQ=D.$$

---

二十七、为什么正交对角化比普通相似对角化更强？

普通相似对角化：

$$P^{-1}AP=D.$$

这里 $P$ 的列向量只要求线性无关。

但正交对角化：

$$Q^{T}AQ=D$$

要求 $Q$ 的列向量：

• 互相垂直；
• 长度均为 1。

因此这个新坐标系不仅是某组基，而且是一组标准正交基。

换坐标时不会改变长度和角度。

所以对称矩阵的几何结构非常“干净”。

---

二十八、为什么对称矩阵这么重要？

例如二次型

$$f(x,y)=a{x}^2+2bxy+c{y}^2.$$

可以写成

$$f(x)=x^{T}Ax,$$

其中

$$A=\left(\begin{array}{cc}a& b\\ b& c\end{array}\right).$$

这是对称矩阵。

如果正交对角化：

$$Q^{T}AQ=D,$$

换变量

$$x=Qy,$$

就得到

$$x^{T}Ax=y^{T}Dy.$$

如果

$$D=\left(\begin{array}{cc}{\lambda }_1& 0\\ 0& {\lambda }_2\end{array}\right),$$

那么

$$f={\lambda }_1{y}_1^2+{\lambda }_2{y}_2^2.$$

原来的交叉项

$$2bxy$$

消失了。

这就是二次型、主轴变换、椭圆等知识的核心。

---

二十九、三角矩阵又是什么？

上三角矩阵：

$$A=\left(\begin{array}{ccc}{a}_{11}& a_{12}& a_{13}\\ 0& a_{22}& a_{23}\\ 0& 0& a_{33}\end{array}\right).$$

下三角矩阵类似。

它比普通矩阵简单，但没有对角矩阵那么简单。

其重要性质：

$$|A|=a_{11}{a}_{22}\cdots a_{nn}.$$

而且三角矩阵的特征值就是主对角线元素：

$${\lambda }_i=a_{ii}.$$

很多矩阵分解最终都想得到三角结构，比如：

• LU 分解；
• QR 算法；
• Schur 分解。

---

三十、标量矩阵是什么？

如果

$$A=\lambda I,$$

就是标量矩阵。

例如

$$A=\left(\begin{array}{cc}3& 0\\ 0& 3\end{array}\right).$$

它对所有方向做同样的缩放：

$$x\mapsto 3x.$$

所以它比普通对角矩阵还特殊。

对角矩阵：

$$\left(\begin{array}{cc}2& 0\\ 0& 3\end{array}\right)$$

对不同方向缩放程度不同。

标量矩阵：

$$\left(\begin{array}{cc}3& 0\\ 0& 3\end{array}\right)$$

所有方向统一缩放。

---

三十一、奇异矩阵是什么？

所谓奇异矩阵，就是不可逆矩阵。

即：

$$|A|=0.$$

等价于：

$$r(A)<n.$$

也等价于：

$$Ax=0$$

存在非零解。

也等价于列向量线性相关。

所以这些其实都在说同一件事情：

某些方向被压没了，变换丢失了信息。

“奇异”并不是一个新的神秘性质，只是“不可逆”的另一个名字。

---

三十二、投影矩阵是什么？

有一种很重要的特殊矩阵：

$$P^2=P.$$

叫做幂等矩阵。

最典型的是投影矩阵。

例如：

$$P=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right).$$

它把

$$(x,y)$$

投影到 $x$ 轴：

$$(x,y)\mapsto (x,0).$$

再投影一次：

$$(x,0)\mapsto (x,0).$$

所以

$$P^2=P.$$

这就是“幂等”的几何意义：

做一次已经到位，再做一次也不会再变化。

---

三十三、反射矩阵

例如关于 $x$ 轴反射：

$$Q=\left(\begin{array}{cc}1& 0\\ 0& -1\end{array}\right).$$

那么

$$(x,y)\mapsto (x,-y).$$

这是正交矩阵：

$$Q^{T}Q=I.$$

而且

$$Q^2=I.$$

因为反射两次回到原位置。

所以某些矩阵性质是可以叠加的：

这个矩阵同时是：

• 对角矩阵；
• 正交矩阵；
• 对称矩阵；
• 可逆矩阵。

---

三十四、这些矩阵之间到底是什么关系？

这是最值得建立的一张关系图。

第一层：所有方阵

所有

$$n\times n$$

矩阵。

其中一部分满足

$$|A|\ne 0,$$

叫可逆矩阵。

---

第二层：可逆矩阵

可逆矩阵拥有

$$A^{-1}.$$

正交矩阵是其中非常特殊的一类，因为

$$A^{-1}=A^T.$$

---

第三层：特殊结构矩阵

例如：

$$\text{对角矩阵}\subset \text{三角矩阵}.$$

对角矩阵非常容易计算。

标量矩阵又是更特殊的对角矩阵：

$$\lambda I.$$

---

第四层：坐标变换关系

如果

$$B=P^{-1}AP,$$

那么 $A,B$ 相似。

相似不是“矩阵类型”，更像是矩阵之间的一种关系：

$$A\sim B.$$

---

第五层：最理想情况

如果

$$P^{-1}AP=D,$$

那么 $A$ 可对角化。

也就是说能在某个坐标系中变成对角矩阵。

---

第六层：更理想情况

如果 $A$ 是实对称矩阵，那么一定存在正交矩阵 $Q$，使

$$Q^{T}AQ=D.$$

所以：

$$\boxed{\text{实对称矩阵}\Rightarrow \text{一定正交对角化}\Rightarrow \text{一定可对角化}}$$

---

三十五、为什么线性代数这么痴迷“对角化”？

这是整套理论最核心的问题。

假设

$$A=PD{P}^{-1}.$$

那么

$$A^2=PD{P}^{-1}PD{P}^{-1}.$$

因为

$$P^{-1}P=I,$$

所以

$$A^2=P{D}^2{P}^{-1}.$$

类似地：

$$A^n=P{D}^n{P}^{-1}.$$

而 $D^n$ 极其简单。

例如：

$$D=\left(\begin{array}{cc}2& 0\\ 0& 3\end{array}\right),$$

那么

$$D^{100}=\left(\begin{array}{cc}{2}^{100}& 0\\ 0& 3^{100}\end{array}\right).$$

所以一个复杂矩阵的高次幂，本质上被降维成了几个数字的高次幂。

---

三十六、微分方程为什么也和对角化有关？

考虑线性微分方程组：

$$\frac{dx}{dt}=Ax.$$

解可以写为

$$x(t)=e^{At}x(0).$$

如果

$$A=PD{P}^{-1},$$

那么

$$e^{At}=P{e}^{Dt}{P}^{-1}.$$

而

$$D=\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_n),$$

所以

$$e^{Dt}=\mathrm{diag}\left(e^{{\lambda }_{1}t},\dots ,e^{{\lambda }_{n}t}\right).$$

原本多个变量互相耦合的微分方程，就变成了若干个独立方程：

$$y_i^{\prime }={\lambda }_i{y}_i.$$

所以：

对角化本质上就是“解耦”。

---

三十七、可以把线性变换理解成“旋转 + 缩放”吗？

在很多重要情况下，可以。

例如实对称矩阵：

$$A=QD{Q}^T.$$

从右往左看：

第一步

$$Q^T$$

把坐标系旋转到特征向量方向。

第二步

$$D$$

沿各个特征方向分别缩放：

$${\lambda }_1,{\lambda }_2,\dots$$

倍。

第三步

$$Q$$

再旋转回来。

所以可以理解成：

$$\boxed{A=\text{旋转回来}\times \text{独立缩放}\times \text{旋转过去}}$$

这是一种非常深刻的几何解释。

---

三十八、更一般的矩阵怎么办？——SVD

如果矩阵甚至不是方阵，或者不能对角化怎么办？

还有一个更强大的工具：

$$A=U\Sigma V^T.$$

这就是奇异值分解 SVD。

其中：

• $V^T$：旋转；
• $\Sigma$：沿坐标轴缩放；
• $U$：再次旋转。

所以任意矩阵在很大程度上都可以理解成：

$$\boxed{\text{旋转}\to \text{缩放}\to \text{旋转}}$$

这其实揭示了矩阵最本质的几何结构。

---

三十九、逆矩阵、伴随矩阵、相似矩阵不要混淆

这几个名字非常容易混。

逆矩阵

对象是：

$$A^{-1}.$$

满足：

$$A{A}^{-1}=I.$$

意义：

撤销变换。

---

伴随矩阵

对象是：

$$A^{\ast }=\mathrm{adj}(A).$$

满足：

$$A{A}^{\ast }=|A|I.$$

意义：

利用代数余子式构造出来，与逆矩阵密切相关。

当 $A$ 可逆时：

$$A^{\ast }=|A|A^{-1}.$$

---

相似矩阵

不是某一个特殊矩阵，而是两个矩阵之间的关系：

$$B=P^{-1}AP.$$

意义：

同一个线性变换在不同基下的矩阵表示。

---

四十、正交矩阵和相似矩阵之间什么关系？

正交矩阵 $Q$ 可以作为换基矩阵。

因为：

$$Q^{-1}=Q^T.$$

所以如果

$$B=Q^{-1}AQ,$$

就可以写成

$$B=Q^{T}AQ.$$

这叫正交相似变换。

它比普通相似变换更好，因为新旧坐标系都是标准正交坐标系。

不会扭曲：

• 长度；
• 角度；
• 距离。

---

四十一、一个例子把它们串起来

考虑

$$A=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right).$$

这是一个对称矩阵。

求特征值：

$$\det (A-\lambda I)=\left|\begin{array}{cc}2-\lambda & 1\\ 1& 2-\lambda \end{array}\right|.$$

得到

$$(2-\lambda {)}^2-1=0.$$

所以

$${\lambda }_1=3,{\lambda }_2=1.$$

对应特征向量可以取：

$$v_1=\left(\begin{array}{c}1\\ 1\end{array}\right),v_2=\left(\begin{array}{c}1\\ -1\end{array}\right).$$

注意：

$$v_1^T{v}_2=0.$$

归一化：

$$q_1=\frac{1}{\sqrt{2}}\left(\begin{array}{c}1\\ 1\end{array}\right),$$ $$q_2=\frac{1}{\sqrt{2}}\left(\begin{array}{c}1\\ -1\end{array}\right).$$

构造

$$Q=\frac{1}{\sqrt{2}}\left(\begin{array}{cc}1& 1\\ 1& -1\end{array}\right).$$

那么 $Q$ 是正交矩阵：

$$Q^{T}Q=I.$$

并且

$$Q^{T}AQ=\left(\begin{array}{cc}3& 0\\ 0& 1\end{array}\right).$$

这说明原矩阵 $A$ 的真实结构其实非常简单：

• 沿方向 $(1,1)$ 拉伸 3 倍；
• 沿方向 $(1,-1)$ 保持不变。

只是在标准 $x,y$ 坐标里，这两个天然方向没有和坐标轴重合，所以矩阵看起来有非对角元素。

这就是：

非对角元素很多时候只是因为你“站歪了看”。

换到正确坐标以后，复杂性就消失了。

---

四十二、用一个“大统一图景”记住这些概念

你可以把矩阵理论想成研究一个黑盒：

$$x\stackrel{A}{\to }Ax.$$

然后我们不断问问题。

问题 1：它能不能撤销？

看：

$$A^{-1}$$

是否存在。

对应：

$$|A|\ne 0.$$

---

问题 2：它有没有丢失维度？

看：

$$r(A)$$

和

$$\det A.$$

---

问题 3：哪些方向最特殊？

解：

$$Av=\lambda v.$$

得到特征向量与特征值。

---

问题 4：能不能换一组坐标，让它变简单？

找：

$$P^{-1}AP.$$

这就是相似变换。

---

问题 5：能不能简单到只剩独立缩放？

希望：

$$P^{-1}AP=D.$$

这就是对角化。

---

问题 6：能不能只通过旋转换坐标？

希望换基矩阵 $Q$ 满足：

$$Q^{T}Q=I.$$

这就是正交矩阵。

---

问题 7：什么矩阵一定能这么漂亮地处理？

实对称矩阵：

$$A^T=A.$$

它一定能正交对角化。

---

四十三、最值得记住的一张表

---

四十四、最终把它们压缩成几句话

如果只记住最深层的理解，可以记：

逆矩阵

$$A^{-1}$$

是把 $A$ 做过的事情倒过来。

对角矩阵

$$D$$

意味着不同坐标方向已经完全独立。

相似矩阵

$$P^{-1}AP$$

意味着只是换坐标看同一个线性变换。

特征向量

是一个矩阵作用后方向不变的天然方向。

对角化

就是找到这些天然方向作为坐标轴，把复杂变换解耦。

正交矩阵

是不改变长度和角度的变换，本质上是旋转和反射。

对称矩阵

是一类特别漂亮的矩阵，它的天然方向可以选成互相垂直，因此一定可以正交对角化。

伴随矩阵

是利用行列式的余子式结构构造出来的矩阵，满足

$$A{A}^{\ast }=|A|I,$$

所以自然导出

$$A^{-1}=\frac{1}{|A|}{A}^{\ast }.$$

如果从整门线性代数来看，最核心的一条主线其实是：

$$\boxed{\text{复杂矩阵}⟶\text{寻找天然方向}⟶\text{换坐标}⟶\text{对角化}⟶\text{把复杂问题变成若干个一维问题}}$$

而逆矩阵、特征值、特征向量、相似、正交、对角化、二次型，实际上都围绕这一主线展开。