📘 第 4 章：向量空间

Note

本篇是《Linear Algebra and its Applications》(David C. Lay, 第 5 版) 第 4 章 Vector Spaces（向量空间） 的中文初学者精讲笔记。前两章里我们一直在和 ${\mathbb{R}}^n$ 里的向量打交道；这一章要把眼界打开：箭头、数列、多项式、函数、矩阵、信号……只要它们能”相加”和”数乘”，就都是向量。围绕这条主线，本章依次讲：向量空间与子空间（4.1）、矩阵的零空间与列空间（4.2）、线性无关与基（4.3）、坐标系（4.4）、维数（4.5）、秩（4.6）、基变换（4.7），以及两个大应用——差分方程（4.8）和马尔可夫链（4.9）。书中全部例题都保留了题目和逐步解答。

章前导引：航天飞行与控制系统

1981 年 4 月，美国第一架航天飞机”哥伦比亚号”（12 层楼高、重 75 吨）成功升空。它是控制系统工程设计的结晶，涉及航空、化学、电气、液压、机械等多个工程分支。

航天飞机的机身是不稳定的，因此在大气层内飞行时必须由计算机持续监控。飞控系统不断向气动控制面和 44 个小型推进喷管发送指令。下图就是一个典型的闭环反馈系统，用来控制航天飞机飞行时的俯仰角（机头仰角）。

图 4-1：闭环反馈控制系统示意图（各传感器的信号在汇合点处与计算机信号相加）

图中的汇合点表示：来自各种传感器的信号要加到沿图上方流动的计算机信号上。数学上，工程系统的输入、输出信号都是函数，而关键在于：这些函数可以像向量一样相加、数乘，并且满足与 ${\mathbb{R}}^n$ 中向量运算完全类似的代数性质。因此，“所有可能输入（函数）的集合”就被称为一个向量空间——系统工程（如下图的航天飞机俯仰控制系统）的数学基础正建立在函数向量空间之上。

图 4-2：航天飞机的俯仰控制系统（改绘自 Space Shuttle GN&C Operations Manual, Rockwell International, ©1988）

这就是本章要做的事：把第 1、2 章在 ${\mathbb{R}}^n$ 中种下的理论种子，推广到包括函数空间在内的各种向量空间。你在 ${\mathbb{R}}^2$、${\mathbb{R}}^3$ 里积累的几何直觉，几乎全部可以搬过去用。

4.1 向量空间与子空间

4.1.1 什么是向量空间

第 1、2 章的许多理论都建立在 ${\mathbb{R}}^n$ 的一组简单代数性质上。事实上，很多别的数学系统也有同样的性质。把这些性质提炼出来，就得到：

定义：向量空间

一个向量空间是一个非空集合 $V$，其中的元素称为向量，其上定义了两种运算——加法与标量乘法（用实数乘），且满足下面十条公理（对所有 $V$ 中的 $\mathbf{u},\mathbf{v},\mathbf{w}$ 和所有标量 $c,d$ 成立）：

1. $\mathbf{u}+\mathbf{v}$ 仍在 $V$ 中（加法封闭）；
2. $\mathbf{u}+\mathbf{v}=\mathbf{v}+\mathbf{u}$（交换律）；
3. $(\mathbf{u}+\mathbf{v})+\mathbf{w}=\mathbf{u}+(\mathbf{v}+\mathbf{w})$（结合律）；
4. $V$ 中存在零向量 $0$，使 $\mathbf{u}+0=\mathbf{u}$；
5. 对每个 $\mathbf{u}$，存在 $-\mathbf{u}$ 使 $\mathbf{u}+(-\mathbf{u})=0$；
6. $c\mathbf{u}$ 仍在 $V$ 中（数乘封闭）；
7. $c(\mathbf{u}+\mathbf{v})=c\mathbf{u}+c\mathbf{v}$；
8. $(c+d)\mathbf{u}=c\mathbf{u}+d\mathbf{u}$；
9. $c(d\mathbf{u})=(cd)\mathbf{u}$；
10. $1\mathbf{u}=\mathbf{u}$。

**为什么这样定义？**因为这十条恰好是 ${\mathbb{R}}^n$ 中向量运算”好用”的全部理由。凡满足这十条的集合，${\mathbb{R}}^n$ 里成立的所有线性代数定理都自动适用于它——这就是抽象化的威力：证一次，处处可用。

仅凭这十条公理即可证明：零向量是唯一的；每个 $\mathbf{u}$ 的负向量 $-\mathbf{u}$ 也是唯一的。还可以推出三个常用恒等式（对任意 $\mathbf{u}$ 和标量 $c$）：

$$0\mathbf{u}=0,c0=0,-\mathbf{u}=(-1)\mathbf{u}$$

常见坑

这三个式子不是公理，而是可由公理推出的定理。初学者常把"$0\mathbf{u}=0$"与"$1\mathbf{u}=\mathbf{u}$"混为一谈：前者是定理，后者是公理 10，二者缺一不可。

例 1：${\mathbb{R}}^n$（$n\ge 1$）是向量空间中最首要的例子。你在 ${\mathbb{R}}^3$ 中培养的几何直觉，将帮助你在整章中理解并可视化许多抽象概念。

图 4-3：${\mathbb{R}}^3$ 中的向量与平行四边形加法法则

例 2：设 $V$ 是三维空间中所有箭头（有向线段）的集合，两个箭头长度相同、方向相同就算相等。加法按平行四边形法则定义；对 $V$ 中每个 $\mathbf{v}$，$c\mathbf{v}$ 定义为长度是 $\mathbf{v}$ 的 $|c|$ 倍的箭头：$c\ge 0$ 时与 $\mathbf{v}$ 同向，否则反向。证明 $V$ 是向量空间。（这是物理问题中描述各种力的常用模型。）

解：$V$ 的定义是纯几何的，不涉及坐标系。长度为零的箭头是一个点，充当零向量；$-\mathbf{v}$ 即 $(-1)\mathbf{v}$。于是公理 1、4、5、6、10 显然成立，其余公理由几何验证——例如交换律和结合律分别见下图。

图 4-4：$\mathbf{u}+\mathbf{v}=\mathbf{v}+\mathbf{u}$（箭头的加法交换律）

图 4-5：$(\mathbf{u}+\mathbf{v})+\mathbf{w}=\mathbf{u}+(\mathbf{v}+\mathbf{w})$（箭头的加法结合律）

例 3：设 $S$ 是所有双侧无穷数列的集合（通常写成一行而非一列）：

$$\{y_k\}=(\dots ,y_{-2},y_{-1},y_0,y_1,y_2,\dots )$$

若 $\{z_k\}$ 也是 $S$ 中的元素，则定义 $\{y_k\}+\{z_k\}$ 为逐项相加得到的数列 $\{y_k+z_k\}$；$c\{y_k\}$ 定义为 $\{c{y}_k\}$。公理的验证方式与 ${\mathbb{R}}^n$ 完全一样，所以 $S$ 是向量空间。

$S$ 中的元素在工程里随处可见：凡是在离散时刻对信号（电信号、机械信号、光信号……）进行测量或采样的场合都会出现。航天飞机的主控系统用的正是离散（数字）信号。我们称 $S$ 为**（离散时间）信号空间**。一个信号可以像下图那样画成图象。

图 4-6：一个离散时间信号

例 4：对 $n\ge 0$，记 ${\mathbb{P}}_n$ 为次数不超过 $n$ 的多项式全体：

$$\mathbf{p}(t)=a_0+a_{1}t+a_2{t}^2+\cdots +a_n{t}^n$$

其中系数 $a_0,\dots ,a_n$ 与变量 $t$ 都是实数。多项式的次数是系数非零的最高次幂；全零系数的多项式叫零多项式，它也属于 ${\mathbb{P}}_n$（出于技术原因它的次数不定义）。

若 $\mathbf{q}(t)=b_0+b_{1}t+\cdots +b_n{t}^n$，则定义

$$(\mathbf{p}+\mathbf{q})(t)=\mathbf{p}(t)+\mathbf{q}(t)=(a_0+b_0)+(a_1+b_1)t+\cdots +(a_n+b_n)t^n$$

以及

$$(c\mathbf{p})(t)=c\mathbf{p}(t)=c{a}_0+(c{a}_1)t+\cdots +(c{a}_n)t^n$$

由于 $\mathbf{p}+\mathbf{q}$ 与 $c\mathbf{p}$ 的次数仍不超过 $n$，公理 1、6 成立；公理 2、3、7–10 由实数性质保证；零多项式充当零向量，$(-1)\mathbf{p}$ 充当负向量。故 ${\mathbb{P}}_n$ 是向量空间。（${\mathbb{P}}_n$ 在数据的统计趋势分析等场合会用到。）

例 5：设 $V$ 是定义在集合 $D$ 上的全体实值函数（$D$ 通常为实数轴或其上的一个区间）。函数按通常方式相加：$\mathbf{f}+\mathbf{g}$ 是在每点 $t$ 取值 $\mathbf{f}(t)+\mathbf{g}(t)$ 的函数；数乘 $c\mathbf{f}$ 在每点取值 $c\mathbf{f}(t)$。例如 $D=\mathbb{R}$，$\mathbf{f}(t)=1+\sin 2t$，$\mathbf{g}(t)=2+0.5t$，则

图 4-7：两个向量（函数）的相加

$$(\mathbf{f}+\mathbf{g})(t)=3+\sin 2t+0.5t,(2\mathbf{g})(t)=4+t$$

$V$ 中两个函数相等，当且仅当它们在 $D$ 的每一点取值相等。于是 $V$ 的零向量是恒为零的函数（$\mathbf{f}(t)=0$ 对一切 $t$），$-\mathbf{f}$ 即 $(-1)\mathbf{f}$。公理 1、6 显然成立，其余由实数性质保证，故 $V$ 是向量空间。

常见坑

学例 5 时最重要的观念转变是：把每个函数整体看作一个”点”——向量空间中的一个向量。两个函数相加、一个函数被数乘，都可以像下图那样直观想象。带着这幅图景去学一般向量空间，${\mathbb{R}}^n$ 的几何直觉就能迁移过来。

4.1.2 子空间

很多问题中，向量空间其实是某个更大向量空间的一个合适的子集。这时十条公理只需要验证三条。

定义：子空间

向量空间 $V$ 的一个子空间是 $V$ 的一个满足以下三条性质的子集 $H$：

a. $V$ 的零向量在 $H$ 中； b. $H$ 对加法封闭：$H$ 中任意 $\mathbf{u},\mathbf{v}$，$\mathbf{u}+\mathbf{v}$ 也在 $H$ 中； c. $H$ 对数乘封闭：$H$ 中任意 $\mathbf{u}$ 和任意标量 $c$，$c\mathbf{u}$ 也在 $H$ 中。

这三条恰好是公理 1、4、6。其余公理为什么自动成立？公理 2、3、7–10 对 $V$ 的所有元素成立，自然也对 $H$ 中元素成立；公理 5 也成立，因为若 $\mathbf{u}\in H$，由 (c) 知 $(-1)\mathbf{u}\in H$，而前面已证 $(-1)\mathbf{u}=-\mathbf{u}$。

所以：每个子空间本身就是一个向量空间；反过来，任何向量空间都是它自身（以及可能的更大空间）的子空间。当至少涉及两个空间、一个套在另一个里面时才用”子空间”这个词，”$V$ 的子空间”表明 $V$ 是更大的那个。

图 4-8：$V$ 的一个子空间 $H$

例 6：仅由 $V$ 的零向量组成的集合是 $V$ 的子空间，称为零子空间，记作 $\{0\}$。

图 4-9：零子空间 $\{0\}$

例 7：设 $\mathbb{P}$ 是全体实系数多项式（运算方式与函数相同），则 $\mathbb{P}$ 是”全体实值函数”空间的子空间；而且对每个 $n\ge 0$，${\mathbb{P}}_n$ 是 $\mathbb{P}$ 的子空间——因为 ${\mathbb{P}}_n\subseteq \mathbb{P}$，含零多项式，且两个次数 $\le n$ 的多项式之和、其数乘仍在 ${\mathbb{P}}_n$ 中。

例 8：${\mathbb{R}}^2$ 不是 ${\mathbb{R}}^3$ 的子空间，因为 ${\mathbb{R}}^2$ 根本不是 ${\mathbb{R}}^3$ 的子集（${\mathbb{R}}^3$ 的向量有三个分量，${\mathbb{R}}^2$ 的只有两个）。但是集合

$$H=\left\{\left[\begin{array}{c}s\\ t\\ 0\end{array}\right]:s,t\text{ 为实数}\right\}$$

是 ${\mathbb{R}}^3$ 的子集，它”看起来”和”运行起来”都像 ${\mathbb{R}}^2$（尽管逻辑上与 ${\mathbb{R}}^2$ 是不同的集合）。证明 $H$ 是 ${\mathbb{R}}^3$ 的子空间。

解：零向量在 $H$ 中；$H$ 中向量相加、数乘后第三个分量仍是 0，故结果仍在 $H$ 中。三条性质都满足，$H$ 是 ${\mathbb{R}}^3$ 的子空间。

例 9：${\mathbb{R}}^3$ 中不经过原点的平面不是 ${\mathbb{R}}^3$ 的子空间，因为它不含 ${\mathbb{R}}^3$ 的零向量。同理，${\mathbb{R}}^2$ 中不过原点的直线（如下图）也不是 ${\mathbb{R}}^2$ 的子空间。

图 4-10：一条不是向量空间的直线（不过原点，加法/数乘会跑出去）

常见坑

检验子空间最快的一招：先看零向量在不在里面。不过原点的平面、直线、不包含 $(0,0)$ 的任何集合，直接一票否决。零向量在之后，再逐条验证对加法和数乘的封闭性。

4.1.3 由一组向量张成的子空间

描述子空间最常见的方式是”取若干向量的全部线性组合”。回忆第 1 章：$\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 表示由 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$ 的所有线性组合构成的集合。

例 10：设 ${\mathbf{v}}_1,{\mathbf{v}}_2$ 是向量空间 $V$ 中的向量，$H=\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$。证明 $H$ 是 $V$ 的子空间。

解：零向量在 $H$ 中，因为 $0=0{\mathbf{v}}_1+0{\mathbf{v}}_2$。为验证对加法封闭，取 $H$ 中任意两个向量

$$\mathbf{u}=s_1{\mathbf{v}}_1+s_2{\mathbf{v}}_2,\mathbf{w}=t_1{\mathbf{v}}_1+t_2{\mathbf{v}}_2$$

利用 $V$ 的公理 2、3、8：

$$\mathbf{u}+\mathbf{w}=(s_1{\mathbf{v}}_1+s_2{\mathbf{v}}_2)+(t_1{\mathbf{v}}_1+t_2{\mathbf{v}}_2)=(s_1+t_1){\mathbf{v}}_1+(s_2+t_2){\mathbf{v}}_2$$

所以 $\mathbf{u}+\mathbf{w}\in H$。再由公理 7、9，对任意标量 $c$：

$$c\mathbf{u}=c(s_1{\mathbf{v}}_1+s_2{\mathbf{v}}_2)=(c{s}_1){\mathbf{v}}_1+(c{s}_2){\mathbf{v}}_2\in H$$

对数乘也封闭。故 $H$ 是 $V$ 的子空间。

图 4-11：子空间的一个例子（由两个向量张成的过原点平面）

例 10 的论证很容易推广，得到：

定理 1

若 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$ 在向量空间 $V$ 中，则 $\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 是 $V$ 的子空间。

我们称 $\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 为由 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 张成（生成）的子空间；若子空间 $H$ 满足 $H=\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 且 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\in H$，则 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 叫 $H$ 的一个张成集。

后面（4.5 节）会看到：${\mathbb{R}}^3$ 的每个非零真子空间，要么是 $\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$（${\mathbf{v}}_1,{\mathbf{v}}_2$ 线性无关，子空间是过原点的平面），要么是 $\mathrm{Span}\{\mathbf{v}\}$（$\mathbf{v}\ne 0$，子空间是过原点的直线）。即使是抽象向量空间，也值得在脑中保留这幅几何图象。

例 11：设 $H$ 是所有形如 $(a-3b,b-a,a,b)$ 的向量的集合（$a,b$ 为任意标量），即

$$H=\{(a-3b,b-a,a,b):a,b\in \mathbb{R}\}$$

证明 $H$ 是 ${\mathbb{R}}^4$ 的子空间。

解：把 $H$ 中的向量写成列向量，则任一向量可分解为

$$\left[\begin{array}{c}a-3b\\ b-a\\ a\\ b\end{array}\right]=a\left[\begin{array}{c}1\\ -1\\ 1\\ 0\end{array}\right]+b\left[\begin{array}{c}-3\\ 1\\ 0\\ 1\end{array}\right]$$

这说明 $H=\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$，其中 ${\mathbf{v}}_1=\left[\begin{array}{c}1\\ -1\\ 1\\ 0\end{array}\right]$，${\mathbf{v}}_2=\left[\begin{array}{c}-3\\ 1\\ 0\\ 1\end{array}\right]$。由定理 1，$H$ 是 ${\mathbb{R}}^4$ 的子空间。

例 11 展示了一个非常有用的技巧：把子空间 $H$ 表示成少量向量的线性组合之集。若 $H=\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$，可以把张成集里的向量看作握住整个子空间的”把手”——对 $H$ 中无穷多向量的计算，常常可以化为对有限个向量的运算。

例 12：当 $h$ 取何值时，$\mathbf{y}$ 属于由 ${\mathbf{v}}_1,{\mathbf{v}}_2,{\mathbf{v}}_3$ 张成的 ${\mathbb{R}}^3$ 的子空间？其中

$${\mathbf{v}}_1=\left[\begin{array}{c}1\\ -1\\ -2\end{array}\right],{\mathbf{v}}_2=\left[\begin{array}{c}5\\ -4\\ -7\end{array}\right],{\mathbf{v}}_3=\left[\begin{array}{c}-3\\ 1\\ 0\end{array}\right],\mathbf{y}=\left[\begin{array}{c}-4\\ 3\\ h\end{array}\right]$$

解：这个问题就是第 1.3 节练习题 2，只是把 $\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2,{\mathbf{v}}_3\}$ 换成了”子空间”这个说法。那里的解答表明：$\mathbf{y}\in \mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2,{\mathbf{v}}_3\}$ 当且仅当 $h=5$。值得把那道题的解法（以及 1.3 节习题 11–16、19–21）回顾一遍。

4.1 节练习题（PRACTICE PROBLEMS）

练习 1：证明 ${\mathbb{R}}^2$ 中所有形如 $(3s,2+5s)$ 的点组成的集合 $H$ 不是向量空间：请找出 $H$ 中一个具体的向量 $\mathbf{u}$ 和一个标量 $c$，使得 $c\mathbf{u}\notin H$（即 $H$ 对数乘不封闭）。

解：取 $H$ 中任一向量，比如 $\mathbf{u}=\left[\begin{array}{c}3\\ 7\end{array}\right]$（对应 $s=1$），再取 $c=2$。则 $c\mathbf{u}=\left[\begin{array}{c}6\\ 14\end{array}\right]$。假如它在 $H$ 中，就应存在某个 $s$ 使得

$$\left[\begin{array}{c}3s\\ 2+5s\end{array}\right]=\left[\begin{array}{c}6\\ 14\end{array}\right]$$

即 $s=2$ 且 $s=12/5$，矛盾。所以 $2\mathbf{u}\notin H$，$H$ 不是向量空间。

练习 2：设 $W=\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$，其中 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$ 在向量空间 $V$ 中。证明每个 ${\mathbf{v}}_k$（$1\le k\le p$）都在 $W$ 中。

解：${\mathbf{v}}_1=1\cdot {\mathbf{v}}_1+0\cdot {\mathbf{v}}_2+\cdots +0\cdot {\mathbf{v}}_p$，这就是 ${\mathbf{v}}_1$ 作为 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$ 的线性组合，故 ${\mathbf{v}}_1\in W$。一般地，

$${\mathbf{v}}_k=0\cdot {\mathbf{v}}_1+\cdots +0\cdot {\mathbf{v}}_{k-1}+1\cdot {\mathbf{v}}_k+0\cdot {\mathbf{v}}_{k+1}+\cdots +0\cdot {\mathbf{v}}_p$$

所以每个 ${\mathbf{v}}_k\in W$。

练习 3：若 $n\times n$ 矩阵满足 $A^T=A$，则称 $A$ 对称。设 $S$ 是所有 $3\times 3$ 对称矩阵的集合。证明 $S$ 是 $M_{3\times 3}$（全体 $3\times 3$ 矩阵构成的向量空间）的子空间。

解：按子空间定义逐条验证：

• (a) $M_{3\times 3}$ 的零向量是 $3\times 3$ 零矩阵，而 $0^T=0$，零矩阵对称，故 $0\in S$；
• (b) 设 $A,B\in S$，即 $A^T=A$，$B^T=B$。由转置性质，$(A+B{)}^T=A^T+B^T=A+B$，故 $A+B$ 对称，$A+B\in S$；
• (c) 设 $A\in S$，$c$ 为标量。$(cA{)}^T=c(A^T)=cA$，故 $cA$ 对称，$cA\in S$。

三条全满足，$S$ 是 $M_{3\times 3}$ 的子空间。

通关标准

能独立做到三件事：① 给一个新集合，按子空间三条件（零向量在内、加法封闭、数乘封闭）判断并证明它是不是子空间；② 给一个带参数的表达式（如例 11），把它改写成 $\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$，从而立刻判定它是子空间；③ 能构造反例否定封闭性（如练习 1）。

4.1 节的习题（共 38 题，含”第一象限为何不是向量空间""对称矩阵空间""由公理证明 $0\mathbf{u}=0$“等经典题目）见原书；其中习题 19 的质量–弹簧系统与习题 32 的子空间交/和问题背景如下图所示。

图 4-12：挂在弹簧上的质量块（习题 19：函数集 $y(t)=c_1\cos \omega t+c_2\sin \omega t$ 构成向量空间）

图 4-13：两个子空间 $H$ 与 $K$ 的交集 $H\cap K$（习题 32：交是子空间，但并一般不是）

4.2 零空间、列空间与线性变换

线性代数的应用中，${\mathbb{R}}^n$ 的子空间通常以两种方式出现：(1) 作为齐次线性方程组的全体解；(2) 作为若干指定向量的全体线性组合。本节比较这两种描述，并讨论线性变换的核与值域。其实从 1.3 节起你就一直在和子空间打交道——本节的新东西主要是术语。

4.2.1 矩阵的零空间

考虑齐次方程组

$$\begin{array}{rl}{x}_1-3x_2-2x_3& =0\\ -5x_1+9x_2+x_3& =0\end{array}$$

写成矩阵形式即 $A\mathbf{x}=0$，其中

$$A=\left[\begin{array}{ccc}1& -3& -2\\ -5& 9& 1\end{array}\right]$$

满足 $A\mathbf{x}=0$ 的全体 $\mathbf{x}$ 有个专门的名字：

定义：零空间

$m\times n$ 矩阵 $A$ 的零空间（null space），记作 $\mathrm{Nul}A$，是齐次方程 $A\mathbf{x}=0$ 的全体解之集：

$$\mathrm{Nul}A=\{\mathbf{x}:\mathbf{x}\in {\mathbb{R}}^n\text{ 且 }A\mathbf{x}=0\}$$

它还有一个更”动态”的描述：$\mathrm{Nul}A$ 是在变换 $\mathbf{x}\mapsto A\mathbf{x}$ 之下被映到 ${\mathbb{R}}^m$ 中零向量的全体 $\mathbf{x}$。

图 4-14：$\mathrm{Nul}A$ 是被 $A$ 映到零向量的所有 $\mathbf{x}$

例 1：设 $A$ 就是上面的矩阵，$\mathbf{u}=\left[\begin{array}{c}5\\ 3\\ -2\end{array}\right]$。判断 $\mathbf{u}$ 是否属于 $A$ 的零空间。

解：直接验证 $\mathbf{u}$ 是否满足 $A\mathbf{u}=0$：

$$A\mathbf{u}=\left[\begin{array}{ccc}1& -3& -2\\ -5& 9& 1\end{array}\right]\left[\begin{array}{c}5\\ 3\\ -2\end{array}\right]=\left[\begin{array}{c}5-9+4\\ -25+27-2\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]$$

所以 $\mathbf{u}\in \mathrm{Nul}A$。

“零空间”里的”空间”二字名副其实——零空间确实是向量空间：

定理 2

$m\times n$ 矩阵 $A$ 的零空间是 ${\mathbb{R}}^n$ 的子空间。等价地说：$m$ 个方程、$n$ 个未知数的齐次线性方程组 $A\mathbf{x}=0$ 的解集是 ${\mathbb{R}}^n$ 的子空间。

证明：$A$ 有 $n$ 列，故 $\mathrm{Nul}A\subseteq {\mathbb{R}}^n$。下面验证子空间三条件。首先 $0\in \mathrm{Nul}A$。其次设 $\mathbf{u},\mathbf{v}\in \mathrm{Nul}A$，即 $A\mathbf{u}=0$，$A\mathbf{v}=0$。利用矩阵乘法性质：

$$A(\mathbf{u}+\mathbf{v})=A\mathbf{u}+A\mathbf{v}=0+0=0$$

故 $\mathbf{u}+\mathbf{v}\in \mathrm{Nul}A$。最后对任意标量 $c$：

$$A(c\mathbf{u})=c(A\mathbf{u})=c(0)=0$$

故 $c\mathbf{u}\in \mathrm{Nul}A$。三条全满足，$\mathrm{Nul}A$ 是 ${\mathbb{R}}^n$ 的子空间。$■$

例 2：设 $H$ 是 ${\mathbb{R}}^4$ 中坐标 $a,b,c,d$ 满足 $a-2b+5c=d$ 且 $c-a=b$ 的全体向量。证明 $H$ 是 ${\mathbb{R}}^4$ 的子空间。

解：把描述 $H$ 的方程整理为齐次形式：

$$\begin{array}{rl}a-2b+5c-d& =0\\ -a-b+c& =0\end{array}$$

$H$ 恰是这个齐次线性方程组的解集，由定理 2，$H$ 是 ${\mathbb{R}}^4$ 的子空间。

常见坑

定义 $H$ 的方程必须是齐次的（右端为 0）。非齐次方程组的解集一定不是子空间——因为零向量不是非齐次方程组的解；有时非齐次方程组甚至无解，解集为空。

4.2.2 Nul A 的显式描述

$\mathrm{Nul}A$ 中的向量与 $A$ 的元素之间没有明显关系——我们说 $\mathrm{Nul}A$ 是隐式定义的：只给了向量必须满足的条件（$A\mathbf{x}=0$），并没有给出其中元素的具体列表。而求解 $A\mathbf{x}=0$ 恰恰就是在生成 $\mathrm{Nul}A$ 的显式描述。

例 3：求下列矩阵零空间的一组张成集：

$$A=\left[\begin{array}{ccccc}-3& 6& -1& 1& -7\\ 1& -2& 2& 3& -1\\ 2& -4& 5& 8& -4\end{array}\right]$$

解：第一步，用自由变量求出 $A\mathbf{x}=0$ 的通解。把增广矩阵 $\left[\begin{array}{cc}A& 0\end{array}\right]$ 行约化为简化阶梯形，用自由变量表示主变量：

$$\left[\begin{array}{cccccc}1& -2& 0& -1& 3& 0\\ 0& 0& 1& 2& -2& 0\\ 0& 0& 0& 0& 0& 0\end{array}\right]$$

即

$$\begin{array}{rl}{x}_1-2x_2-x_4+3x_5& =0\\ x_3+2x_4-2x_5& =0\end{array}$$

通解为 $x_1=2x_2+x_4-3x_5$，$x_3=-2x_4+2x_5$，其中 $x_2,x_4,x_5$ 为自由变量。第二步，把通解向量按自由变量分解成线性组合：

$$\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\\ x_4\\ x_5\end{array}\right]=\left[\begin{array}{c}2x_2+x_4-3x_5\\ x_2\\ -2x_4+2x_5\\ x_4\\ x_5\end{array}\right]=x_2\left[\begin{array}{c}2\\ 1\\ 0\\ 0\\ 0\end{array}\right]+x_4\left[\begin{array}{c}1\\ 0\\ -2\\ 1\\ 0\end{array}\right]+x_5\left[\begin{array}{c}-3\\ 0\\ 2\\ 0\\ 1\end{array}\right]=x_2\mathbf{u}+x_4\mathbf{v}+x_5\mathbf{w}$$

$\mathbf{u},\mathbf{v},\mathbf{w}$ 的每个线性组合都在 $\mathrm{Nul}A$ 中，反之亦然。所以 $\{\mathbf{u},\mathbf{v},\mathbf{w}\}$ 是 $\mathrm{Nul}A$ 的一组张成集。

关于这个解法有两点值得记住（以后会反复用到）：

1. 这样得到的张成集自动线性无关：自由变量正是张成向量的权重。看解向量第 2、4、5 个分量即知，$x_2\mathbf{u}+x_4\mathbf{v}+x_5\mathbf{w}=0$ 只能推出权重 $x_2,x_4,x_5$ 全为零。
2. 当 $\mathrm{Nul}A$ 含非零向量时，张成集中向量的个数等于 $A\mathbf{x}=0$ 中自由变量的个数。

4.2.3 矩阵的列空间

与零空间不同，列空间是显式定义的——直接用线性组合给出。

定义：列空间

$m\times n$ 矩阵 $A$ 的列空间（column space），记作 $\mathrm{Col}A$，是 $A$ 的各列的全体线性组合之集。若 $A=\left[\begin{array}{ccc}{\mathbf{a}}_1& \cdots & {\mathbf{a}}_n\end{array}\right]$，则

$$\mathrm{Col}A=\mathrm{Span}\{{\mathbf{a}}_1,\dots ,{\mathbf{a}}_n\}$$

由于 $\mathrm{Span}\{{\mathbf{a}}_1,\dots ,{\mathbf{a}}_n\}$ 是子空间（定理 1），且 $A$ 的列都是 ${\mathbb{R}}^m$ 中的向量，立得：

定理 3

$m\times n$ 矩阵 $A$ 的列空间是 ${\mathbb{R}}^m$ 的子空间。

注意 $\mathrm{Col}A$ 中的典型向量可以写成 $A\mathbf{x}$（$\mathbf{x}\in {\mathbb{R}}^n$），因为 $A\mathbf{x}$ 就是 $A$ 的列的线性组合：

$$\mathrm{Col}A=\{\mathbf{b}:\mathbf{b}=A\mathbf{x}\text{ 对某个 }\mathbf{x}\in {\mathbb{R}}^n\}$$

这也说明 $\mathrm{Col}A$ 就是线性变换 $\mathbf{x}\mapsto A\mathbf{x}$ 的值域（本节末尾会回到这个视角）。

图 4-15：$\mathrm{Col}A$ 是 $A$ 的列的所有线性组合之集（$\mathbf{x}\mapsto A\mathbf{x}$ 的值域）

例 4：求一个矩阵 $A$，使下列集合 $W$ 恰为 $\mathrm{Col}A$：

$$W=\left\{\left[\begin{array}{c}6a-b\\ a+b\\ -7a\end{array}\right]:a,b\in \mathbb{R}\right\}$$

解：第一步，把 $W$ 写成线性组合之集：

$$W=\left\{a\left[\begin{array}{c}6\\ 1\\ -7\end{array}\right]+b\left[\begin{array}{c}-1\\ 1\\ 0\end{array}\right]:a,b\in \mathbb{R}\right\}=\mathrm{Span}\left\{\left[\begin{array}{c}6\\ 1\\ -7\end{array}\right],\left[\begin{array}{c}-1\\ 1\\ 0\end{array}\right]\right\}$$

第二步，把张成集中的向量作为列拼成矩阵：

$$A=\left[\begin{array}{cc}6& -1\\ 1& 1\\ -7& 0\end{array}\right]$$

则 $W=\mathrm{Col}A$。

回忆 1.4 节定理 4：$A$ 的列张成 ${\mathbb{R}}^m$ 当且仅当 $A\mathbf{x}=\mathbf{b}$ 对每个 $\mathbf{b}$ 都有解。用列空间的语言重述：

Note

$m\times n$ 矩阵 $A$ 的列空间等于整个 ${\mathbb{R}}^m$，当且仅当方程 $A\mathbf{x}=\mathbf{b}$ 对每个 $\mathbf{b}\in {\mathbb{R}}^m$ 都有解。

4.2.4 Nul A 与 Col A 的对比

零空间和列空间有什么关系？例 5–7 会说明：这两个空间差别很大。（不过 4.6 节学完更多理论后，会浮现出二者之间一个出人意料的联系。）

例 5：设

$$A=\left[\begin{array}{cccc}2& 4& -2& 1\\ -2& -5& 7& 3\\ 3& 7& -8& 6\end{array}\right]$$

(a) 若 $\mathrm{Col}A$ 是 ${\mathbb{R}}^k$ 的子空间，$k$ 是多少？(b) 若 $\mathrm{Nul}A$ 是 ${\mathbb{R}}^k$ 的子空间，$k$ 是多少？

解： (a) $A$ 的每列有 3 个分量，所以 $\mathrm{Col}A$ 是 ${\mathbb{R}}^3$ 的子空间，$k=3$。 (b) 使 $A\mathbf{x}$ 有定义的 $\mathbf{x}$ 必须有 4 个分量，所以 $\mathrm{Nul}A$ 是 ${\mathbb{R}}^4$ 的子空间，$k=4$。

当矩阵不是方阵时（如例 5），$\mathrm{Nul}A$ 与 $\mathrm{Col}A$ 中的向量住在完全不同的”宇宙”里——${\mathbb{R}}^3$ 中向量的任何线性组合都不可能得到 ${\mathbb{R}}^4$ 中的向量。当 $A$ 是方阵时，$\mathrm{Nul}A$ 与 $\mathrm{Col}A$ 至少共享零向量，某些特殊情况下也可能有公共的非零向量。

例 6：$A$ 同例 5。在 $\mathrm{Col}A$ 中找一个非零向量，在 $\mathrm{Nul}A$ 中找一个非零向量。

解：在 $\mathrm{Col}A$ 中找向量很容易——$A$ 的任何一列都行，比如 $\left[\begin{array}{c}2\\ -2\\ 3\end{array}\right]$。要在 $\mathrm{Nul}A$ 中找非零向量，就行约化增广矩阵 $\left[\begin{array}{cc}A& 0\end{array}\right]$：

$$\left[\begin{array}{cc}A& 0\end{array}\right]\sim \left[\begin{array}{ccccc}1& 0& 9& 0& 0\\ 0& 1& -5& 0& 0\\ 0& 0& 0& 1& 0\end{array}\right]$$

于是若 $A\mathbf{x}=0$，则 $x_1=-9x_3$，$x_2=5x_3$，$x_4=0$，$x_3$ 为自由变量。给 $x_3$ 赋一个非零值，比如 $x_3=1$，就得到 $\mathrm{Nul}A$ 中的向量 $\mathbf{x}=(-9,5,1,0)$。

例 7：$A$ 同例 5。设 $\mathbf{u}=\left[\begin{array}{c}3\\ -2\\ -1\\ 0\end{array}\right]$，$\mathbf{v}=\left[\begin{array}{c}3\\ -1\\ 3\end{array}\right]$。 (a) 判断 $\mathbf{u}$ 是否在 $\mathrm{Nul}A$ 中；$\mathbf{u}$ 有可能在 $\mathrm{Col}A$ 中吗？ (b) 判断 $\mathbf{v}$ 是否在 $\mathrm{Col}A$ 中；$\mathbf{v}$ 有可能在 $\mathrm{Nul}A$ 中吗？

解： (a) 这里不需要 $\mathrm{Nul}A$ 的显式描述，直接算乘积 $A\mathbf{u}$：

$$A\mathbf{u}=\left[\begin{array}{cccc}2& 4& -2& 1\\ -2& -5& 7& 3\\ 3& 7& -8& 6\end{array}\right]\left[\begin{array}{c}3\\ -2\\ -1\\ 0\end{array}\right]=\left[\begin{array}{c}0\\ -3\\ 3\end{array}\right]\ne \left[\begin{array}{c}0\\ 0\\ 0\end{array}\right]$$

$\mathbf{u}$ 显然不是 $A\mathbf{x}=0$ 的解，故 $\mathbf{u}\notin \mathrm{Nul}A$。另外 $\mathbf{u}$ 有 4 个分量，而 $\mathrm{Col}A$ 是 ${\mathbb{R}}^3$ 的子空间，所以 $\mathbf{u}$ 根本不可能是 $\mathrm{Col}A$ 的元素。

(b) 把 $\left[\begin{array}{cc}A& \mathbf{v}\end{array}\right]$ 行约化为阶梯形：

$$\left[\begin{array}{cc}A& \mathbf{v}\end{array}\right]=\left[\begin{array}{ccccc}2& 4& -2& 1& 3\\ -2& -5& 7& 3& -1\\ 3& 7& -8& 6& 3\end{array}\right]\sim \left[\begin{array}{ccccc}2& 4& -2& 1& 3\\ 0& 1& -5& -4& -2\\ 0& 0& 0& 17& 1\end{array}\right]$$

至此已能看出方程 $A\mathbf{x}=\mathbf{v}$ 相容，故 $\mathbf{v}\in \mathrm{Col}A$。而 $\mathbf{v}$ 只有 3 个分量，$\mathrm{Nul}A$ 是 ${\mathbb{R}}^4$ 的子空间，所以 $\mathbf{v}$ 不可能在 $\mathrm{Nul}A$ 中。

下面的表格总结了 $\mathrm{Nul}A$ 与 $\mathrm{Col}A$ 的对比（其中第 8 条是 1.9 节定理 11 与定理 12(a) 的重述）：

$\mathrm{Nul}A$	$\mathrm{Col}A$
1. 是 ${\mathbb{R}}^n$ 的子空间	1. 是 ${\mathbb{R}}^m$ 的子空间
2. 隐式定义：只给出条件 $A\mathbf{x}=0$	2. 显式定义：直接告诉你怎样构造其中的向量
3. 找向量费时：要对 $\left[\begin{array}{cc}A& 0\end{array}\right]$ 做行变换	3. 找向量容易：$A$ 的列就是现成的，其余由它们组合
4. 与 $A$ 的元素没有明显关系	4. 与 $A$ 的元素关系明显：$A$ 的每列都在其中
5. 典型向量 $\mathbf{v}$ 满足 $A\mathbf{v}=0$	5. 典型向量 $\mathbf{v}$ 满足：$A\mathbf{x}=\mathbf{v}$ 相容
6. 判断给定的 $\mathbf{v}$ 在不在其中很容易：算 $A\mathbf{v}$ 即可	6. 判断给定的 $\mathbf{v}$ 在不在其中可能费时：要对 $\left[\begin{array}{cc}A& \mathbf{v}\end{array}\right]$ 做行变换
7. $\mathrm{Nul}A=\{0\}$ 当且仅当 $A\mathbf{x}=0$ 只有平凡解	7. $\mathrm{Col}A={\mathbb{R}}^m$ 当且仅当 $A\mathbf{x}=\mathbf{b}$ 对每个 $\mathbf{b}\in {\mathbb{R}}^m$ 都有解
8. $\mathrm{Nul}A=\{0\}$ 当且仅当变换 $\mathbf{x}\mapsto A\mathbf{x}$ 是单射	8. $\mathrm{Col}A={\mathbb{R}}^m$ 当且仅当变换 $\mathbf{x}\mapsto A\mathbf{x}$ 把 ${\mathbb{R}}^n$ 映满 ${\mathbb{R}}^m$

4.2.5 线性变换的核与值域

${\mathbb{R}}^n$ 之外的向量空间的子空间，常常借助线性变换来描述。把 1.8 节的定义推广：

定义：线性变换

从向量空间 $V$ 到向量空间 $W$ 的线性变换 $T$ 是一个规则：它给 $V$ 中每个向量 $\mathbf{x}$ 指定 $W$ 中唯一的向量 $T(\mathbf{x})$，且满足 (i) $T(\mathbf{u}+\mathbf{v})=T(\mathbf{u})+T(\mathbf{v})$，对所有 $\mathbf{u},\mathbf{v}\in V$； (ii) $T(c\mathbf{u})=cT(\mathbf{u})$，对所有 $\mathbf{u}\in V$ 和标量 $c$。

$T$ 的核（kernel，或称零空间）是 $V$ 中所有使 $T(\mathbf{u})=0$（$W$ 中的零向量）的 $\mathbf{u}$ 之集；$T$ 的值域（range）是 $W$ 中形如 $T(\mathbf{x})$（$\mathbf{x}\in V$）的全体向量之集。若 $T$ 恰好来自矩阵变换，即 $T(\mathbf{x})=A\mathbf{x}$，则 $T$ 的核与值域正是前面定义的 $\mathrm{Nul}A$ 与 $\mathrm{Col}A$。

不难证明 $T$ 的核是 $V$ 的子空间（证明与定理 2 基本相同），$T$ 的值域是 $W$ 的子空间。

图 4-16：与线性变换相伴的两个子空间：核（$V$ 中）与值域（$W$ 中）

应用中，子空间通常以某个线性变换的核或值域的面貌出现。例如，齐次线性微分方程的全体解恰好是某个线性变换的核。这类线性变换通常用函数的导数来描述，细节超出本课范围，这里只看两个例子。第一个解释为什么求导是线性变换。

例 8（需要微积分）：设 $V$ 是定义在区间 $[a,b]$ 上、可微且导数连续的全体实值函数构成的空间；$W$ 是 $[a,b]$ 上全体连续函数构成的空间 $C[a,b]$。令 $D:V\to W$ 把 $V$ 中的 $\mathbf{f}$ 变成它的导数 ${\mathbf{f}}^{\prime }$。微积分里两条基本求导法则

$$D(\mathbf{f}+\mathbf{g})=D(\mathbf{f})+D(\mathbf{g}),D(c\mathbf{f})=cD(\mathbf{f})$$

恰好说明 $D$ 是线性变换。可以证明：$D$ 的核是 $[a,b]$ 上的全体常函数，$D$ 的值域是整个 $W$（$[a,b]$ 上的全体连续函数）。

例 9（需要微积分）：微分方程

$$y^{\prime \prime }+{\omega }^{2}y=0$$

（$\omega$ 为常数）用于描述多种物理系统：加重的弹簧的振动、单摆的运动、电感–电容电路中的电压等。方程的解集恰好是把函数 $y=\mathbf{f}(t)$ 映为函数 ${\mathbf{f}}^{\prime \prime }(t)+{\omega }^2\mathbf{f}(t)$ 的那个线性变换的核。求这个向量空间的显式描述是微分方程课的问题；解集正是 4.1 节习题 19 所描述的空间（$c_1\cos \omega t+c_2\sin \omega t$ 的全体）。

4.2 节练习题（PRACTICE PROBLEMS）

练习 1：设 $W=\left\{\left[\begin{array}{c}a\\ b\\ c\end{array}\right]:a-3b-c=0\right\}$。用两种不同方法证明 $W$ 是 ${\mathbb{R}}^3$ 的子空间（用两个不同的定理）。

解： 方法一：$W$ 是齐次线性方程组（只有一条方程）的解集，由定理 2，$W$ 是 ${\mathbb{R}}^3$ 的子空间。等价地说，$W$ 是 $1\times 3$ 矩阵 $A=\left[\begin{array}{ccc}1& -3& -1\end{array}\right]$ 的零空间。

方法二：用主变量 $a$ 解出 $a=3b+c$（$b,c$ 为自由变量），任何解都形如

$$\left[\begin{array}{c}3b+c\\ b\\ c\end{array}\right]=b\left[\begin{array}{c}3\\ 1\\ 0\end{array}\right]+c\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]$$

这说明 $W=\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$，由定理 1，$W$ 是 ${\mathbb{R}}^3$ 的子空间。（把 $b$ 或 $c$ 当主变量解，还能得到 $W$ 的其他张成描述。）

练习 2：设 $A=\left[\begin{array}{ccc}7& -3& 5\\ -4& 1& -5\\ -5& 2& -4\end{array}\right]$，$\mathbf{v}=\left[\begin{array}{c}2\\ 1\\ -1\end{array}\right]$，$\mathbf{w}=\left[\begin{array}{c}7\\ 6\\ -3\end{array}\right]$。已知 $A\mathbf{x}=\mathbf{v}$ 与 $A\mathbf{x}=\mathbf{w}$ 都相容。问 $A\mathbf{x}=\mathbf{v}+\mathbf{w}$ 会怎样？

解：$\mathbf{v}$ 与 $\mathbf{w}$ 都在 $\mathrm{Col}A$ 中。因为 $\mathrm{Col}A$ 是向量空间（对加法封闭），$\mathbf{v}+\mathbf{w}$ 必在 $\mathrm{Col}A$ 中，也就是说方程 $A\mathbf{x}=\mathbf{v}+\mathbf{w}$ 相容（有解）。

练习 3：设 $A$ 为 $n\times n$ 矩阵。若 $\mathrm{Col}A=\mathrm{Nul}A$，证明 $\mathrm{Nul}{A}^2={\mathbb{R}}^n$。

解：任取 $\mathbf{x}\in {\mathbb{R}}^n$。$A\mathbf{x}$ 是 $A$ 的列的线性组合，故 $A\mathbf{x}\in \mathrm{Col}A$。又因为 $\mathrm{Col}A=\mathrm{Nul}A$，所以 $A\mathbf{x}\in \mathrm{Nul}A$，即

$$A^2\mathbf{x}=A(A\mathbf{x})=0$$

这说明 ${\mathbb{R}}^n$ 中每个向量都属于 $\mathrm{Nul}{A}^2$，故 $\mathrm{Nul}{A}^2={\mathbb{R}}^n$。

通关标准

能做到四件事：① 判断一个向量在不在 $\mathrm{Nul}A$（算 $A\mathbf{v}$）或在不在 $\mathrm{Col}A$（行约化 $\left[\begin{array}{cc}A& \mathbf{v}\end{array}\right]$）；② 通过解 $A\mathbf{x}=0$ 写出 $\mathrm{Nul}A$ 的张成集，并明白它自动线性无关；③ 给一个参数化集合，立刻写出以它为列空间的矩阵 $A$；④ 说出 $\mathrm{Nul}A$ 与 $\mathrm{Col}A$ 至少三条区别，以及二者分别住在 ${\mathbb{R}}^n$ 还是 ${\mathbb{R}}^m$。

4.2 节的习题（共 40 题，包括判断向量属于 $\mathrm{Nul}A$ 还是 $\mathrm{Col}A$、为参数化集合找矩阵、线性变换 $T:{\mathbb{P}}_2\to {\mathbb{R}}^2$ 的核与值域等）见原书。

4.3 线性无关集与基

本节研究如何用”尽可能高效”的集合去张成向量空间 $V$ 或其子空间 $H$。核心思想仍是线性无关，定义与 ${\mathbb{R}}^n$ 中一致。

定义：线性无关 / 线性相关

$V$ 中指标集 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 称为线性无关的，如果向量方程

$$c_1{\mathbf{v}}_1+c_2{\mathbf{v}}_2+\cdots +c_p{\mathbf{v}}_p=0$$

只有平凡解 $c_1=0,\dots ,c_p=0$。若方程有非平凡解（存在不全为零的权重 $c_1,\dots ,c_p$ 使等式成立），则称该集合线性相关，这个等式称为 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$ 的一个线性相关关系。

和 ${\mathbb{R}}^n$ 中一样：单个向量 $\mathbf{v}$ 线性无关当且仅当 $\mathbf{v}\ne 0$；两个向量线性相关当且仅当其中一个是另一个的倍数；任何含零向量的集合都线性相关。下面定理的证明与 1.7 节定理 7 相同。

定理 4

含两个及以上向量、且 ${\mathbf{v}}_1\ne 0$ 的指标集 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 线性相关，当且仅当某个 ${\mathbf{v}}_j$（$j>1$）是它前面那些向量 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_{j-1}$ 的线性组合。

一般向量空间与 ${\mathbb{R}}^n$ 的主要差别在于：当向量不是 $n$ 元组时，方程 (1) 通常不能写成 $n$ 个线性方程的方程组——没法把向量摆成矩阵 $A$ 的列去研究 $A\mathbf{x}=0$。只能依靠定义和定理 4。

例 1：设 ${\mathbf{p}}_1(t)=1$，${\mathbf{p}}_2(t)=t$，${\mathbf{p}}_3(t)=4-t$。因为 ${\mathbf{p}}_3=4{\mathbf{p}}_1-{\mathbf{p}}_2$，所以 $\{{\mathbf{p}}_1,{\mathbf{p}}_2,{\mathbf{p}}_3\}$ 在 $\mathbb{P}$ 中线性相关。

例 2：集合 $\{\sin t,\cos t\}$ 在 $C[0,1]$（$0\le t\le 1$ 上全体连续函数的空间）中线性无关，因为 $\sin t$ 与 $\cos t$ 互不为倍数——不存在标量 $c$ 使 $\cos t=c\sin t$ 对 $[0,1]$ 中所有 $t$ 成立（看看两个函数的图象就明白）。但是 $\{\sin t\cos t,\sin 2t\}$ 线性相关，因为恒等式 $\sin 2t=2\sin t\cos t$ 对一切 $t$ 成立。

4.3.1 基

定义：基

设 $H$ 是向量空间 $V$ 的子空间。$V$ 中指标集 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_p\}$ 称为 $H$ 的基（basis），如果 (i) $B$ 是线性无关集； (ii) $B$ 张成的子空间恰好是 $H$，即 $H=\mathrm{Span}\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_p\}$。

因为任何向量空间都是自身的子空间，这个定义也适用于 $H=V$：$V$ 的基就是线性无关且张成 $V$ 的集合。当 $H\ne V$ 时，条件 (ii) 自动要求每个 ${\mathbf{b}}_i\in H$（因为张成集包含其成员，见 4.1 节）。

例 3：设 $A$ 是可逆的 $n\times n$ 矩阵，比如 $A=\left[\begin{array}{ccc}{\mathbf{a}}_1& \cdots & {\mathbf{a}}_n\end{array}\right]$。由可逆矩阵定理，$A$ 的列线性无关且张成 ${\mathbb{R}}^n$，所以它们构成 ${\mathbb{R}}^n$ 的一组基。

图 4-17：可逆矩阵的列构成 ${\mathbb{R}}^n$ 的一组基

例 4：设 ${\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$ 是 $n\times n$ 单位矩阵 $I_n$ 的列：

$${\mathbf{e}}_1=\left[\begin{array}{c}1\\ 0\\ ⋮\\ 0\end{array}\right],{\mathbf{e}}_2=\left[\begin{array}{c}0\\ 1\\ ⋮\\ 0\end{array}\right],\dots ,{\mathbf{e}}_n=\left[\begin{array}{c}0\\ ⋮\\ 0\\ 1\end{array}\right]$$

集合 $\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n\}$ 称为 ${\mathbb{R}}^n$ 的标准基。

例 5：设 ${\mathbf{v}}_1=\left[\begin{array}{c}3\\ 0\\ -6\end{array}\right]$，${\mathbf{v}}_2=\left[\begin{array}{c}-4\\ 1\\ 7\end{array}\right]$，${\mathbf{v}}_3=\left[\begin{array}{c}-2\\ 1\\ 5\end{array}\right]$。判断 $\{{\mathbf{v}}_1,{\mathbf{v}}_2,{\mathbf{v}}_3\}$ 是否为 ${\mathbb{R}}^3$ 的基。

解：${\mathbb{R}}^3$ 中恰好有三个向量，可以用好几种方法判断矩阵 $A=\left[\begin{array}{ccc}{\mathbf{v}}_1& {\mathbf{v}}_2& {\mathbf{v}}_3\end{array}\right]$ 是否可逆。例如做两次行替换即可发现 $A$ 有 3 个主元位置，故 $A$ 可逆。由例 3 的道理，$A$ 的列构成 ${\mathbb{R}}^3$ 的一组基。

例 6：设 $S=\{1,t,t^2,\dots ,t^n\}$。验证 $S$ 是 ${\mathbb{P}}_n$ 的基（称为 ${\mathbb{P}}_n$ 的标准基）。

解：$S$ 显然张成 ${\mathbb{P}}_n$。为证线性无关，设 $c_0,\dots ,c_n$ 满足

$$c_0\cdot 1+c_{1}t+c_2{t}^2+\cdots +c_n{t}^n=0(t)$$

这意味着左边的多项式与右边的零多项式处处取值相同。代数基本定理告诉我们：${\mathbb{P}}_n$ 中有多于 $n$ 个零点的多项式只能是零多项式。所以上式对一切 $t$ 成立仅当 $c_0=\cdots =c_n=0$，即 $S$ 线性无关，故是 ${\mathbb{P}}_n$ 的基。

图 4-18：${\mathbb{P}}_n$ 的标准基 $\{1,t,t^2,\dots ,t^n\}$

常见坑

${\mathbb{P}}_n$ 中涉及线性无关和张成的问题，最省力的做法不是直接抠定义，而是 4.4 节要讲的坐标向量技巧：把多项式对应到它的系数向量，转成 ${\mathbb{R}}^{n+1}$ 里的行约化问题。

4.3.2 张成集定理

基是一个”高效”的张成集——不含多余向量。事实上，从张成集中删去多余的向量就能造出基。

例 7：设

$${\mathbf{v}}_1=\left[\begin{array}{c}0\\ 2\\ -1\end{array}\right],{\mathbf{v}}_2=\left[\begin{array}{c}2\\ 2\\ 0\end{array}\right],{\mathbf{v}}_3=\left[\begin{array}{c}6\\ 16\\ -5\end{array}\right],H=\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2,{\mathbf{v}}_3\}$$

注意 ${\mathbf{v}}_3=5{\mathbf{v}}_1+3{\mathbf{v}}_2$。证明 $\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2,{\mathbf{v}}_3\}=\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$，并求子空间 $H$ 的一组基。

解：$\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 中每个向量都属于 $H$，因为

$$c_1{\mathbf{v}}_1+c_2{\mathbf{v}}_2=c_1{\mathbf{v}}_1+c_2{\mathbf{v}}_2+0\cdot {\mathbf{v}}_3$$

反过来，设 $\mathbf{x}$ 是 $H$ 中任一向量，比如 $\mathbf{x}=c_1{\mathbf{v}}_1+c_2{\mathbf{v}}_2+c_3{\mathbf{v}}_3$。把 ${\mathbf{v}}_3=5{\mathbf{v}}_1+3{\mathbf{v}}_2$ 代入：

$$\mathbf{x}=c_1{\mathbf{v}}_1+c_2{\mathbf{v}}_2+c_3(5{\mathbf{v}}_1+3{\mathbf{v}}_2)=(c_1+5c_3){\mathbf{v}}_1+(c_2+3c_3){\mathbf{v}}_2$$

所以 $\mathbf{x}\in \mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$，即 $H$ 中每个向量都已在 $\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 里。两个集合相等。由于 $\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 显然线性无关，它是 $H$ 的一组基。

把例 7 一般化：

定理 5：张成集定理（The Spanning Set Theorem）

设 $S=\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 是 $V$ 中的集合，$H=\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$。 a. 若 $S$ 中某个向量（比如 ${\mathbf{v}}_k$）是 $S$ 中其余向量的线性组合，则从 $S$ 中删去 ${\mathbf{v}}_k$ 后得到的集合仍张成 $H$。 b. 若 $H\ne \{0\}$，则 $S$ 的某个子集是 $H$ 的基。

证明： (a) 必要时重排 $S$ 中向量的顺序，不妨设 ${\mathbf{v}}_p$ 是 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_{p-1}$ 的线性组合：${\mathbf{v}}_p=a_1{\mathbf{v}}_1+\cdots +a_{p-1}{\mathbf{v}}_{p-1}$。任取 $\mathbf{x}\in H$，写成

$$\mathbf{x}=c_1{\mathbf{v}}_1+\cdots +c_{p-1}{\mathbf{v}}_{p-1}+c_p{\mathbf{v}}_p$$

把 ${\mathbf{v}}_p$ 的表达式代入，立见 $\mathbf{x}$ 是 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_{p-1}$ 的线性组合。因 $\mathbf{x}$ 是 $H$ 的任意元素，故 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_{p-1}\}$ 张成 $H$。

(b) 若 $S$ 本身线性无关，它已是基。否则按 (a) 不断删去”依赖于其他向量”的向量，只要集合里还有两个或以上的向量就可继续，直到剩下线性无关的张成集即基。若最终只剩一个向量，由于 $H\ne \{0\}$，这个向量非零（从而线性无关）。$■$

图 4-19：从张成集中删去多余向量，得到基

4.3.3 Nul A 与 Col A 的基

4.2 节求 $\mathrm{Nul}A$ 张成集的方法，在 $\mathrm{Nul}A$ 含非零向量时自动产生线性无关集，所以那时得到的就是 $\mathrm{Nul}A$ 的基。下面两个例子给出求列空间基的简单算法。

例 8：求 $\mathrm{Col}B$ 的基，其中

$$B=\left[\begin{array}{cccc}{\mathbf{b}}_1& {\mathbf{b}}_2& \dots & {\mathbf{b}}_5\end{array}\right]=\left[\begin{array}{ccccc}1& 4& 0& 2& 0\\ 0& 0& 1& -1& 0\\ 0& 0& 0& 0& 1\\ 0& 0& 0& 0& 0\end{array}\right]$$

解：$B$ 的每个非主元列都是主元列的线性组合：${\mathbf{b}}_2=4{\mathbf{b}}_1$，${\mathbf{b}}_4=2{\mathbf{b}}_1-{\mathbf{b}}_3$。由张成集定理，删去 ${\mathbf{b}}_2$ 和 ${\mathbf{b}}_4$ 后 $\{{\mathbf{b}}_1,{\mathbf{b}}_3,{\mathbf{b}}_5\}$ 仍张成 $\mathrm{Col}B$。令

$$S=\{{\mathbf{b}}_1,{\mathbf{b}}_3,{\mathbf{b}}_5\}=\left\{\left[\begin{array}{c}1\\ 0\\ 0\\ 0\end{array}\right],\left[\begin{array}{c}0\\ 1\\ 0\\ 0\end{array}\right],\left[\begin{array}{c}0\\ 0\\ 1\\ 0\end{array}\right]\right\}$$

由于 ${\mathbf{b}}_1\ne 0$ 且 $S$ 中没有任何向量是它前面向量的线性组合，$S$ 线性无关（定理 4）。故 $S$ 是 $\mathrm{Col}B$ 的基。

那如果 $A$ 不在简化阶梯形呢？关键事实：$A$ 的列之间的任何线性相关关系都可写成 $A\mathbf{x}=0$（不参与该关系的列权重为 0）。$A$ 行约化成 $B$ 后，$A\mathbf{x}=0$ 与 $B\mathbf{x}=0$ 的解集完全相同；若 $A=\left[\begin{array}{ccc}{\mathbf{a}}_1& \cdots & {\mathbf{a}}_n\end{array}\right]$，$B=\left[\begin{array}{ccc}{\mathbf{b}}_1& \cdots & {\mathbf{b}}_n\end{array}\right]$，则

$$x_1{\mathbf{a}}_1+\cdots +x_n{\mathbf{a}}_n=0\text{与}{x}_1{\mathbf{b}}_1+\cdots +x_n{\mathbf{b}}_n=0$$

同解。也就是说：$A$ 的列与 $B$ 的列有完全相同的线性相关关系。

例 9：可以验证

$$A=\left[\begin{array}{cccc}{\mathbf{a}}_1& {\mathbf{a}}_2& \dots & {\mathbf{a}}_5\end{array}\right]=\left[\begin{array}{ccccc}1& 4& 0& 2& -1\\ 3& 12& 1& 5& 5\\ 2& 8& 1& 3& 2\\ 5& 20& 2& 8& 8\end{array}\right]$$

与例 8 的矩阵 $B$ 行等价。求 $\mathrm{Col}A$ 的基。

解：例 8 中有 ${\mathbf{b}}_2=4{\mathbf{b}}_1$，${\mathbf{b}}_4=2{\mathbf{b}}_1-{\mathbf{b}}_3$，于是可预期 ${\mathbf{a}}_2=4{\mathbf{a}}_1$，${\mathbf{a}}_4=2{\mathbf{a}}_1-{\mathbf{a}}_3$——代入验证确实如此！所以选最小张成集时可以删去 ${\mathbf{a}}_2$ 和 ${\mathbf{a}}_4$。而 $\{{\mathbf{a}}_1,{\mathbf{a}}_3,{\mathbf{a}}_5\}$ 必线性无关：若它们之间有线性相关关系，就会对应 $\{{\mathbf{b}}_1,{\mathbf{b}}_3,{\mathbf{b}}_5\}$ 之间的线性相关关系，与后者的线性无关性矛盾。故 $\{{\mathbf{a}}_1,{\mathbf{a}}_3,{\mathbf{a}}_5\}$ 是 $\mathrm{Col}A$ 的基——它们正是 $A$ 的主元列。

例 8、9 揭示了如下重要结论：

定理 6

矩阵 $A$ 的主元列构成 $\mathrm{Col}A$ 的基。

证明：设 $B$ 是 $A$ 的简化阶梯形。$B$ 的主元列线性无关（没有哪列是前面各列的线性组合）。由于 $A$ 与 $B$ 行等价，$A$ 的主元列也线性无关；同理，$A$ 的每个非主元列都是 $A$ 的主元列的线性组合。由张成集定理，删去非主元列后剩下的主元列就是 $\mathrm{Col}A$ 的基。$■$

常见坑（极其重要！）

基要用 $A$ 本身的主元列，而不是行约化后的阶梯形 $B$ 的主元列！行变换会改变列空间。例如例 8 中 $B$ 的各列最后一个分量都是 0，它们不可能张成例 9 中 $A$ 的列空间。正确流程：在 $B$（或任何阶梯形）里定位主元列的位置 → 回到 $A$ 里取对应位置的列。

4.3.4 基的两种视角

• 基是尽可能小的张成集：用张成集定理删向量，一旦删到线性无关就必须停——再多删一个就不张成 $V$ 了。
• 基也是尽可能大的线性无关集：若 $S$ 是 $V$ 的基，再从 $V$ 里添一个向量 $\mathbf{w}$，新集必线性相关——因为 $S$ 张成 $V$，$\mathbf{w}$ 是 $S$ 中元素的线性组合。

例 10：${\mathbb{R}}^3$ 中的下面三个集合，展示了”扩大到基”与”再扩大就垮”（反之”缩小到基”与”再缩小就垮”）的过程：

$$\left\{\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right],\left[\begin{array}{c}2\\ 3\\ 0\end{array}\right]\right\}\text{线性无关，但不张成 }{\mathbb{R}}^3$$ $$\left\{\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right],\left[\begin{array}{c}2\\ 3\\ 0\end{array}\right],\left[\begin{array}{c}4\\ 5\\ 6\end{array}\right]\right\}\text{是 }{\mathbb{R}}^3\text{ 的一组基}$$ $$\left\{\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right],\left[\begin{array}{c}2\\ 3\\ 0\end{array}\right],\left[\begin{array}{c}4\\ 5\\ 6\end{array}\right],\left[\begin{array}{c}7\\ 8\\ 9\end{array}\right]\right\}\text{张成 }{\mathbb{R}}^3\text{，但线性相关}$$

4.3 节练习题（PRACTICE PROBLEMS）

练习 1：设 ${\mathbf{v}}_1=\left[\begin{array}{c}1\\ -2\\ 3\end{array}\right]$，${\mathbf{v}}_2=\left[\begin{array}{c}-2\\ 7\\ -9\end{array}\right]$。判断 $\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 是不是 ${\mathbb{R}}^3$ 的基？是不是 ${\mathbb{R}}^2$ 的基？

解：令 $A=\left[\begin{array}{cc}{\mathbf{v}}_1& {\mathbf{v}}_2\end{array}\right]$，行约化：

$$A=\left[\begin{array}{cc}1& -2\\ -2& 7\\ 3& -9\end{array}\right]\sim \left[\begin{array}{cc}1& -2\\ 0& 3\\ 0& 0\end{array}\right]$$

$A$ 的行并非每行都有主元位置，所以 $A$ 的列不张成 ${\mathbb{R}}^3$（1.4 节定理 4），$\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 不是 ${\mathbb{R}}^3$ 的基。又因为 ${\mathbf{v}}_1,{\mathbf{v}}_2$ 是 3 维向量，根本不在 ${\mathbb{R}}^2$ 里，也不可能是 ${\mathbb{R}}^2$ 的基。不过它们显然线性无关，所以是 ${\mathbb{R}}^3$ 的某个子空间（即 $\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$）的基。

练习 2：设 ${\mathbf{v}}_1=\left[\begin{array}{c}1\\ -3\\ 4\end{array}\right]$，${\mathbf{v}}_2=\left[\begin{array}{c}6\\ 2\\ -1\end{array}\right]$，${\mathbf{v}}_3=\left[\begin{array}{c}2\\ -2\\ 3\end{array}\right]$，${\mathbf{v}}_4=\left[\begin{array}{c}-4\\ -8\\ 9\end{array}\right]$。求由 $\{{\mathbf{v}}_1,{\mathbf{v}}_2,{\mathbf{v}}_3,{\mathbf{v}}_4\}$ 张成的子空间 $W$ 的基。

解：以这四个向量为列构造矩阵 $A$（其列空间就是 $W$），行约化找主元列：

$$A=\left[\begin{array}{cccc}1& 6& 2& -4\\ -3& 2& -2& -8\\ 4& -1& 3& 9\end{array}\right]\sim \left[\begin{array}{cccc}1& 6& 2& -4\\ 0& 20& 4& -20\\ 0& -25& -5& 25\end{array}\right]\sim \left[\begin{array}{cccc}1& 6& 2& -4\\ 0& 5& 1& -5\\ 0& 0& 0& 0\end{array}\right]$$

$A$ 的前两列是主元列，构成 $\mathrm{Col}A=W$ 的基。所以 $\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 是 $W$ 的基。（定位主元列不需要约到简化阶梯形，阶梯形即可。）

练习 3：设 ${\mathbf{v}}_1=\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right]$，${\mathbf{v}}_2=\left[\begin{array}{c}0\\ 1\\ 0\end{array}\right]$，$H=\left\{\left[\begin{array}{c}s\\ s\\ 0\end{array}\right]:s\in \mathbb{R}\right\}$。$H$ 中每个向量都能写成 ${\mathbf{v}}_1,{\mathbf{v}}_2$ 的线性组合：

$$\left[\begin{array}{c}s\\ s\\ 0\end{array}\right]=s\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right]+s\left[\begin{array}{c}0\\ 1\\ 0\end{array}\right]$$

问 $\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 是 $H$ 的基吗？

解：不是。基的定义要求张成集的成员在 $H$ 里，而 ${\mathbf{v}}_1$ 和 ${\mathbf{v}}_2$ 都不在 $H$ 中！事实上 $\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 是平面 $\{(c_1,c_2,0)\}$ 的基，而 $H$ 只是其中一条直线（$H$ 的基是 $\{\left[\begin{array}{c}1\\ 1\\ 0\end{array}\right]\}$）。

常见坑

练习 3 揭示了基定义里最容易被忽略的一点：$H$ 的基必须既是线性无关集、又张成 $H$、而且每个成员都属于 $H$。“能表示出 $H$ 的向量”不等于”是 $H$ 的基”。

练习 4：设 $V,W$ 是向量空间，$T:V\to W$ 与 $U:V\to W$ 都是线性变换，$\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 是 $V$ 的基。若对每个 $j$ 都有 $T({\mathbf{v}}_j)=U({\mathbf{v}}_j)$，证明对所有 $\mathbf{x}\in V$ 有 $T(\mathbf{x})=U(\mathbf{x})$。

解：因 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 是 $V$ 的基，任一 $\mathbf{x}\in V$ 可写为 $\mathbf{x}=c_1{\mathbf{v}}_1+\cdots +c_p{\mathbf{v}}_p$。由 $T,U$ 的线性性：

$$\begin{array}{rl}T(\mathbf{x})& =T(c_1{\mathbf{v}}_1+\cdots +c_p{\mathbf{v}}_p)=c_{1}T({\mathbf{v}}_1)+\cdots +c_{p}T({\mathbf{v}}_p)\\ & =c_{1}U({\mathbf{v}}_1)+\cdots +c_{p}U({\mathbf{v}}_p)=U(c_1{\mathbf{v}}_1+\cdots +c_p{\mathbf{v}}_p)=U(\mathbf{x})\end{array}$$

通关标准

能做到四件事：① 对 ${\mathbb{R}}^n$ 中的向量组，判断它们是否构成 ${\mathbb{R}}^n$（或某个子空间）的基；② 用”行约化找主元列、回原矩阵取列”求 $\mathrm{Col}A$ 的基，并牢记基来自原矩阵；③ 用张成集定理把一个张成集”瘦身”成基；④ 知道基是”最小的张成集”也是”最大的线性无关集”这两个等价说法。

4.3 节的习题（共 38 题，包括判断 ${\mathbb{R}}^3$ 中哪些集合是基、求 $\mathrm{Nul}A$ 与 $\mathrm{Col}A$ 的基、RLC 电路（下图）解空间的基等）见原书。

图 4-20：RLC 电路（习题 28：解空间 $H$ 中函数形如 $v(t)=e^{-bt}(c_1+c_{2}t)$）

4.4 坐标系

给向量空间 $V$ 指定一组基的一个重要理由，是在 $V$ 上建立坐标系。本节将证明：若 $B$ 含 $n$ 个向量，这个坐标系会让 $V$ “表现得像” ${\mathbb{R}}^n$。若 $V$ 本来就是 ${\mathbb{R}}^n$，这组基则给出观察 $V$ 的一个新视角。坐标系之所以存在，靠的是下面这条基本定理。

定理 7：唯一表示定理

设 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$ 是向量空间 $V$ 的一组基。则对 $V$ 中每个 $\mathbf{x}$，存在唯一一组标量 $c_1,\dots ,c_n$ 使得

$$\mathbf{x}=c_1{\mathbf{b}}_1+\cdots +c_n{\mathbf{b}}_n$$

证明：因 $B$ 张成 $V$，这样的标量存在。假设另有表示 $\mathbf{x}=d_1{\mathbf{b}}_1+\cdots +d_n{\mathbf{b}}_n$。两式相减：

$$0=\mathbf{x}-\mathbf{x}=(c_1-d_1){\mathbf{b}}_1+\cdots +(c_n-d_n){\mathbf{b}}_n$$

由 $B$ 线性无关，权重必须全为零，即 $c_j=d_j$（$1\le j\le n$）。$■$

定义：坐标

设 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$ 是 $V$ 的基，$\mathbf{x}\in V$。使 $\mathbf{x}=c_1{\mathbf{b}}_1+\cdots +c_n{\mathbf{b}}_n$ 的权重 $c_1,\dots ,c_n$ 称为 $\mathbf{x}$ 相对于基 $B$ 的坐标（$B$-坐标）。

若 $c_1,\dots ,c_n$ 是 $\mathbf{x}$ 的 $B$-坐标，则 ${\mathbb{R}}^n$ 中的向量

$$[\mathbf{x}{]}_{\mathcal{B}}=\left[\begin{array}{c}{c}_1\\ ⋮\\ c_n\end{array}\right]$$

称为 $\mathbf{x}$ 的坐标向量（相对于 $B$）。映射 $\mathbf{x}\mapsto [\mathbf{x}{]}_{\mathcal{B}}$ 称为（由 $B$ 确定的）坐标映射。

例 1：设 $B=\{{\mathbf{b}}_1,{\mathbf{b}}_2\}$ 是 ${\mathbb{R}}^2$ 的基，${\mathbf{b}}_1=\left[\begin{array}{c}1\\ 0\end{array}\right]$，${\mathbf{b}}_2=\left[\begin{array}{c}1\\ 2\end{array}\right]$。若 $\mathbf{x}$ 的坐标向量是 $[\mathbf{x}{]}_{\mathcal{B}}=\left[\begin{array}{c}-2\\ 3\end{array}\right]$，求 $\mathbf{x}$。

解：$B$-坐标告诉我们怎样用 $B$ 中的向量搭出 $\mathbf{x}$：

$$\mathbf{x}=(-2){\mathbf{b}}_1+3{\mathbf{b}}_2=(-2)\left[\begin{array}{c}1\\ 0\end{array}\right]+3\left[\begin{array}{c}1\\ 2\end{array}\right]=\left[\begin{array}{c}1\\ 6\end{array}\right]$$

例 2：向量 $\mathbf{x}=\left[\begin{array}{c}1\\ 6\end{array}\right]$ 的分量其实就是 $\mathbf{x}$ 相对于标准基 $\mathcal{E}=\{{\mathbf{e}}_1,{\mathbf{e}}_2\}$ 的坐标：

$$\left[\begin{array}{c}1\\ 6\end{array}\right]=1\cdot \left[\begin{array}{c}1\\ 0\end{array}\right]+6\cdot \left[\begin{array}{c}0\\ 1\end{array}\right]=1\cdot {\mathbf{e}}_1+6\cdot {\mathbf{e}}_2$$

即 $[\mathbf{x}{]}_{\mathcal{E}}=\mathbf{x}$。

4.4.1 坐标的图形解释

集合上的坐标系就是一个把集合中的点一一映射到 ${\mathbb{R}}^n$ 的映射。例如：在平面上选好垂直的坐标轴和每根轴上的单位长度，普通坐标纸就为平面提供了坐标系。

图 4-21：标准坐标纸上的 ${\mathbf{b}}_1(={\mathbf{e}}_1)$、${\mathbf{b}}_2$ 与 $\mathbf{x}$

图 4-22：换上按基 $\mathcal{B}$ 定制的”$\mathcal{B}$-坐标纸”

图 4-21 是标准坐标纸：坐标 $1$ 和 $6$ 给出 $\mathbf{x}=\left[\begin{array}{c}1\\ 6\end{array}\right]$ 相对标准基的位置——沿 ${\mathbf{e}}_1$ 方向 1 个单位、沿 ${\mathbf{e}}_2$ 方向 6 个单位。图 4-22 抹掉标准网格、换上一张专门适配基 $\mathcal{B}=\{{\mathbf{b}}_1,{\mathbf{b}}_2\}$（例 1）的网格：坐标向量 $[\mathbf{x}{]}_{\mathcal{B}}=\left[\begin{array}{c}-2\\ 3\end{array}\right]$ 给出 $\mathbf{x}$ 在新坐标系中的位置——沿 ${\mathbf{b}}_1$ 方向 $-2$ 个单位、沿 ${\mathbf{b}}_2$ 方向 3 个单位。

例 3：在晶体学中，晶体点阵的描述依靠给 ${\mathbb{R}}^3$ 选一组基 $\{\mathbf{u},\mathbf{v},\mathbf{w}\}$，对应晶体某个”晶胞”的三条相邻棱。整个点阵由许多晶胞叠成。晶胞有 14 种基本类型，下图展示了其中 3 种。

图 4-23：几种晶胞的例子

晶体中原子的坐标就是相对于这个点阵基给出的。例如坐标 $\left[\begin{array}{c}1/2\\ 1/2\\ 1\end{array}\right]$ 标识了图 4-23(c) 中晶胞顶面面心的原子。

4.4.2 ${\mathbb{R}}^n$ 中的坐标

给定 ${\mathbb{R}}^n$ 的基 $\mathcal{B}$ 后，求指定 $\mathbf{x}$ 的 $B$-坐标向量很容易。

例 4：设 ${\mathbf{b}}_1=\left[\begin{array}{c}2\\ 1\end{array}\right]$，${\mathbf{b}}_2=\left[\begin{array}{c}-1\\ 1\end{array}\right]$，$\mathbf{x}=\left[\begin{array}{c}4\\ 5\end{array}\right]$，$B=\{{\mathbf{b}}_1,{\mathbf{b}}_2\}$。求 $\mathbf{x}$ 相对于 $B$ 的坐标向量 $[\mathbf{x}{]}_{\mathcal{B}}$。

解：$\mathbf{x}$ 的 $B$-坐标 $c_1,c_2$ 满足

$$c_1\left[\begin{array}{c}2\\ 1\end{array}\right]+c_2\left[\begin{array}{c}-1\\ 1\end{array}\right]=\left[\begin{array}{c}4\\ 5\end{array}\right]$$

即

$$\underset{{\mathbf{b}}_1{\mathbf{b}}_2}{\underbrace{\left[\begin{array}{cc}2& -1\\ 1& 1\end{array}\right]}}\left[\begin{array}{c}{c}_1\\ c_2\end{array}\right]=\left[\begin{array}{c}4\\ 5\end{array}\right]$$

这个方程可用增广矩阵行约化求解，也可用左端矩阵的逆求解。解得 $c_1=3$，$c_2=2$，即 $\mathbf{x}=3{\mathbf{b}}_1+2{\mathbf{b}}_2$，故

$$[\mathbf{x}{]}_{\mathcal{B}}=\left[\begin{array}{c}3\\ 2\end{array}\right]$$

图 4-24：$\mathbf{x}=3{\mathbf{b}}_1+2{\mathbf{b}}_2$ 的几何图象

上面方程 (3) 左端的矩阵把 $\mathbf{x}$ 的 $B$-坐标转换成 $\mathbf{x}$ 的标准坐标。对 ${\mathbb{R}}^n$ 中一般的基 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$ 可做同样的坐标变换。令

$$P_{\mathcal{B}}=\left[\begin{array}{cccc}{\mathbf{b}}_1& {\mathbf{b}}_2& \dots & {\mathbf{b}}_n\end{array}\right]$$

则向量方程 $\mathbf{x}=c_1{\mathbf{b}}_1+c_2{\mathbf{b}}_2+\cdots +c_n{\mathbf{b}}_n$ 等价于

$$\boxed{\mathbf{x}=P_{\mathcal{B}}[\mathbf{x}{]}_{\mathcal{B}}}$$

$P_{\mathcal{B}}$ 称为从 $B$ 到 ${\mathbb{R}}^n$ 标准基的坐标变换矩阵：左乘 $P_{\mathcal{B}}$ 把坐标向量 $[\mathbf{x}{]}_{\mathcal{B}}$ 变成 $\mathbf{x}$。这个坐标变换方程非常重要，第 5 章和第 7 章还会多次用到。

由于 $P_{\mathcal{B}}$ 的列构成 ${\mathbb{R}}^n$ 的基，$P_{\mathcal{B}}$ 可逆（可逆矩阵定理）。左乘 $P_{\mathcal{B}}^{-1}$ 把 $\mathbf{x}$ 变回它的 $B$-坐标向量：

$$P_{\mathcal{B}}^{-1}\mathbf{x}=[\mathbf{x}{]}_{\mathcal{B}}$$

由 $P_{\mathcal{B}}^{-1}$ 实现的对应 $\mathbf{x}\mapsto [\mathbf{x}{]}_{\mathcal{B}}$ 就是前面说的坐标映射。因为 $P_{\mathcal{B}}^{-1}$ 可逆，由可逆矩阵定理，坐标映射是从 ${\mathbb{R}}^n$ 到 ${\mathbb{R}}^n$ 的单射、满射线性变换。

4.4.3 坐标映射

选好 $V$ 的基 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$，就在 $V$ 上建立了一个坐标系。坐标映射 $\mathbf{x}\mapsto [\mathbf{x}{]}_{\mathcal{B}}$ 把可能陌生空间 $V$ 与熟悉的 ${\mathbb{R}}^n$ 连接起来（下图）：$V$ 中的点现在可以用它们的”新名字”来指认了。

图 4-25：从 $V$ 到 ${\mathbb{R}}^n$ 的坐标映射

定理 8

设 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$ 是向量空间 $V$ 的基。则坐标映射 $\mathbf{x}\mapsto [\mathbf{x}{]}_{\mathcal{B}}$ 是从 $V$ 到 ${\mathbb{R}}^n$ 的单、满线性变换。

证明：取 $V$ 中两个典型向量 $\mathbf{u}=c_1{\mathbf{b}}_1+\cdots +c_n{\mathbf{b}}_n$，$\mathbf{w}=d_1{\mathbf{b}}_1+\cdots +d_n{\mathbf{b}}_n$。利用向量运算：

$$\mathbf{u}+\mathbf{w}=(c_1+d_1){\mathbf{b}}_1+\cdots +(c_n+d_n){\mathbf{b}}_n$$

于是

$$[\mathbf{u}+\mathbf{w}{]}_{\mathcal{B}}=\left[\begin{array}{c}{c}_1+d_1\\ ⋮\\ c_n+d_n\end{array}\right]=\left[\begin{array}{c}{c}_1\\ ⋮\\ c_n\end{array}\right]+\left[\begin{array}{c}{d}_1\\ ⋮\\ d_n\end{array}\right]=[\mathbf{u}{]}_{\mathcal{B}}+[\mathbf{w}{]}_{\mathcal{B}}$$

坐标映射保持加法。又若 $r$ 是任意标量，

$$r\mathbf{u}=r(c_1{\mathbf{b}}_1+\cdots +c_n{\mathbf{b}}_n)=(r{c}_1){\mathbf{b}}_1+\cdots +(r{c}_n){\mathbf{b}}_n$$

故 $[r\mathbf{u}{]}_{\mathcal{B}}=r[\mathbf{u}{]}_{\mathcal{B}}$，坐标映射也保持数乘。所以它是线性变换（单射与满射的验证见原书习题 23、24）。$■$

坐标映射的线性性可以推广到线性组合：若 ${\mathbf{u}}_1,\dots ,{\mathbf{u}}_p\in V$，$c_1,\dots ,c_p$ 为标量，则

$$[c_1{\mathbf{u}}_1+\cdots +c_p{\mathbf{u}}_p{]}_{\mathcal{B}}=c_1[{\mathbf{u}}_1{]}_{\mathcal{B}}+\cdots +c_p[{\mathbf{u}}_p{]}_{\mathcal{B}}$$

用一句话说：线性组合的 $B$-坐标向量，等于坐标向量的同一线性组合。

定理 8 的坐标映射是同构（isomorphism）的重要例子：从一个向量空间 $V$ 到另一个向量空间 $W$ 的单、满线性变换称为从 $V$ 到 $W$ 的同构（iso 源自希腊语”相同”，morph 源自”形式/结构”）。$V$ 与 $W$ 的记号与术语可以不同，但作为向量空间二者不可区分：$V$ 中任何向量空间运算都在 $W$ 中被精确复现，反之亦然。特别地，任何拥有 $n$ 个向量基的实向量空间都与 ${\mathbb{R}}^n$ 不可区分。

例 5：设 $\mathcal{B}$ 是空间 ${\mathbb{P}}_3$ 的标准基，即 $B=\{1,t,t^2,t^3\}$。${\mathbb{P}}_3$ 的典型元素形如

$$\mathbf{p}(t)=a_0+a_{1}t+a_2{t}^2+a_3{t}^3$$

由于 $\mathbf{p}$ 本来就是标准基向量的线性组合，立得

$$[\mathbf{p}{]}_{\mathcal{B}}=\left[\begin{array}{c}{a}_0\\ a_1\\ a_2\\ a_3\end{array}\right]$$

所以坐标映射 $\mathbf{p}\mapsto [\mathbf{p}{]}_{\mathcal{B}}$ 是从 ${\mathbb{P}}_3$ 到 ${\mathbb{R}}^4$ 的同构：${\mathbb{P}}_3$ 中的所有向量空间运算都对应 ${\mathbb{R}}^4$ 中的运算。

打个比方：把 ${\mathbb{P}}_3$ 和 ${\mathbb{R}}^4$ 想成两块由坐标映射连接起来的计算机屏幕，${\mathbb{P}}_3$ 屏幕上的每个向量空间运算都被 ${\mathbb{R}}^4$ 屏幕上对应的向量运算精确复制。两块屏幕上的向量长得不一样，但作为向量的”行为”完全相同。

图 4-26：空间 ${\mathbb{P}}_3$ 同构于 ${\mathbb{R}}^4$

例 6：用坐标向量验证多项式 $1+2t^2$，$4+t+5t^2$，$3+2t$ 在 ${\mathbb{P}}_2$ 中线性相关。

解：例 5 式的坐标映射给出坐标向量 $(1,0,2)$，$(4,1,5)$，$(3,2,0)$。把它们写成矩阵 $A$ 的列，通过行约化增广矩阵判断 $A\mathbf{x}=0$：

$$\left[\begin{array}{cccc}1& 4& 3& 0\\ 0& 1& 2& 0\\ 2& 5& 0& 0\end{array}\right]\sim \left[\begin{array}{cccc}1& 4& 3& 0\\ 0& 1& 2& 0\\ 0& 0& 0& 0\end{array}\right]$$

$A$ 的列线性相关，所以对应的多项式线性相关。事实上容易看出 $A$ 的第 3 列等于第 2 列的 2 倍减去第 1 列的 5 倍，对应关系为

$$3+2t=2(4+t+5t^2)-5(1+2t^2)$$

最后一个例子涉及 ${\mathbb{R}}^3$ 中一个同构于 ${\mathbb{R}}^2$ 的平面。

例 7：设

$${\mathbf{v}}_1=\left[\begin{array}{c}3\\ 6\\ 2\end{array}\right],{\mathbf{v}}_2=\left[\begin{array}{c}-1\\ 0\\ 1\end{array}\right],\mathbf{x}=\left[\begin{array}{c}3\\ 12\\ 7\end{array}\right]$$

且 $B=\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$。则 $B$ 是 $H=\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 的基。判断 $\mathbf{x}$ 是否在 $H$ 中；若是，求 $\mathbf{x}$ 相对于 $B$ 的坐标向量。

解：若 $\mathbf{x}\in H$，则下面的向量方程相容：

$$c_1\left[\begin{array}{c}3\\ 6\\ 2\end{array}\right]+c_2\left[\begin{array}{c}-1\\ 0\\ 1\end{array}\right]=\left[\begin{array}{c}3\\ 12\\ 7\end{array}\right]$$

标量 $c_1,c_2$（若存在）就是 $\mathbf{x}$ 的 $B$-坐标。行约化：

$$\left[\begin{array}{ccc}3& -1& 3\\ 6& 0& 12\\ 2& 1& 7\end{array}\right]\sim \left[\begin{array}{ccc}1& 0& 2\\ 0& 1& 3\\ 0& 0& 0\end{array}\right]$$

于是 $c_1=2$，$c_2=3$，$[\mathbf{x}{]}_{\mathcal{B}}=\left[\begin{array}{c}2\\ 3\end{array}\right]$。由 $B$ 在 $H$ 上建立的坐标系如下图所示。

图 4-27：${\mathbb{R}}^3$ 中平面 $H$ 上的坐标系

如果给 $H$ 另选一组基，对应的坐标系是否同样使 $H$ 同构于 ${\mathbb{R}}^2$？答案当然是肯定的——下一节会证明。

4.4 节练习题（PRACTICE PROBLEMS）

练习 1：设 ${\mathbf{b}}_1=\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right]$，${\mathbf{b}}_2=\left[\begin{array}{c}-3\\ 4\\ 0\end{array}\right]$，${\mathbf{b}}_3=\left[\begin{array}{c}3\\ -6\\ 3\end{array}\right]$，$\mathbf{x}=\left[\begin{array}{c}-8\\ 2\\ 3\end{array}\right]$。 (a) 证明 $B=\{{\mathbf{b}}_1,{\mathbf{b}}_2,{\mathbf{b}}_3\}$ 是 ${\mathbb{R}}^3$ 的基； (b) 求从 $B$ 到标准基的坐标变换矩阵； (c) 写出联系 $\mathbf{x}$ 与 $[\mathbf{x}{]}_{\mathcal{B}}$ 的方程； (d) 求所给 $\mathbf{x}$ 的 $[\mathbf{x}{]}_{\mathcal{B}}$。

解： (a) 矩阵 $P_{\mathcal{B}}=\left[\begin{array}{ccc}{\mathbf{b}}_1& {\mathbf{b}}_2& {\mathbf{b}}_3\end{array}\right]$ 显然行等价于单位矩阵。由可逆矩阵定理，$P_{\mathcal{B}}$ 可逆，其列构成 ${\mathbb{R}}^3$ 的基。 (b) 坐标变换矩阵就是 $P_{\mathcal{B}}=\left[\begin{array}{ccc}1& -3& 3\\ 0& 4& -6\\ 0& 0& 3\end{array}\right]$。 (c) $\mathbf{x}=P_{\mathcal{B}}[\mathbf{x}{]}_{\mathcal{B}}$。 (d) 解 (c) 中的方程，行约化增广矩阵比算 $P_{\mathcal{B}}^{-1}$ 更省事：

$$\left[\begin{array}{cccc}1& -3& 3& -8\\ 0& 4& -6& 2\\ 0& 0& 3& 3\end{array}\right]\sim \left[\begin{array}{cccc}1& 0& 0& -5\\ 0& 1& 0& 2\\ 0& 0& 1& 1\end{array}\right]$$

所以 $[\mathbf{x}{]}_{\mathcal{B}}=\left[\begin{array}{c}-5\\ 2\\ 1\end{array}\right]$。

练习 2：集合 $\mathcal{B}=\{1+t,1+t^2,t+t^2\}$ 是 ${\mathbb{P}}_2$ 的基。求 $\mathbf{p}(t)=6+3t-t^2$ 相对于 $\mathcal{B}$ 的坐标向量。

解：坐标 $c_1,c_2,c_3$ 满足

$$c_1(1+t)+c_2(1+t^2)+c_3(t+t^2)=6+3t-t^2$$

比较 $t$ 的同次幂系数：

$$c_1+c_2=6,c_1+c_3=3,c_2+c_3=-1$$

解得 $c_1=5$，$c_2=1$，$c_3=-2$，故 $[\mathbf{p}{]}_{\mathcal{B}}=\left[\begin{array}{c}5\\ 1\\ -2\end{array}\right]$。

通关标准

能做到五件事：① 已知基和 $[\mathbf{x}{]}_{\mathcal{B}}$ 反求 $\mathbf{x}$，或已知基和 $\mathbf{x}$ 求 $[\mathbf{x}{]}_{\mathcal{B}}$；② 写出坐标变换矩阵 $P_{\mathcal{B}}$ 并使用 $\mathbf{x}=P_{\mathcal{B}}[\mathbf{x}{]}_{\mathcal{B}}$；③ 用坐标映射把 ${\mathbb{P}}_n$ 的线性无关/张成问题化归为 ${\mathbb{R}}^{n+1}$ 的行约化问题；④ 说出同构的定义；⑤ 解释为什么任何 $n$ 维向量空间都”像” ${\mathbb{R}}^n$。

4.4 节的习题（共 38 题，包括求坐标向量、用逆矩阵求坐标、用坐标向量检验多项式组的线性无关性，以及钛合金六角密堆积晶格的坐标计算——其晶胞与八面体/四面体位如下两图所示）见原书。

图 4-28：钛的六角密堆积点阵与晶胞（习题 37、38）

图 4-29：晶胞中的八面体位与四面体位

4.5 向量空间的维数

4.4 节定理 8 表明：基含 $n$ 个向量的向量空间 $V$ 同构于 ${\mathbb{R}}^n$。本节要证明：这个数 $n$ 是空间 $V$ 的内在属性，与具体选哪组基无关——它就是 $V$ 的维数。对维数的讨论还会加深我们对基的理解。

第一条定理推广了 ${\mathbb{R}}^n$ 的一个著名结论。

定理 9

若向量空间 $V$ 有一组基 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$，则 $V$ 中任何含有多于 $n$ 个向量的集合必线性相关。

证明：设 $\{{\mathbf{u}}_1,\dots ,{\mathbf{u}}_p\}$ 是 $V$ 中多于 $n$ 个向量的集合。坐标向量 $[{\mathbf{u}}_1{]}_{\mathcal{B}},\dots ,[{\mathbf{u}}_p{]}_{\mathcal{B}}$ 在 ${\mathbb{R}}^n$ 中线性相关，因为向量个数 $p$ 超过了每个向量的分量个数 $n$。于是存在不全为零的标量 $c_1,\dots ,c_p$ 使

$$c_1[{\mathbf{u}}_1{]}_{\mathcal{B}}+\cdots +c_p[{\mathbf{u}}_p{]}_{\mathcal{B}}=\left[\begin{array}{c}0\\ ⋮\\ 0\end{array}\right]({\mathbb{R}}^n\text{ 中的零向量})$$

由于坐标映射是线性变换，

$$[c_1{\mathbf{u}}_1+\cdots +c_p{\mathbf{u}}_p{]}_{\mathcal{B}}=\left[\begin{array}{c}0\\ ⋮\\ 0\end{array}\right]$$

右边的零向量给出了用基向量搭出 $c_1{\mathbf{u}}_1+\cdots +c_p{\mathbf{u}}_p$ 所需的 $n$ 个权重——全都是 0，即 $c_1{\mathbf{u}}_1+\cdots +c_p{\mathbf{u}}_p=0$。而 $c_i$ 不全为零，所以 $\{{\mathbf{u}}_1,\dots ,{\mathbf{u}}_p\}$ 线性相关。$■$

定理 9 说明：若 $V$ 有基 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$，则 $V$ 中每个线性无关集至多含 $n$ 个向量。

定理 10

若向量空间 $V$ 有一组含 $n$ 个向量的基，则 $V$ 的每组基都恰好含 $n$ 个向量。

证明：设 $B_1$ 是含 $n$ 个向量的基，$B_2$ 是 $V$ 的任一组其他基。因为 $B_1$ 是基而 $B_2$ 线性无关，由定理 9 知 $B_2$ 至多 $n$ 个向量；又因为 $B_2$ 是基而 $B_1$ 线性无关，$B_2$ 至少 $n$ 个向量。故 $B_2$ 恰有 $n$ 个向量。$■$

图 4-30：同一空间的任何两组基所含向量个数相同

定义：维数

若非零向量空间 $V$ 能被某个有限集合张成，则由张成集定理，该集合的某个子集是 $V$ 的基；此时称 $V$ 是有限维的，并把 $V$ 的维数（记作 $\dim V$）定义为 $V$ 的基所含向量的个数。零向量空间 $\{0\}$ 的维数规定为 0。若 $V$ 不能被任何有限集合张成，则称 $V$ 是无限维的。

例 1：${\mathbb{R}}^n$ 的标准基含 $n$ 个向量，所以 $\dim {\mathbb{R}}^n=n$。标准多项式基 $\{1,t,t^2\}$ 表明 $\dim {\mathbb{P}}_2=3$；一般地 $\dim {\mathbb{P}}_n=n+1$。全体多项式构成的空间 $\mathbb{P}$ 是无限维的（见原书习题 27）。

例 2：设 $H=\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$，其中 ${\mathbf{v}}_1=\left[\begin{array}{c}3\\ 6\\ 2\end{array}\right]$，${\mathbf{v}}_2=\left[\begin{array}{c}-1\\ 0\\ 1\end{array}\right]$（这就是 4.4 节例 7 研究过的平面）。${\mathbf{v}}_1,{\mathbf{v}}_2$ 互不成倍数因而线性无关，故 $\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$ 是 $H$ 的基，$\dim H=2$。

例 3：求子空间

$$H=\left\{\left[\begin{array}{c}a-3b+6c\\ 5a+4d\\ b-2c-d\\ 5d\end{array}\right]:a,b,c,d\in \mathbb{R}\right\}$$

的维数。

解：容易看出 $H$ 是下列向量的全体线性组合：

$${\mathbf{v}}_1=\left[\begin{array}{c}1\\ 5\\ 0\\ 0\end{array}\right],{\mathbf{v}}_2=\left[\begin{array}{c}-3\\ 0\\ 1\\ 0\end{array}\right],{\mathbf{v}}_3=\left[\begin{array}{c}6\\ 0\\ -2\\ 0\end{array}\right],{\mathbf{v}}_4=\left[\begin{array}{c}0\\ 4\\ -1\\ 5\end{array}\right]$$

显然 ${\mathbf{v}}_1\ne 0$；${\mathbf{v}}_2$ 不是 ${\mathbf{v}}_1$ 的倍数；但 ${\mathbf{v}}_3$ 是 ${\mathbf{v}}_2$ 的倍数。由张成集定理可删去 ${\mathbf{v}}_3$，剩下的仍张成 $H$。最后，${\mathbf{v}}_4$ 不是 ${\mathbf{v}}_1,{\mathbf{v}}_2$ 的线性组合，所以 $\{{\mathbf{v}}_1,{\mathbf{v}}_2,{\mathbf{v}}_4\}$ 线性无关（4.3 节定理 4），是 $H$ 的基。故 $\dim H=3$。

例 4：${\mathbb{R}}^3$ 的子空间可按维数分类（下图）：

• 0 维子空间：只有零子空间；
• 1 维子空间：由单个非零向量张成——过原点的直线；
• 2 维子空间：由两个线性无关向量张成——过原点的平面；
• 3 维子空间：只有 ${\mathbb{R}}^3$ 本身（${\mathbb{R}}^3$ 中任意三个线性无关的向量张成整个 ${\mathbb{R}}^3$，由可逆矩阵定理）。

图 4-31：${\mathbb{R}}^3$ 中的一维子空间：过原点的直线

图 4-32：${\mathbb{R}}^3$ 中的二维子空间：过原点的平面

图 4-33：${\mathbb{R}}^3$ 子空间一览（点、直线、平面、全空间）

4.5.1 有限维空间的子空间

下一条定理是张成集定理的天然对偶。

定理 11

设 $H$ 是有限维向量空间 $V$ 的子空间。$H$ 中任何线性无关集都可以（必要时）扩充成 $H$ 的一组基；且 $H$ 是有限维的，并满足

$$\dim H\le \dim V$$

证明：若 $H=\{0\}$，显然 $\dim H=0\le \dim V$。否则设 $S=\{{\mathbf{u}}_1,\dots ,{\mathbf{u}}_k\}$ 是 $H$ 中任一线性无关集。若 $S$ 张成 $H$，$S$ 已是基；否则 $H$ 中存在 ${\mathbf{u}}_{k+1}\notin \mathrm{Span}S$，而 $\{{\mathbf{u}}_1,\dots ,{\mathbf{u}}_k,{\mathbf{u}}_{k+1}\}$ 仍线性无关（因为集合中没有任何向量是它前面向量的线性组合，由定理 4）。只要新集合还不张成 $H$ 就继续扩充。由定理 9，线性无关集的规模不能超过 $\dim V$，所以扩充终将停止——得到张成 $H$ 的基，且 $\dim H\le \dim V$。$■$

当空间或子空间的维数已知时，找基会大大简化，这要靠下一条定理。它说：只要一个集合的元素个数”对了”，就只需验证线性无关或张成二者之一。这一定理在大量应用问题（如微分方程、差分方程）中至关重要，因为那些场合验证线性无关远比验证张成容易。

定理 12：基定理（The Basis Theorem）

设 $V$ 是 $p$ 维向量空间（$p\ge 1$）。则： $V$ 中任何恰好含 $p$ 个元素的线性无关集自动是 $V$ 的基；任何恰好含 $p$ 个元素且张成 $V$ 的集合自动是 $V$ 的基。

证明：由定理 11，$p$ 个元素的线性无关集 $S$ 可扩充为 $V$ 的基；但该基必恰含 $p$ 个元素（因 $\dim V=p$），所以 $S$ 本身已是基。再设 $S$ 含 $p$ 个元素且张成 $V$：由张成集定理，$S$ 的某个子集 $S^{\prime }$ 是 $V$ 的基；由于 $\dim V=p$，$S^{\prime }$ 必含 $p$ 个向量，故 $S^{\prime }=S$。$■$

4.5.2 Nul A 与 Col A 的维数

由于 $A$ 的主元列构成 $\mathrm{Col}A$ 的基，确定了主元列就知道 $\mathrm{Col}A$ 的维数。$\mathrm{Nul}A$ 的维数似乎要费些功夫——但有一条捷径！

设 $A$ 是 $m\times n$ 矩阵，$A\mathbf{x}=0$ 有 $k$ 个自由变量。由 4.2 节，求 $\mathrm{Nul}A$ 张成集的标准方法恰好产生 $k$ 个线性无关的向量 ${\mathbf{u}}_1,\dots ,{\mathbf{u}}_k$（每个自由变量对应一个），所以 $\{{\mathbf{u}}_1,\dots ,{\mathbf{u}}_k\}$ 就是 $\mathrm{Nul}A$ 的基。总结：

Note

$\mathrm{Nul}A$ 的维数等于方程 $A\mathbf{x}=0$ 中自由变量的个数；$\mathrm{Col}A$ 的维数等于 $A$ 中主元列的个数。

例 5：求下列矩阵零空间与列空间的维数：

$$A=\left[\begin{array}{ccccc}-3& 6& -1& 1& -7\\ 1& -2& 2& 3& -1\\ 2& -4& 5& 8& -4\end{array}\right]$$

解：把增广矩阵 $\left[\begin{array}{cc}A& 0\end{array}\right]$ 行约化为阶梯形：

$$\left[\begin{array}{cccccc}1& -2& 2& 3& -1& 0\\ 0& 0& 1& 2& -2& 0\\ 0& 0& 0& 0& 0& 0\end{array}\right]$$

有 3 个自由变量 $x_2,x_4,x_5$，故 $\dim \mathrm{Nul}A=3$；$A$ 有两个主元列，故 $\dim \mathrm{Col}A=2$。

4.5 节练习题（PRACTICE PROBLEMS）

练习 1：判断下列命题的真假并说明理由（$V$ 是非零有限维向量空间）。 (a) 若 $\dim V=p$ 且 $S$ 是 $V$ 的线性相关子集，则 $S$ 含多于 $p$ 个向量。 (b) 若 $S$ 张成 $V$，且 $T$ 是 $V$ 中比 $S$ 含更多向量的子集，则 $T$ 线性相关。

解： (a) 假。反例：$S=\{0\}$ 线性相关，但它只含 1 个向量，不必多于 $p$ 个。 (b) 真。由张成集定理，$S$ 含有 $V$ 的一组基，记为 $S^{\prime }$；则 $T$ 含的向量比基 $S^{\prime }$ 多。由定理 9，$T$ 线性相关。

练习 2：设 $H,K$ 是向量空间 $V$ 的子空间（4.1 节习题 32 已证 $H\cap K$ 也是 $V$ 的子空间）。证明 $\dim (H\cap K)\le \dim H$。

解：设 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 是 $H\cap K$ 的一组基。注意它是 $H$ 中的线性无关集，由定理 11 可（必要时）扩充成 $H$ 的基。由于子空间的维数就是基所含向量个数，故 $\dim (H\cap K)=p\le \dim H$。

通关标准

能做到四件事：① 熟练说出并使用维数的核心事实：基的大小唯一、$\dim H\le \dim V$、基定理（个数对了只需验证一件事）；② 给参数化子空间求基与维数（例 3 的套路）；③ 直接读出行约化结果里的 $\dim \mathrm{Col}A$（主元列数）与 $\dim \mathrm{Nul}A$（自由变量数）；④ 会用维数反推：$n$ 维空间中 $n$ 个线性无关向量必是基。

4.5 节的习题（共 34 题，包括求子空间的基与维数、Hermite 多项式与 Laguerre 多项式构成 ${\mathbb{P}}_3$ 的基等）见原书。

4.6 秩

借助向量空间的概念，本节深入矩阵内部，揭示隐藏在矩阵行与列之间的若干有趣而有用的关系。

例如，往一个 $40\times 50$ 矩阵 $A$ 里填 2000 个随机数，然后分别求 $A$ 中线性无关列的最大数目、$A^T$ 中线性无关列（即 $A$ 的行）的最大数目。令人惊讶的是：这两个数相等。这个公共值就是矩阵的秩。要解释为什么，得先研究由 $A$ 的行张成的子空间。

4.6.1 行空间

若 $A$ 是 $m\times n$ 矩阵，$A$ 的每行有 $n$ 个分量，可以看作 ${\mathbb{R}}^n$ 中的向量。行向量的全体线性组合之集称为 $A$ 的行空间（row space），记作 $\mathrm{Row}A$。每行有 $n$ 个分量，故 $\mathrm{Row}A$ 是 ${\mathbb{R}}^n$ 的子空间。由于 $A$ 的行可以等同于 $A^T$ 的列，也可把 $\mathrm{Row}A$ 写成 $\mathrm{Col}{A}^T$。

例 1：设

$$A=\left[\begin{array}{ccccc}-2& -5& 8& 0& -17\\ 1& 3& -5& 1& 5\\ 3& 11& -19& 7& 1\\ 1& 7& -13& 5& -3\end{array}\right],\begin{array}{rl}{\mathbf{r}}_1& =(-2,-5,8,0,-17)\\ {\mathbf{r}}_2& =(1,3,-5,1,5)\\ {\mathbf{r}}_3& =(3,11,-19,7,1)\\ {\mathbf{r}}_4& =(1,7,-13,5,-3)\end{array}$$

$A$ 的行空间是由 $\{{\mathbf{r}}_1,{\mathbf{r}}_2,{\mathbf{r}}_3,{\mathbf{r}}_4\}$ 张成的 ${\mathbb{R}}^5$ 的子空间，即 $\mathrm{Row}A=\mathrm{Span}\{{\mathbf{r}}_1,{\mathbf{r}}_2,{\mathbf{r}}_3,{\mathbf{r}}_4\}$。行向量习惯上横着写，但需要时也可以竖着写成列向量。

如果我们知道 $A$ 各行之间的线性相关关系，就能用张成集定理把张成集缩成基。可惜对 $A$ 做行变换并不能提供这些信息——行变换会改变行之间的相关关系。但行约化 $A$ 确实大有用处：

定理 13

若两个矩阵 $A$ 与 $B$ 行等价，则它们的行空间相同。若 $B$ 是阶梯形，则 $B$ 的非零行构成 $A$（以及 $B$）的行空间的基。

证明：$B$ 由 $A$ 经行变换得到，故 $B$ 的行都是 $A$ 的行的线性组合，从而 $B$ 的行的任何线性组合也自动是 $A$ 的行的线性组合——即 $\mathrm{Row}B\subseteq \mathrm{Row}A$。由于行变换可逆，同样的论证给出 $\mathrm{Row}A\subseteq \mathrm{Row}B$。两个行空间相同。若 $B$ 是阶梯形，它的非零行线性无关（任何非零行都不是它下方非零行的线性组合；把定理 4 用于倒序排列的非零行即可），故它们构成这个公共行空间的基。$■$

本节的主结果涉及三个空间：$\mathrm{Row}A$、$\mathrm{Col}A$、$\mathrm{Nul}A$。下面的例子为它做铺垫，并展示一次行约化如何同时给出三个空间的基。

例 2：求下列矩阵行空间、列空间、零空间的基：

$$A=\left[\begin{array}{ccccc}-2& -5& 8& 0& -17\\ 1& 3& -5& 1& 5\\ 3& 11& -19& 7& 1\\ 1& 7& -13& 5& -3\end{array}\right]$$

解：先约成阶梯形以求行空间与列空间的基：

$$A\sim B=\left[\begin{array}{ccccc}1& 3& -5& 1& 5\\ 0& 1& -2& 2& -7\\ 0& 0& 0& -4& 20\\ 0& 0& 0& 0& 0\end{array}\right]$$

由定理 13，$B$ 的前三行构成 $\mathrm{Row}A$ 的基：

$$\mathrm{Row}A\text{ 的基：}\{(1,3,-5,1,5),(0,1,-2,2,-7),(0,0,0,-4,20)\}$$

对列空间：由 $B$ 看出主元在第 1、2、4 列，所以 $A$（不是 $B$！）的第 1、2、4 列构成 $\mathrm{Col}A$ 的基：

$$\mathrm{Col}A\text{ 的基：}\left\{\left[\begin{array}{c}-2\\ 1\\ 3\\ 1\end{array}\right],\left[\begin{array}{c}-5\\ 3\\ 11\\ 7\end{array}\right],\left[\begin{array}{c}0\\ 1\\ 7\\ 5\end{array}\right]\right\}$$

注意：$A$ 的任何阶梯形都能（用非零行）给出 $\mathrm{Row}A$ 的基、并定位 $A$ 的主元列；但求 $\mathrm{Nul}A$ 的基需要简化阶梯形。对 $B$ 继续行变换：

$$A\sim B\sim C=\left[\begin{array}{ccccc}1& 0& 1& 0& 1\\ 0& 1& -2& 0& 3\\ 0& 0& 0& 1& -5\\ 0& 0& 0& 0& 0\end{array}\right]$$

$A\mathbf{x}=0$ 等价于 $C\mathbf{x}=0$，即

$$\begin{array}{rl}{x}_1+x_3+x_5& =0\\ x_2-2x_3+3x_5& =0\\ x_4-5x_5& =0\end{array}$$

所以 $x_1=-x_3-x_5$，$x_2=2x_3-3x_5$，$x_4=5x_5$，$x_3,x_5$ 为自由变量。按 4.2 节的常规计算得

$$\mathrm{Nul}A\text{ 的基：}\left\{\left[\begin{array}{c}-1\\ 2\\ 1\\ 0\\ 0\end{array}\right],\left[\begin{array}{c}-1\\ -3\\ 0\\ 5\\ 1\end{array}\right]\right\}$$

与 $\mathrm{Col}A$ 的基不同，$\mathrm{Row}A$ 与 $\mathrm{Nul}A$ 的基跟 $A$ 本身的元素没有这样简单的直接联系。

常见坑

例 2 中 $B$ 的前三行线性无关，但不能据此断言 $A$ 的前三行线性无关！（事实上 $A$ 的第 3 行 $=2\times$ 第 1 行 $+7\times$ 第 2 行。）行变换会改变矩阵行之间的线性相关关系。

4.6.2 秩定理

定义：秩

$A$ 的秩（rank）是 $A$ 的列空间的维数。

由于 $\mathrm{Row}A=\mathrm{Col}{A}^T$，$A$ 的行空间的维数就是 $A^T$ 的秩。零空间的维数有时称为 $A$ 的零度（nullity），本书不使用这个术语。

定理 14：秩定理（The Rank Theorem）

$m\times n$ 矩阵 $A$ 的列空间与行空间维数相等。这个公共维数就是 $A$ 的秩，等于 $A$ 的主元位置的个数，并满足

$$\mathrm{rank}A+\dim \mathrm{Nul}A=n$$

证明：由 4.3 节定理 6，$\mathrm{rank}A$ 等于 $A$ 的主元列数，即 $A$ 的阶梯形 $B$ 中主元位置的个数。又 $B$ 的每个主元对应一个非零行，而这些非零行构成 $\mathrm{Row}A$ 的基，所以 $A$ 的秩也等于行空间的维数。由 4.5 节，$\dim \mathrm{Nul}A$ 等于 $A\mathbf{x}=0$ 中自由变量的个数，也就是 $A$ 的非主元列的个数。显然

$$\{\text{主元列数}\}+\{\text{非主元列数}\}=\{\text{列数}\}$$

定理得证。$■$

定理 14 背后的思想在例 2 的计算里清晰可见：阶梯形 $B$ 的 3 个主元位置确定了主变量，同时给出了 $\mathrm{Col}A$ 和 $\mathrm{Row}A$ 的基向量。

例 3： (a) 若 $A$ 是 $7\times 9$ 矩阵，零空间为 2 维，$A$ 的秩是多少？ (b) $6\times 9$ 矩阵可能有 2 维零空间吗？

解： (a) $A$ 有 9 列，$(\mathrm{rank}A)+2=9$，故 $\mathrm{rank}A=7$。 (b) 不能。设 $6\times 9$ 矩阵 $B$ 有 2 维零空间，则由秩定理它必须秩为 7；但 $B$ 的列是 ${\mathbb{R}}^6$ 中的向量，$\mathrm{Col}B$ 的维数不能超过 6，即 $\mathrm{rank}B\le 6$，矛盾。

下面的例子提供了一个可视化这些子空间的好方法。第 6 章将证明：$\mathrm{Row}A$ 与 $\mathrm{Nul}A$ 仅共享零向量，且二者相互”垂直”；$\mathrm{Row}{A}^T(=\mathrm{Col}A)$ 与 $\mathrm{Nul}{A}^T$ 亦然。因此下图对一般情形建立了很好的心智图象。

例 4：设 $A=\left[\begin{array}{ccc}3& 0& -1\\ 3& 0& -1\\ 4& 0& 5\end{array}\right]$。容易验证：$\mathrm{Nul}A$ 是 $x_2$ 轴，$\mathrm{Row}A$ 是 $x_1{x}_3$ 平面，$\mathrm{Col}A$ 是方程为 $x_1-x_2=0$ 的平面，$\mathrm{Nul}{A}^T$ 是 $(1,-1,0)$ 的全部倍数之集。下图在 $\mathbf{x}\mapsto A\mathbf{x}$ 的定义域中画出了 $\mathrm{Nul}A$ 与 $\mathrm{Row}A$；这个映射的值域 $\mathrm{Col}A$ 与 $\mathrm{Nul}{A}^T$ 画在另一份 ${\mathbb{R}}^3$ 中。

图 4-34：由矩阵 $A$ 确定的各个子空间

4.6.3 在方程组中的应用

秩定理是处理线性方程组信息的利器。下一例模拟了真实问题被提出的方式——不出现”矩阵""子空间""维数”这类字眼。

例 5：一位科学家在 40 个方程、42 个未知数的齐次方程组中找到了两个解。这两个解不成倍数，且其他所有解都能由这两个解的适当倍数相加构造出来。这位科学家能确定：具有相同系数的非齐次方程组必有解吗？

解：能。设 $A$ 是 $40\times 42$ 系数矩阵。题设说明那两个解线性无关且张成 $\mathrm{Nul}A$，所以 $\dim \mathrm{Nul}A=2$。由秩定理，$\dim \mathrm{Col}A=42-2=40$。而 ${\mathbb{R}}^{40}$ 是 ${\mathbb{R}}^{40}$ 中唯一的 40 维子空间，故 $\mathrm{Col}A={\mathbb{R}}^{40}$。这意味着每个非齐次方程 $A\mathbf{x}=\mathbf{b}$ 都有解。

4.6.4 秩与可逆矩阵定理

与矩阵相关的各向量空间概念，为可逆矩阵定理补充了更多等价命题（接在 2.3 节原定理之后）：

可逆矩阵定理（续）

设 $A$ 是 $n\times n$ 矩阵。下列命题都与”$A$ 可逆”等价： m. $A$ 的列构成 ${\mathbb{R}}^n$ 的基； n. $\mathrm{Col}A={\mathbb{R}}^n$； o. $\dim \mathrm{Col}A=n$； p. $\mathrm{rank}A=n$； q. $\mathrm{Nul}A=\{0\}$； r. $\dim \mathrm{Nul}A=0$。

证明：(m) 逻辑上等价于原定理中关于线性无关与张成的 (e)、(h)。其余五条通过一条几乎显然的推理链与之前的命题相连：

$$\text{(g)}\Rightarrow \text{(n)}\Rightarrow \text{(o)}\Rightarrow \text{(p)}\Rightarrow \text{(r)}\Rightarrow \text{(q)}\Rightarrow \text{(d)}$$

(g) 说 $A\mathbf{x}=\mathbf{b}$ 对每个 $\mathbf{b}\in {\mathbb{R}}^n$ 有解，而 $\mathrm{Col}A$ 恰是使 $A\mathbf{x}=\mathbf{b}$ 相容的那些 $\mathbf{b}$ 的集合，故 (g)⟹(n)。(n)⟹(o)⟹(p) 由维数与秩的定义。若 $\mathrm{rank}A=n$（$A$ 的列数），由秩定理 $\dim \mathrm{Nul}A=0$，故 $\mathrm{Nul}A=\{0\}$，即 (p)⟹(r)⟹(q)。(q) 意味着 $A\mathbf{x}=0$ 只有平凡解，即 (d)。而 (d) 与 (g) 已知等价于”$A$ 可逆”。$■$

我们没有把 $A$ 的行空间相关的”显然命题”加进定理，因为行空间就是 $A^T$ 的列空间。回忆原定理 (l)：$A$ 可逆当且仅当 $A^T$ 可逆，所以可逆矩阵定理的每条都可用 $A^T$ 重述一遍——那会让定理翻倍、超过 30 条！

数值注记：计算机上的秩

“约成阶梯形数主元”看似简单，但除非对精确给定的元素做精确运算，行变换可能改变矩阵的”表观秩”。例如矩阵 $\left[\begin{array}{cc}5& 7\\ 5& x\end{array}\right]$，若 $x$ 未被精确存为 7，则计算机对 $x-7$ 是否为零的处理会让秩显示为 1 或 2。实际应用中，矩阵的有效秩通常由奇异值分解（7.4 节）确定；奇异值分解还能可靠地给出 $\mathrm{Col}A$、$\mathrm{Row}A$、$\mathrm{Nul}A$、$\mathrm{Nul}{A}^T$ 的基。

4.6 节练习题（PRACTICE PROBLEMS）

下列两矩阵行等价：

$$A=\left[\begin{array}{ccccc}2& -1& 1& -6& 8\\ 1& -2& -4& 3& -2\\ -7& 8& 10& 3& -10\\ 4& -5& -7& 0& 4\end{array}\right],B=\left[\begin{array}{ccccc}1& -2& -4& 3& -2\\ 0& 3& 9& -12& 12\\ 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0\end{array}\right]$$

练习 1：求 $\mathrm{rank}A$ 与 $\dim \mathrm{Nul}A$。

解：$A$ 有两个主元列，故 $\mathrm{rank}A=2$；$A$ 共 5 列，故 $\dim \mathrm{Nul}A=5-2=3$。

练习 2：求 $\mathrm{Col}A$ 与 $\mathrm{Row}A$ 的基。

解：$A$ 的主元列是前两列，故 $\mathrm{Col}A$ 的基为

$$\{{\mathbf{a}}_1,{\mathbf{a}}_2\}=\left\{\left[\begin{array}{c}2\\ 1\\ -7\\ 4\end{array}\right],\left[\begin{array}{c}-1\\ -2\\ 8\\ -5\end{array}\right]\right\}$$

$B$ 的非零行构成 $\mathrm{Row}A$ 的基：$\{(1,-2,-4,3,-2),(0,3,9,-12,12)\}$。（碰巧本题中 $A$ 的任何两行也能当基——行空间是 2 维且各行互不成倍数；但一般情形必须用阶梯形的非零行，不能用 $A$ 自己的行。）

练习 3：求 $\mathrm{Nul}A$ 的基，下一步该做什么？

解：对 $B$ 继续行变换，把 $A$ 化为简化阶梯形，然后按 4.2 节的方法用自由变量写出解向量。

练习 4：$A^T$ 的行阶梯形有多少个主元列？

解：由秩定理，$\mathrm{rank}{A}^T=\mathrm{rank}A$（因为 $\mathrm{Col}{A}^T=\mathrm{Row}A$），所以 $A^T$ 有 2 个主元位置。

通关标准

能做到四件事：① 一次行约化同时写出 $\mathrm{Row}A$（阶梯形非零行）、$\mathrm{Col}A$（$A$ 的主元列）、$\mathrm{Nul}A$（简化阶梯形 + 自由变量）的基；② 熟用秩定理 $\mathrm{rank}A+\dim \mathrm{Nul}A=n$ 做推理（例 3、例 5 的套路）；③ 说出 $\mathrm{Row}A=\mathrm{Col}{A}^T$ 以及 $\dim \mathrm{Row}A=\dim \mathrm{Col}A$；④ 记住可逆矩阵定理新增的 (m)–(r) 六条等价命题。

4.6 节的习题（共 38 题，包括”由行等价矩阵直接读秩”、基本子空间 $\mathrm{Row}A,\mathrm{Col}A,\mathrm{Nul}A,\mathrm{Nul}{A}^T$ 的归属、秩 1 矩阵与外积 $A=\mathbf{u}{\mathbf{v}}^T$ 等）见原书。

4.7 基变换

选好 $n$ 维向量空间 $V$ 的基 $\mathcal{B}$，相应的坐标映射 $\mathbf{x}\mapsto [\mathbf{x}{]}_{\mathcal{B}}$ 就为 $V$ 建立了坐标系，$V$ 中每个 $\mathbf{x}$ 由它的坐标向量 $[\mathbf{x}{]}_{\mathcal{B}}$ 唯一标识。

有些应用问题最初用基 $\mathcal{B}$ 描述，但改用新基 $\mathcal{C}$ 更利于求解（第 5、7 章有实例）。此时每个向量要改用新的 $\mathcal{C}$-坐标向量。本节研究：对每个 $\mathbf{x}\in V$，$[\mathbf{x}{]}_{\mathcal{C}}$ 与 $[\mathbf{x}{]}_{\mathcal{B}}$ 有何关系。

为直观起见，考虑下图中的两个坐标系。图 (a) 中 $\mathbf{x}=3{\mathbf{b}}_1+{\mathbf{b}}_2$；图 (b) 中同一个 $\mathbf{x}$ 表示为 $\mathbf{x}=6{\mathbf{c}}_1+4{\mathbf{c}}_2$，即

$$[\mathbf{x}{]}_{\mathcal{B}}=\left[\begin{array}{c}3\\ 1\end{array}\right],[\mathbf{x}{]}_{\mathcal{C}}=\left[\begin{array}{c}6\\ 4\end{array}\right]$$

问题就是：求这两个坐标向量之间的联系。

图 4-35：同一向量空间的两套坐标系（$\mathcal{B}$ 系中的 $\mathbf{x}$）

图 4-36：同一向量空间的两套坐标系（$\mathcal{C}$ 系中的同一个 $\mathbf{x}$）

例 1：设 $B=\{{\mathbf{b}}_1,{\mathbf{b}}_2\}$ 与 $\mathcal{C}=\{{\mathbf{c}}_1,{\mathbf{c}}_2\}$ 是向量空间 $V$ 的两组基，且

$${\mathbf{b}}_1=4{\mathbf{c}}_1+{\mathbf{c}}_2,{\mathbf{b}}_2=-6{\mathbf{c}}_1+{\mathbf{c}}_2$$

又设 $\mathbf{x}=3{\mathbf{b}}_1+{\mathbf{b}}_2$，即 $[\mathbf{x}{]}_{\mathcal{B}}=\left[\begin{array}{c}3\\ 1\end{array}\right]$。求 $[\mathbf{x}{]}_{\mathcal{C}}$。

解：对 $\mathbf{x}$ 施加由 $\mathcal{C}$ 确定的坐标映射。由于坐标映射是线性变换：

$$[\mathbf{x}{]}_{\mathcal{C}}=[3{\mathbf{b}}_1+{\mathbf{b}}_2{]}_{\mathcal{C}}=3[{\mathbf{b}}_1{]}_{\mathcal{C}}+[{\mathbf{b}}_2{]}_{\mathcal{C}}$$

把向量方程写成矩阵方程（线性组合的向量作为矩阵的列）：

$$[\mathbf{x}{]}_{\mathcal{C}}=\left[\begin{array}{cc}[{\mathbf{b}}_1{]}_{\mathcal{C}}& [{\mathbf{b}}_2{]}_{\mathcal{C}}\end{array}\right]\left[\begin{array}{c}3\\ 1\end{array}\right]$$

由 (1) 知 $[{\mathbf{b}}_1{]}_{\mathcal{C}}=\left[\begin{array}{c}4\\ 1\end{array}\right]$，$[{\mathbf{b}}_2{]}_{\mathcal{C}}=\left[\begin{array}{c}-6\\ 1\end{array}\right]$，代入即得

$$[\mathbf{x}{]}_{\mathcal{C}}=\left[\begin{array}{cc}4& -6\\ 1& 1\end{array}\right]\left[\begin{array}{c}3\\ 1\end{array}\right]=\left[\begin{array}{c}6\\ 4\end{array}\right]$$

正是图中 $\mathbf{x}$ 的 $\mathcal{C}$-坐标。

把例 1 的论证一般化：

定理 15

设 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$ 与 $\mathcal{C}=\{{\mathbf{c}}_1,\dots ,{\mathbf{c}}_n\}$ 是向量空间 $V$ 的两组基。则存在唯一的 $n\times n$ 矩阵 $P_{\mathcal{C}\leftarrow \mathcal{B}}$ 使得

$$[\mathbf{x}{]}_{\mathcal{C}}=P_{\mathcal{C}\leftarrow \mathcal{B}}[\mathbf{x}{]}_{\mathcal{B}}\text{对每个 }\mathbf{x}\in V$$

$P_{\mathcal{C}\leftarrow \mathcal{B}}$ 的列是 $B$ 中各向量的 $\mathcal{C}$-坐标向量：

$$P_{\mathcal{C}\leftarrow \mathcal{B}}=\left[\begin{array}{cccc}[{\mathbf{b}}_1{]}_{\mathcal{C}}& [{\mathbf{b}}_2{]}_{\mathcal{C}}& \dots & [{\mathbf{b}}_n{]}_{\mathcal{C}}\end{array}\right]$$

矩阵 $P_{\mathcal{C}\leftarrow \mathcal{B}}$ 称为从 $B$ 到 $\mathcal{C}$ 的坐标变换矩阵：左乘它把 $B$-坐标变成 $\mathcal{C}$-坐标。下图画出了这个坐标变换方程。

图 4-37：$V$ 的两套坐标系之间的变换 $P_{\mathcal{C}\leftarrow \mathcal{B}}$

$P_{\mathcal{C}\leftarrow \mathcal{B}}$ 的列线性无关（它们是线性无关集 $B$ 的坐标向量，见 4.4 节习题 25）。由于 $P_{\mathcal{C}\leftarrow \mathcal{B}}$ 是方阵，由可逆矩阵定理它可逆。对 $[\mathbf{x}{]}_{\mathcal{C}}=P_{\mathcal{C}\leftarrow \mathcal{B}}[\mathbf{x}{]}_{\mathcal{B}}$ 两边左乘 $P_{\mathcal{C}\leftarrow \mathcal{B}}^{-1}$ 得

$$(P_{\mathcal{C}\leftarrow \mathcal{B}}{)}^{-1}[\mathbf{x}{]}_{\mathcal{C}}=[\mathbf{x}{]}_{\mathcal{B}}$$

即 $P_{\mathcal{C}\leftarrow \mathcal{B}}$ 的逆是把 $\mathcal{C}$-坐标变回 $B$-坐标的矩阵：

$$(P_{\mathcal{C}\leftarrow \mathcal{B}}{)}^{-1}=P_{\mathcal{B}\leftarrow \mathcal{C}}$$

4.7.1 ${\mathbb{R}}^n$ 中的基变换

若 $B=\{{\mathbf{b}}_1,\dots ,{\mathbf{b}}_n\}$ 而 $\mathcal{C}$ 是 ${\mathbb{R}}^n$ 的标准基 $\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n\}$，则 $[{\mathbf{b}}_1{]}_{\mathcal{E}}={\mathbf{b}}_1$，于是 $P_{\mathcal{E}\leftarrow \mathcal{B}}$ 就是 4.4 节的坐标变换矩阵

$$P_{\mathcal{B}}=\left[\begin{array}{cccc}{\mathbf{b}}_1& {\mathbf{b}}_2& \dots & {\mathbf{b}}_n\end{array}\right]$$

要在 ${\mathbb{R}}^n$ 的两个非标准基之间换坐标，就需要定理 15：必须求出旧基相对于新基的坐标向量。

例 2：设 ${\mathbf{b}}_1=\left[\begin{array}{c}-9\\ 1\end{array}\right]$，${\mathbf{b}}_2=\left[\begin{array}{c}-5\\ -1\end{array}\right]$，${\mathbf{c}}_1=\left[\begin{array}{c}1\\ -4\end{array}\right]$，${\mathbf{c}}_2=\left[\begin{array}{c}3\\ -5\end{array}\right]$，$B=\{{\mathbf{b}}_1,{\mathbf{b}}_2\}$ 与 $\mathcal{C}=\{{\mathbf{c}}_1,{\mathbf{c}}_2\}$ 是 ${\mathbb{R}}^2$ 的两组基。求从 $B$ 到 $\mathcal{C}$ 的坐标变换矩阵。

解：矩阵 $P_{\mathcal{C}\leftarrow \mathcal{B}}$ 需要 ${\mathbf{b}}_1,{\mathbf{b}}_2$ 的 $\mathcal{C}$-坐标向量。设 $[{\mathbf{b}}_1{]}_{\mathcal{C}}=\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]$，$[{\mathbf{b}}_2{]}_{\mathcal{C}}=\left[\begin{array}{c}{y}_1\\ y_2\end{array}\right]$。按定义：

$$\left[\begin{array}{cc}{\mathbf{c}}_1& {\mathbf{c}}_2\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]={\mathbf{b}}_1,\left[\begin{array}{cc}{\mathbf{c}}_1& {\mathbf{c}}_2\end{array}\right]\left[\begin{array}{c}{y}_1\\ y_2\end{array}\right]={\mathbf{b}}_2$$

为同时解两个方程组，把 ${\mathbf{b}}_1,{\mathbf{b}}_2$ 同时增广到系数矩阵上，行约化：

$$\left[\begin{array}{cccc}{\mathbf{c}}_1& {\mathbf{c}}_2& {\mathbf{b}}_1& {\mathbf{b}}_2\end{array}\right]=\left[\begin{array}{cccc}1& 3& -9& -5\\ -4& -5& 1& -1\end{array}\right]\sim \left[\begin{array}{cccc}1& 0& 6& 4\\ 0& 1& -5& -3\end{array}\right]$$

于是

$$[{\mathbf{b}}_1{]}_{\mathcal{C}}=\left[\begin{array}{c}6\\ -5\end{array}\right],[{\mathbf{b}}_2{]}_{\mathcal{C}}=\left[\begin{array}{c}4\\ -3\end{array}\right]$$

所以

$$P_{\mathcal{C}\leftarrow \mathcal{B}}=\left[\begin{array}{cc}[{\mathbf{b}}_1{]}_{\mathcal{C}}& [{\mathbf{b}}_2{]}_{\mathcal{C}}\end{array}\right]=\left[\begin{array}{cc}6& 4\\ -5& -3\end{array}\right]$$

注意：$P_{\mathcal{C}\leftarrow \mathcal{B}}$ 正是 (7) 行约化结果的右半块。这不是巧合——它的第一列就来自把 $\left[\begin{array}{cc}{\mathbf{c}}_1& {\mathbf{c}}_2|{\mathbf{b}}_1\end{array}\right]$ 约化成 $\left[\begin{array}{cc}I& |[{\mathbf{b}}_1{]}_{\mathcal{C}}\end{array}\right]$，第二列同理。一般地：

$$\left[\begin{array}{cccc}{\mathbf{c}}_1& {\mathbf{c}}_2& {\mathbf{b}}_1& {\mathbf{b}}_2\end{array}\right]\sim \left[\begin{array}{cc}I& P_{\mathcal{C}\leftarrow \mathcal{B}}\end{array}\right]$$

对 ${\mathbb{R}}^n$ 中任意两组基之间的坐标变换矩阵，都有类似算法。

例 3：设 ${\mathbf{b}}_1=\left[\begin{array}{c}1\\ -3\end{array}\right]$，${\mathbf{b}}_2=\left[\begin{array}{c}-2\\ 4\end{array}\right]$，${\mathbf{c}}_1=\left[\begin{array}{c}-7\\ 9\end{array}\right]$，${\mathbf{c}}_2=\left[\begin{array}{c}-5\\ 7\end{array}\right]$，$B=\{{\mathbf{b}}_1,{\mathbf{b}}_2\}$，$\mathcal{C}=\{{\mathbf{c}}_1,{\mathbf{c}}_2\}$ 是 ${\mathbb{R}}^2$ 的两组基。 (a) 求从 $\mathcal{C}$ 到 $B$ 的坐标变换矩阵；(b) 求从 $B$ 到 $\mathcal{C}$ 的坐标变换矩阵。

解： (a) 注意这里需要的是 $P_{\mathcal{B}\leftarrow \mathcal{C}}$（把 $\mathcal{C}$-坐标变成 $B$-坐标），计算

$$\left[\begin{array}{cccc}{\mathbf{b}}_1& {\mathbf{b}}_2& {\mathbf{c}}_1& {\mathbf{c}}_2\end{array}\right]=\left[\begin{array}{cccc}1& -2& -7& -5\\ -3& 4& 9& 7\end{array}\right]\sim \left[\begin{array}{cccc}1& 0& 5& 3\\ 0& 1& 6& 4\end{array}\right]$$

所以 $P_{\mathcal{B}\leftarrow \mathcal{C}}=\left[\begin{array}{cc}5& 3\\ 6& 4\end{array}\right]$。

(b) 由 (a) 与 (6) 式（$\mathcal{B}$ 与 $\mathcal{C}$ 互换）：

$$P_{\mathcal{C}\leftarrow \mathcal{B}}=(P_{\mathcal{B}\leftarrow \mathcal{C}}{)}^{-1}=\frac{1}{2}\left[\begin{array}{cc}4& -3\\ -6& 5\end{array}\right]=\left[\begin{array}{cc}2& -3/2\\ -3& 5/2\end{array}\right]$$

$P_{\mathcal{C}\leftarrow \mathcal{B}}$ 还有另一种描述，用 4.4 节那两个分别把 $B$-坐标、$\mathcal{C}$-坐标换成标准坐标的矩阵 $P_{\mathcal{B}}$、$P_{\mathcal{C}}$ 表出。回忆对每个 $\mathbf{x}\in {\mathbb{R}}^n$：

$$P_{\mathcal{B}}[\mathbf{x}{]}_{\mathcal{B}}=\mathbf{x},P_{\mathcal{C}}[\mathbf{x}{]}_{\mathcal{C}}=\mathbf{x},[\mathbf{x}{]}_{\mathcal{C}}=P_{\mathcal{C}}^{-1}\mathbf{x}$$

于是

$$[\mathbf{x}{]}_{\mathcal{C}}=P_{\mathcal{C}}^{-1}\mathbf{x}=P_{\mathcal{C}}^{-1}{P}_{\mathcal{B}}[\mathbf{x}{]}_{\mathcal{B}}$$

所以在 ${\mathbb{R}}^n$ 中，$P_{\mathcal{C}\leftarrow \mathcal{B}}$ 可由 $P_{\mathcal{C}}^{-1}{P}_{\mathcal{B}}$ 算出。不过对大于 $2\times 2$ 的矩阵，例 3 那样的算法（行约化 $\left[\begin{array}{cc}\mathcal{C}\text{的列}& \mathcal{B}\text{的列}\end{array}\right]$）比先算 $P_{\mathcal{C}}^{-1}$ 再算 $P_{\mathcal{C}}^{-1}{P}_{\mathcal{B}}$ 更快。

4.7 节练习题（PRACTICE PROBLEMS）

练习 1：设 $\mathcal{F}=\{{\mathbf{f}}_1,{\mathbf{f}}_2\}$ 与 $\mathcal{G}=\{{\mathbf{g}}_1,{\mathbf{g}}_2\}$ 是向量空间 $V$ 的两组基，$P$ 是以 $[{\mathbf{f}}_1{]}_{\mathcal{G}}$、$[{\mathbf{f}}_2{]}_{\mathcal{G}}$ 为列的矩阵。下列哪个方程对所有 $\mathbf{v}\in V$ 成立？ (i) $[\mathbf{v}{]}_{\mathcal{F}}=P[\mathbf{v}{]}_{\mathcal{G}}$；(ii) $[\mathbf{v}{]}_{\mathcal{G}}=P[\mathbf{v}{]}_{\mathcal{F}}$。

解：$P$ 的列是 $\mathcal{G}$-坐标向量，所以形如 $P\mathbf{x}$ 的向量（$\mathbf{x}$ 为坐标向量）必是 $\mathcal{G}$-坐标向量。取 $\mathbf{x}=[\mathbf{v}{]}_{\mathcal{F}}$：$P[\mathbf{v}{]}_{\mathcal{F}}$ 是某个向量的 $\mathcal{G}$-坐标向量，而这个向量正是 $\mathbf{v}$（按 $\mathcal{F}$ 展开再换算到 $\mathcal{G}$）。所以 (ii) 成立：$[\mathbf{v}{]}_{\mathcal{G}}=P[\mathbf{v}{]}_{\mathcal{F}}$。

练习 2：利用例 1 的结果，求从 $\mathcal{C}$ 到 $B$ 的坐标变换矩阵。

解：例 1 的坐标向量表明

$$P_{\mathcal{C}\leftarrow \mathcal{B}}=\left[\begin{array}{cc}[{\mathbf{b}}_1{]}_{\mathcal{C}}& [{\mathbf{b}}_2{]}_{\mathcal{C}}\end{array}\right]=\left[\begin{array}{cc}4& -6\\ 1& 1\end{array}\right]$$

所以

$$P_{\mathcal{B}\leftarrow \mathcal{C}}=(P_{\mathcal{C}\leftarrow \mathcal{B}}{)}^{-1}=\frac{1}{10}\left[\begin{array}{cc}1& 6\\ -1& 4\end{array}\right]=\left[\begin{array}{cc}0.1& 0.6\\ -0.1& 0.4\end{array}\right]$$

通关标准

能做到三件事：① 记住并会用核心公式：$P_{\mathcal{C}\leftarrow \mathcal{B}}$ 的列是旧基 $B$ 中向量的新基 $\mathcal{C}$-坐标向量，且 $[\mathbf{x}{]}_{\mathcal{C}}=P_{\mathcal{C}\leftarrow \mathcal{B}}[\mathbf{x}{]}_{\mathcal{B}}$，$P_{\mathcal{B}\leftarrow \mathcal{C}}=(P_{\mathcal{C}\leftarrow \mathcal{B}}{)}^{-1}$；② 用”两向量组并排行约化到 $\left[\begin{array}{cc}I& P\end{array}\right]$“一步求出变换矩阵；③ 弄清箭头方向——下标 $\mathcal{C}\leftarrow \mathcal{B}$ 读作”从 $\mathcal{B}$ 到 $\mathcal{C}$“，写错方向是最常见的失分点。

4.7 节的习题（共 22 题，包括在 ${\mathbb{P}}_2$ 与标准基之间换基、用 $P^{-1}$ 化简三角函数积分等）见原书。

4.8 差分方程的应用

如今强大的计算机无处不在，越来越多的科学与工程问题改用离散（数字）数据而非连续数据来处理。分析这类数据的合适工具往往是差分方程。即使对连续过程建立了微分方程模型，其数值解也常常来自相关的差分方程。本节用线性代数阐释线性差分方程的一些基本性质。

4.8.1 离散时间信号

4.1 节例 3 引入的信号空间 $\mathbb{S}$ 中的信号是只定义在整数上的函数，可形象化为一个数列 $\{y_k\}$。下图展示了三个典型信号，通项分别为 $(0.7{)}^k$、$1^k$ 和 $(-1{)}^k$。

图 4-38：$\mathbb{S}$ 中的三个信号：$(0.7{)}^k$、$1^k$、$(-1{)}^k$

数字信号当然出现在电气与控制系统工程中，但离散数据序列也产生于生物、物理、经济、人口学等许多领域——凡是在离散时间间隔上对过程进行测量或采样的场合。当过程从某个特定时刻开始时，常把信号写成 $(y_0,y_1,y_2,\dots )$ 的形式，$k<0$ 的项视为零或干脆省略。

例 1：CD 唱机清晰的声音，来自以每秒 44,100 次的频率对音乐采样的结果。每次测量时，音乐信号的振幅被记录为一个数 $y_k$。原始音乐由许多不同频率的声音混合而成，但数列 $\{y_k\}$ 包含了足以重现全部频率（高达约每秒 20,000 周期，超出人耳分辨范围）的信息。

图 4-39：音乐信号的采样数据

4.8.2 信号空间 $\mathbb{S}$ 中的线性无关

为简化记号，只考虑 $\mathbb{S}$ 中三个信号 $\{u_k\},\{v_k\},\{w_k\}$。它们线性无关，当且仅当方程

$$c_1{u}_k+c_2{v}_k+c_3{w}_k=0\text{对所有 }k$$

蕴含 $c_1=c_2=c_3=0$。（“对所有 $k$“指所有整数——正、负、零；也可只考虑从 $k=0$ 开始的信号。）

设 $c_1,c_2,c_3$ 满足 (1)。则 (1) 对任意三个相邻的 $k$ 值（$k,k+1,k+2$）都成立，于是

$$\left[\begin{array}{ccc}{u}_k& v_k& w_k\\ u_{k+1}& v_{k+1}& v_{k+1}\\ u_{k+2}& v_{k+2}& w_{k+2}\end{array}\right]\left[\begin{array}{c}{c}_1\\ c_2\\ c_3\end{array}\right]=\left[\begin{array}{c}0\\ 0\\ 0\end{array}\right]\text{对所有 }k$$

（准确地说第二行应为 $u_{k+1},v_{k+1},w_{k+1}$。）这个方程组的系数矩阵称为这些信号的卡索拉蒂矩阵（Casorati matrix），其行列式称为 $u_k,v_k,w_k$ 的卡索拉蒂行列式（Casoratian）。

图 4-40：卡索拉蒂矩阵检验（Casorati Test）

结论：若卡索拉蒂矩阵对至少一个 $k$ 值可逆，则 (2) 强制 $c_1=c_2=c_3=0$，三个信号线性无关。

例 2：验证 $1^k,(-2{)}^k,3^k$ 是线性无关的信号。

解：卡索拉蒂矩阵为

$$\left[\begin{array}{ccc}{1}^k& (-2{)}^k& 3^k\\ 1^{k+1}& (-2{)}^{k+1}& 3^{k+1}\\ 1^{k+2}& (-2{)}^{k+2}& 3^{k+2}\end{array}\right]$$

行变换可以证明它总可逆，但更快的是代一个具体的 $k$——比如 $k=0$——再行约化数值矩阵：

$$\left[\begin{array}{ccc}1& 1& 1\\ 1& -2& 3\\ 1& 4& 9\end{array}\right]\sim \left[\begin{array}{ccc}1& 1& 1\\ 0& -3& 2\\ 0& 3& 8\end{array}\right]\sim \left[\begin{array}{ccc}1& 1& 1\\ 0& -3& 2\\ 0& 0& 10\end{array}\right]$$

卡索拉蒂矩阵在 $k=0$ 时可逆，所以 $1^k,(-2{)}^k,3^k$ 线性无关。

若卡索拉蒂矩阵不可逆，被检验的信号可能线性相关、也可能不相关（见原书习题 33）。但可以证明：若这些信号都是同一个齐次差分方程的解，则要么卡索拉蒂矩阵对所有 $k$ 可逆（信号线性无关），要么对所有 $k$ 不可逆（信号线性相关）。

4.8.3 线性差分方程

给定标量 $a_0,\dots ,a_n$（$a_0,a_n$ 非零）和信号 $\{z_k\}$，方程

$$a_0{y}_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}+a_n{y}_k=z_k\text{对所有 }k$$

称为 $n$ 阶线性差分方程（或线性递推关系）。通常取 $a_0=1$。若 $\{z_k\}$ 是零信号，方程是齐次的；否则是非齐次的。

例 3：在数字信号处理中，形如 (3) 的差分方程描述一个线性滤波器，$a_0,\dots ,a_n$ 称为滤波器系数。把 $\{y_k\}$ 当输入、$\{z_k\}$ 当输出，则相应齐次方程的解就是那些被滤掉、变成零信号的信号。向滤波器

$$0.35y_{k+2}+0.5y_{k+1}+0.35y_k=z_k$$

（其中 $0.35$ 是 $\sqrt{2}/4$ 的简写）输入两个不同信号试试。第一个信号来自对连续信号 $y=\cos (\pi t/4)$ 按整数 $t$ 采样：

$$\{y_k\}=\{\dots ,1,0.7,0,-0.7,-1,-0.7,0,0.7,1,0.7,0,\dots \}(k=0\text{ 处为 }1)$$

（$0.7$ 是 $\sqrt{2}/2$ 的简写。）代入滤波器计算输出 $\{z_k\}$，结果发现输出恰好是输入 $\{y_k\}$ 向前移一位。

图 4-41：低频离散信号 $y=\cos (\pi t/4)$ 的采样

图 4-42：高频离散信号 $y=\cos (3\pi t/4)$ 的采样

第二个输入信号来自更高频的信号 $y=\cos (3\pi t/4)$，按同样频率采样得

$$\{w_k\}=\{\dots ,1,-0.7,0,0.7,-1,0.7,0,-0.7,1,-0.7,0,\dots \}(k=0\text{ 处为 }1)$$

把 $\{w_k\}$ 输入滤波器，输出是零信号。这个滤波器称为低通滤波器：让 $\{y_k\}$ 通过，挡住高频的 $\{w_k\}$。

例 4：齐次差分方程的解常常形如 $y_k=r^k$。求方程

$$y_{k+3}-2y_{k+2}-5y_{k+1}+6y_k=0\text{对所有 }k$$

的一些解。

解：把 $y_k=r^k$ 代入方程并对左边因式分解：

$$r^{k+3}-2r^{k+2}-5r^{k+1}+6r^k=0$$ $$r^k(r^3-2r^2-5r+6)=0$$ $$r^k(r-1)(r+2)(r-3)=0$$

所以 $r^k$ 满足 (4) 当且仅当 $r$ 满足 (6)。于是 $1^k,(-2{)}^k,3^k$ 都是 (4) 的解。比如验证 $3^k$：

$$3^{k+3}-2\cdot 3^{k+2}-5\cdot 3^{k+1}+6\cdot 3^k=3^k(27-18-15+6)=0$$

一般地，非零信号 $r^k$ 满足齐次差分方程

$$y_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}+a_n{y}_k=0$$

当且仅当 $r$ 是辅助方程

$$r^n+a_1{r}^{n-1}+\cdots +a_{n-1}r+a_n=0$$

的根。（本书不考虑重根情形；辅助方程有复根时，差分方程有形如 $s^k\cos k\omega$、$s^k\sin k\omega$ 的解——例 3 正是这种情况。）

4.8.4 线性差分方程的解集

给定 $a_1,\dots ,a_n$，考虑把信号 $\{y_k\}$ 变为信号 $\{w_k\}$ 的映射 $T:\mathbb{S}\to \mathbb{S}$：

$$w_k=y_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}+a_n{y}_k$$

容易验证 $T$ 是线性变换。这说明齐次方程

$$y_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}+a_n{y}_k=0$$

的解集是 $T$ 的核（被映成零信号的信号之集），从而是 $\mathbb{S}$ 的子空间——解的任意线性组合仍是解。

下面两条定理简单但极其基本。

定理 16

若 $a_n\ne 0$ 且 $\{z_k\}$ 已知，则只要指定了 $y_0,\dots ,y_{n-1}$，方程

$$y_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}+a_n{y}_k=z_k$$

就有唯一解。

证明：指定 $y_0,\dots ,y_{n-1}$ 后，用 (7) 定义

$$y_n=z_0-[a_1{y}_{n-1}+\cdots +a_{n-1}{y}_1+a_n{y}_0]$$

于是 $y_1,\dots ,y_n$ 都确定，再用 (7) 定义 $y_{n+1}$。一般地，用递推关系

$$y_{n+k}=z_k-[a_1{y}_{k+n-1}+\cdots +a_n{y}_k]$$

定义 $k\ge 0$ 时的 $y_{n+k}$；对 $k<0$，用递推关系

$$y_k=\frac{1}{a_n}{z}_k-\frac{1}{a_n}[y_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}]$$

反向定义 $y_k$。这样产生的信号满足 (7)；反过来，任何满足 (7) 的信号必满足 (8)(9)，故解唯一。$■$

定理 17

$n$ 阶齐次线性差分方程

$$y_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}+a_n{y}_k=0$$

的全体解之集 $H$ 是一个 $n$ 维向量空间。

证明：如前所述，$H$ 是线性变换的核，故是 $\mathbb{S}$ 的子空间。对 $H$ 中的 $\{y_k\}$，令 $F\{y_k\}=(y_0,y_1,\dots ,y_{n-1})\in {\mathbb{R}}^n$。易验证 $F:H\to {\mathbb{R}}^n$ 是线性变换。给定 ${\mathbb{R}}^n$ 中任意向量 $(y_0,\dots ,y_{n-1})$，由定理 16 存在唯一的 $\{y_k\}\in H$ 使 $F\{y_k\}=(y_0,\dots ,y_{n-1})$。所以 $F$ 是从 $H$ 到 ${\mathbb{R}}^n$ 的单、满线性变换，即同构。故 $\dim H=\dim {\mathbb{R}}^n=n$。$■$

例 5：求差分方程

$$y_{k+3}-2y_{k+2}-5y_{k+1}+6y_k=0$$

解空间的一组基。

解：线性代数在这里真正发挥作用！例 2 和例 4 表明 $1^k,(-2{)}^k,3^k$ 是线性无关的解。直接验证一组信号张成解空间通常很难，但这里毫无困难：定理 17 说解空间恰好是 3 维的，而 4.5 节基定理说 $n$ 维空间中 $n$ 个线性无关向量自动成为基。所以 $\{1^k,(-2{)}^k,3^k\}$ 是解空间的基。

描述差分方程”通解”的标准方式，就是给出解空间的一组基；这组基通常称为 (10) 的基本解组。实践中，只要找到 $n$ 个线性无关的解信号，它们就自动张成 $n$ 维解空间（如例 5 所示）。

4.8.5 非齐次方程

非齐次差分方程

$$y_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}+a_n{y}_k=z_k$$

的通解可以写成：(11) 的一个特解加上相应齐次方程 (10) 的基本解组的任意线性组合。这与 1.5 节”$A\mathbf{x}=\mathbf{b}$ 的解集与 $A\mathbf{x}=0$ 的解集平行”是同一个道理：两个映射都是线性的。

例 6：验证信号 $y_k=k^2$ 满足差分方程

$$y_{k+2}-4y_{k+1}+3y_k=-4k$$

并求该方程所有解的描述。

解：把 $y_k=k^2$ 代入 (12) 左端：

$$(k+2{)}^2-4(k+1{)}^2+3k^2=(k^2+4k+4)-4(k^2+2k+1)+3k^2=-4k$$

所以 $k^2$ 确实是 (12) 的解。下一步解齐次方程

$$y_{k+2}-4y_{k+1}+3y_k=0$$

辅助方程为

$$r^2-4r+3=(r-1)(r-3)=0$$

根为 $r=1,3$，所以齐次方程的两个解是 $1^k$ 和 $3^k$。它们显然互不成倍数，故线性无关。由定理 17，解空间是 2 维的，所以 $\{1^k,3^k\}$ 是 (13) 的解空间的基。用 (12) 的特解平移这个基，得 (12) 的通解：

$$k^2+c_1\cdot 1^k+c_2\cdot 3^k,\text{即}{k}^2+c_1+c_2\cdot 3^k$$

下图给出两个解集的几何直观：图中每个点对应 $\mathbb{S}$ 中的一个信号。

图 4-43：差分方程 (12) 与 (13) 的解集（平行的两个”平面”）

4.8.6 化为一阶方程组

研究 $n$ 阶齐次线性差分方程的现代方法，是把它换成等价的一阶差分方程组

$${\mathbf{x}}_{k+1}=A{\mathbf{x}}_k\text{对所有 }k$$

其中 ${\mathbf{x}}_k\in {\mathbb{R}}^n$，$A$ 是 $n\times n$ 矩阵。（这种向量值差分方程的简单例子在 1.10 节已见过；更多例子见 4.9 节和 5.6 节。）

例 7：把差分方程

$$y_{k+3}-2y_{k+2}-5y_{k+1}+6y_k=0$$

写成一阶方程组。

解：对每个 $k$，令

$${\mathbf{x}}_k=\left[\begin{array}{c}{y}_k\\ y_{k+1}\\ y_{k+2}\end{array}\right]$$

差分方程即 $y_{k+3}=-6y_k+5y_{k+1}+2y_{k+2}$，于是

$${\mathbf{x}}_{k+1}=\left[\begin{array}{c}{y}_{k+1}\\ y_{k+2}\\ y_{k+3}\end{array}\right]=\left[\begin{array}{ccc}0& 1& 0\\ 0& 0& 1\\ -6& 5& 2\end{array}\right]\left[\begin{array}{c}{y}_k\\ y_{k+1}\\ y_{k+2}\end{array}\right]$$

即 ${\mathbf{x}}_{k+1}=A{\mathbf{x}}_k$，其中 $A=\left[\begin{array}{ccc}0& 1& 0\\ 0& 0& 1\\ -6& 5& 2\end{array}\right]$。

一般地，方程

$$y_{k+n}+a_1{y}_{k+n-1}+\cdots +a_{n-1}{y}_{k+1}+a_n{y}_k=0$$

可改写为 ${\mathbf{x}}_{k+1}=A{\mathbf{x}}_k$，其中

$${\mathbf{x}}_k=\left[\begin{array}{c}{y}_k\\ y_{k+1}\\ ⋮\\ y_{k+n-1}\end{array}\right],A=\left[\begin{array}{ccccc}0& 1& 0& \dots & 0\\ 0& 0& 1& & 0\\ ⋮& & & \ddots & ⋮\\ 0& 0& 0& & 1\\ -a_n& -a_{n-1}& -a_{n-2}& \dots & -a_1\end{array}\right]$$

常见坑

解齐次差分方程的完整流程：① 设 $y_k=r^k$ 代入，得辅助方程；② 解出 $n$ 个根 $r_1,\dots ,r_n$；③ 由例 4 的结论，$r_1^k,\dots ,r_n^k$ 都是解；④ 若它们线性无关（常用卡索拉蒂矩阵检验），由定理 17（解空间恰为 $n$ 维）+ 基定理，它们自动构成基本解组。非齐次方程再加一个特解即可。

4.8 节练习题

可以证明信号 $2^k$，$3^k\sin \frac{k\pi }{2}$，$3^k\cos \frac{k\pi }{2}$ 是

$$y_{k+3}-2y_{k+2}+9y_{k+1}-18y_k=0$$

的解。证明它们构成该差分方程解空间的基。

解：考察卡索拉蒂矩阵

$$C(k)=\left[\begin{array}{ccc}{2}^k& 3^k\sin \frac{k\pi }{2}& 3^k\cos \frac{k\pi }{2}\\ 2^{k+1}& 3^{k+1}\sin \frac{(k+1)\pi }{2}& 3^{k+1}\cos \frac{(k+1)\pi }{2}\\ 2^{k+2}& 3^{k+2}\sin \frac{(k+2)\pi }{2}& 3^{k+2}\cos \frac{(k+2)\pi }{2}\end{array}\right]$$

取 $k=0$ 并行约化，验证它有 3 个主元位置，故可逆：

$$C(0)=\left[\begin{array}{ccc}1& 0& 1\\ 2& 3& 0\\ 4& 0& -9\end{array}\right]\sim \left[\begin{array}{ccc}1& 0& 1\\ 0& 3& -2\\ 0& 0& -13\end{array}\right]$$

卡索拉蒂矩阵在 $k=0$ 可逆，所以三个信号线性无关。而该方程解空间 $H$ 的维数是 3（定理 17），由基定理，这三个信号构成 $H$ 的基。

通关标准

能做到四件事：① 用 $y_k=r^k$ 求齐次差分方程的基本解组，并明白”解空间是 $n$ 维 + 基定理”为什么让”3 个线性无关解就是全部解”成立；② 用卡索拉蒂矩阵（代一个 $k$）检验信号组的线性无关性；③ 非齐次方程通解 = 特解 + 齐次通解；④ 会把 $n$ 阶方程写成 ${\mathbf{x}}_{k+1}=A{\mathbf{x}}_k$ 的一阶系统。

4.8 节的习题（共 37 题，包括国民收入的乘数–加速模型、悬臂梁的三弯矩方程（下图）、银行贷款与储蓄的递推、移动平均滤波等）见原书。

图 4-44：悬臂梁各支点处的弯矩（习题 19–20：三弯矩方程 $y_{k+2}+4y_{k+1}+y_k=0$）

4.9 马尔可夫链的应用

本节介绍的马尔可夫链是生物、商业、化学、工程、物理等众多领域的数学模型。共同点是：描述一个以相同方式重复多次的实验或测量，每次试验的结果是若干种指定可能结果之一，且一次试验的结果只依赖紧邻的上一次试验。

例如，每年统计某城市及其郊区的人口，向量

$${\mathbf{x}}_0=\left[\begin{array}{c}0.60\\ 0.40\end{array}\right]$$

可以表示 60% 的人口住在城里、40% 住在郊区。各小数之和为 1，因为它们覆盖了全地区人口。这里用百分比比用人口总数更方便。

定义：概率向量、随机矩阵、马尔可夫链

分量非负且总和为 1 的向量称为概率向量。列都是概率向量的方阵称为随机矩阵（stochastic matrix）。马尔可夫链是一列概率向量 ${\mathbf{x}}_0,{\mathbf{x}}_1,{\mathbf{x}}_2,\dots$ 连同一个随机矩阵 $P$，满足

$${\mathbf{x}}_1=P{\mathbf{x}}_0,{\mathbf{x}}_2=P{\mathbf{x}}_1,{\mathbf{x}}_3=P{\mathbf{x}}_2,\dots$$

即由一阶差分方程 ${\mathbf{x}}_{k+1}=P{\mathbf{x}}_k$（$k=0,1,2,\dots$）描述。

当 ${\mathbb{R}}^n$ 中的马尔可夫链描述一个系统或一系列实验时，${\mathbf{x}}_k$ 的各分量分别是系统处于 $n$ 种可能状态的（或实验出现 $n$ 种可能结果的）概率，因此 ${\mathbf{x}}_k$ 常被称为状态向量。

例 1：1.10 节研究过城市与郊区人口迁移的模型（下图）。两地区之间的年度迁移由迁移矩阵 $M$ 决定：

$$M=\left[\begin{array}{cc}0.95& 0.03\\ 0.05& 0.97\end{array}\right]\begin{array}{rl}& \text{从： 城 郊}\\ & \text{到：城}\\ & \text{到：郊}\end{array}$$

即每年 5% 的城市人口搬到郊区，3% 的郊区人口搬进城里。$M$ 的列都是概率向量，故 $M$ 是随机矩阵。设 2014 年该地区有 600,000 人住城里、400,000 人住郊区，初始分布即上面的 ${\mathbf{x}}_0$。求 2015 年与 2016 年的人口分布。

图 4-45：城市与郊区之间的年度迁移百分比

解：1.10 节例 3 中已算过：一年后人口向量从 $\left[\begin{array}{c}600,000\\ 400,000\end{array}\right]$ 变为

$$\left[\begin{array}{cc}0.95& 0.03\\ 0.05& 0.97\end{array}\right]\left[\begin{array}{c}600,000\\ 400,000\end{array}\right]=\left[\begin{array}{c}582,000\\ 418,000\end{array}\right]$$

两边同除以总人口 100 万，并利用 $kM\mathbf{x}=M(k\mathbf{x})$：

$$\left[\begin{array}{cc}0.95& 0.03\\ 0.05& 0.97\end{array}\right]\left[\begin{array}{c}0.600\\ 0.400\end{array}\right]=\left[\begin{array}{c}0.582\\ 0.418\end{array}\right]$$

向量 ${\mathbf{x}}_1=\left[\begin{array}{c}0.582\\ 0.418\end{array}\right]$ 给出 2015 年的分布：58.2% 住城里，41.8% 住郊区。同理 2016 年的分布为

$${\mathbf{x}}_2=M{\mathbf{x}}_1=\left[\begin{array}{cc}0.95& 0.03\\ 0.05& 0.97\end{array}\right]\left[\begin{array}{c}0.582\\ 0.418\end{array}\right]=\left[\begin{array}{c}0.565\\ 0.435\end{array}\right]$$

例 2：某选区国会选举的投票结果用 ${\mathbb{R}}^3$ 中的向量 $\mathbf{x}$ 表示（三个分量分别是投民主党 D、共和党 R、自由党 L 的百分比）。假设每两年记录一次选举结果，且一次选举的结果只依赖前一次选举的结果，那么这一列向量可能是马尔可夫链。取随机矩阵

$$P=\left[\begin{array}{ccc}0.70& 0.10& 0.30\\ 0.20& 0.80& 0.30\\ 0.10& 0.10& 0.40\end{array}\right]\begin{array}{rl}& \text{从：DRL}\\ & \text{到：D}\\ & \text{到：R}\\ & \text{到：L}\end{array}$$

第一列描述本次投 D 的人下次怎么投：70% 仍投 D，20% 改投 R，10% 改投 L。其余各列类似解释（见下图）。

图 4-46：相邻两次选举之间的投票流向图

若这些”转移”百分比多年不变，投票结果向量序列就构成马尔可夫链。设某次选举结果为

$${\mathbf{x}}_0=\left[\begin{array}{c}0.55\\ 0.40\\ 0.05\end{array}\right]$$

求下一次选举以及再下一次选举的可能结果。

解：下一次选举的状态向量是 ${\mathbf{x}}_1$，再下次是 ${\mathbf{x}}_2$：

$${\mathbf{x}}_1=P{\mathbf{x}}_0=\left[\begin{array}{ccc}0.70& 0.10& 0.30\\ 0.20& 0.80& 0.30\\ 0.10& 0.10& 0.40\end{array}\right]\left[\begin{array}{c}0.55\\ 0.40\\ 0.05\end{array}\right]=\left[\begin{array}{c}0.440\\ 0.445\\ 0.115\end{array}\right]$$

下次：44% 投 D，44.5% 投 R，11.5% 投 L。

$${\mathbf{x}}_2=P{\mathbf{x}}_1=\left[\begin{array}{ccc}0.70& 0.10& 0.30\\ 0.20& 0.80& 0.30\\ 0.10& 0.10& 0.40\end{array}\right]\left[\begin{array}{c}0.440\\ 0.445\\ 0.115\end{array}\right]=\left[\begin{array}{c}0.3870\\ 0.4785\\ 0.1345\end{array}\right]$$

再下次：38.7% 投 D，47.8% 投 R，13.5% 投 L。

为什么 ${\mathbf{x}}_1$ 确实给出下次选举的结果？设”首次”选举 1000 人投票：D 550、R 400、L 50。下次选举中，550 的 70% 仍投 D，400 的 10% 从 R 转投 D，50 的 30% 从 L 转投 D，故 D 的总票数为

$$0.70(550)+0.10(400)+0.30(50)=385+40+15=440$$

即下次 44% 的票投 D。这个计算与算 ${\mathbf{x}}_1$ 第一个分量的过程本质相同；其余分量及 ${\mathbf{x}}_2$ 的分量同理。

4.9.1 预测遥远的未来

马尔可夫链最有趣的方面是长期行为。比如例 2 中，许多次选举之后（假设随机矩阵不变）投票情况会怎样？例 1 中的人口分布”从长远看”会怎样？先看一个数值例子。

例 3：设 $P=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.8& 0.3\\ 0.2& 0& 0.4\end{array}\right]$，${\mathbf{x}}_0=\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right]$。考虑由 ${\mathbf{x}}_{k+1}=P{\mathbf{x}}_k$（$k=0,1,\dots$）描述的系统。随着时间推移系统会怎样？计算 ${\mathbf{x}}_1,\dots ,{\mathbf{x}}_{15}$ 一探究竟。

解：

$${\mathbf{x}}_1=P{\mathbf{x}}_0=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.8& 0.3\\ 0.2& 0& 0.4\end{array}\right]\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right]=\left[\begin{array}{c}0.5\\ 0.3\\ 0.2\end{array}\right]$$ $${\mathbf{x}}_2=P{\mathbf{x}}_1=\left[\begin{array}{c}0.37\\ 0.45\\ 0.18\end{array}\right],{\mathbf{x}}_3=P{\mathbf{x}}_2=\left[\begin{array}{c}0.329\\ 0.525\\ 0.146\end{array}\right]$$

继续算下去（保留四到五位有效数字）：

$${\mathbf{x}}_4=\left[\begin{array}{c}0.3133\\ 0.5625\\ 0.1242\end{array}\right],{\mathbf{x}}_5=\left[\begin{array}{c}0.3064\\ 0.5813\\ 0.1123\end{array}\right],{\mathbf{x}}_6=\left[\begin{array}{c}0.3032\\ 0.5906\\ 0.1062\end{array}\right],{\mathbf{x}}_7=\left[\begin{array}{c}0.3016\\ 0.5953\\ 0.1031\end{array}\right]$$ $${\mathbf{x}}_8=\left[\begin{array}{c}0.3008\\ 0.5977\\ 0.1016\end{array}\right],{\mathbf{x}}_9=\left[\begin{array}{c}0.3004\\ 0.5988\\ 0.1008\end{array}\right],{\mathbf{x}}_{10}=\left[\begin{array}{c}0.3002\\ 0.5994\\ 0.1004\end{array}\right],{\mathbf{x}}_{11}=\left[\begin{array}{c}0.3001\\ 0.5997\\ 0.1002\end{array}\right]$$ $${\mathbf{x}}_{12}=\left[\begin{array}{c}0.30005\\ 0.59985\\ 0.10010\end{array}\right],\dots ,{\mathbf{x}}_{15}=\left[\begin{array}{c}0.30001\\ 0.59998\\ 0.10001\end{array}\right]$$

这些向量似乎在逼近 $\mathbf{q}=\left[\begin{array}{c}0.3\\ 0.6\\ 0.1\end{array}\right]$——从一个 $k$ 到下一个 $k$，概率几乎不再变化。而且下述计算精确成立（无舍入误差）：

$$P\mathbf{q}=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.8& 0.3\\ 0.2& 0& 0.4\end{array}\right]\left[\begin{array}{c}0.3\\ 0.6\\ 0.1\end{array}\right]=\left[\begin{array}{c}0.15+0.12+0.03\\ 0.09+0.48+0.03\\ 0.06+0+0.04\end{array}\right]=\left[\begin{array}{c}0.30\\ 0.60\\ 0.10\end{array}\right]=\mathbf{q}$$

系统处于状态 $\mathbf{q}$ 时，相邻两次测量之间不再发生任何变化。

4.9.2 稳态向量

定义：稳态向量

若 $P$ 是随机矩阵，则满足

$$P\mathbf{q}=\mathbf{q}$$

的概率向量 $\mathbf{q}$ 称为 $P$ 的稳态向量（steady-state vector，或平衡向量）。

可以证明：每个随机矩阵都有稳态向量。例 3 的 $\mathbf{q}$ 就是 $P$ 的稳态向量。

例 4：概率向量 $\mathbf{q}=\left[\begin{array}{c}0.375\\ 0.625\end{array}\right]$ 是例 1 人口迁移矩阵 $M$ 的稳态向量，因为

$$M\mathbf{q}=\left[\begin{array}{cc}0.95& 0.03\\ 0.05& 0.97\end{array}\right]\left[\begin{array}{c}0.375\\ 0.625\end{array}\right]=\left[\begin{array}{c}0.35625+0.01875\\ 0.01875+0.60625\end{array}\right]=\left[\begin{array}{c}0.375\\ 0.625\end{array}\right]=\mathbf{q}$$

若例 1 中该地区总人口为 100 万，$\mathbf{q}$ 对应 375,000 人住城里、625,000 人住郊区。一年之内：搬出城的人 $(0.05)(375,000)=18,750$，搬进城的人 $(0.03)(625,000)=18,750$——恰好抵消，城内人口不变；郊区人口同理保持稳定。

例 5：求 $P=\left[\begin{array}{cc}0.6& 0.3\\ 0.4& 0.7\end{array}\right]$ 的稳态向量。

解：先解方程 $P\mathbf{x}=\mathbf{x}$：

$$P\mathbf{x}-\mathbf{x}=0\Rightarrow P\mathbf{x}-I\mathbf{x}=0\Rightarrow (P-I)\mathbf{x}=0$$

（回忆 1.4 节 $I\mathbf{x}=\mathbf{x}$。）对本例的 $P$：

$$P-I=\left[\begin{array}{cc}0.6& 0.3\\ 0.4& 0.7\end{array}\right]-\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]=\left[\begin{array}{cc}-0.4& 0.3\\ 0.4& -0.3\end{array}\right]$$

行约化增广矩阵求 $(P-I)\mathbf{x}=0$ 的全部解：

$$\left[\begin{array}{ccc}-0.4& 0.3& 0\\ 0.4& -0.3& 0\end{array}\right]\sim \left[\begin{array}{ccc}1& -3/4& 0\\ 0& 0& 0\end{array}\right]$$

于是 $x_1=\frac{3}{4}{x}_2$，$x_2$ 为自由变量，通解为 $x_2\left[\begin{array}{c}3/4\\ 1\end{array}\right]$。解空间的一组基可以取 $\left[\begin{array}{c}3/4\\ 1\end{array}\right]$，但取不含分数的 $\mathbf{w}=\left[\begin{array}{c}3\\ 4\end{array}\right]$（对应 $x_2=4$）更好。最后，在解集中找出那个概率向量：把 $\mathbf{w}$ 除以分量之和：

$$\mathbf{q}=\left[\begin{array}{c}3/7\\ 4/7\end{array}\right]$$

验证：$P\mathbf{q}=\left[\begin{array}{cc}6/10& 3/10\\ 4/10& 7/10\end{array}\right]\left[\begin{array}{c}3/7\\ 4/7\end{array}\right]=\left[\begin{array}{c}18/70+12/70\\ 12/70+28/70\end{array}\right]=\left[\begin{array}{c}30/70\\ 40/70\end{array}\right]=\mathbf{q}$。

常见坑

求稳态向量的完整三步：① 解 $(P-I)\mathbf{x}=0$（注意 $P\mathbf{x}=\mathbf{x}$ 不能直接当齐次方程组解，必须先写成 $(P-I)\mathbf{x}=0$）；② 解集的非零倍数都是解，挑一个分量简单的；③ 归一化：除以分量之和变成概率向量，得到的才是稳态向量。

4.9.3 正则随机矩阵与定理 18

若随机矩阵的某个矩阵幂 $P^k$ 只含严格正的元素，则称 $P$ 是正则（regular）的。例如对例 3 的 $P$：

$$P^2=\left[\begin{array}{ccc}0.37& 0.26& 0.33\\ 0.45& 0.70& 0.45\\ 0.18& 0.04& 0.22\end{array}\right]$$

每个元素都严格为正，所以 $P$ 是正则随机矩阵。

若向量序列 $\{{\mathbf{x}}_k\}$ 的各分量当 $k$ 充分大时能任意接近向量 $\mathbf{q}$ 的对应分量，则称 $\{{\mathbf{x}}_k\}$ 当 $k\to \infty$ 时收敛到 $\mathbf{q}$。

定理 18

若 $P$ 是 $n\times n$ 正则随机矩阵，则 $P$ 有唯一的稳态向量 $\mathbf{q}$。而且，若 ${\mathbf{x}}_0$ 是任意初始状态且 ${\mathbf{x}}_{k+1}=P{\mathbf{x}}_k$（$k=0,1,2,\dots$），则马尔可夫链 $\{{\mathbf{x}}_k\}$ 当 $k\to \infty$ 时收敛到 $\mathbf{q}$。

这条定理（证明见标准马尔可夫链教材）最惊人的地方是：初始状态对马尔可夫链的长期行为没有任何影响。为什么如此，5.2 节会用特征值理论解释。

例 6：例 2 中，假定历次选举构成马尔可夫链，那么很多年以后的某次选举中，会有百分之多少的选民投共和党？

解：手算时错误的做法是：随便取一个初始向量 ${\mathbf{x}}_0$，算 ${\mathbf{x}}_1,\dots ,{\mathbf{x}}_k$（$k$ 很大）——你既不知道该算多少个，也不能确定极限值。

正确做法是计算稳态向量，然后引用定理 18。对例 2 的 $P$，把对角元素各减 1 得 $P-I$，行约化增广矩阵：

$$\left[\begin{array}{cc}(P-I)& 0\end{array}\right]=\left[\begin{array}{cccc}-0.3& 0.1& 0.3& 0\\ 0.2& -0.2& 0.3& 0\\ 0.1& 0.1& -0.6& 0\end{array}\right]$$

把每行乘以 10 简化算术：

$$\left[\begin{array}{cccc}-3& 1& 3& 0\\ 2& -2& 3& 0\\ 1& 1& -6& 0\end{array}\right]\sim \left[\begin{array}{cccc}1& 0& -9/4& 0\\ 0& 1& -15/4& 0\\ 0& 0& 0& 0\end{array}\right]$$

通解为 $x_1=\frac{9}{4}{x}_3$，$x_2=\frac{15}{4}{x}_3$，$x_3$ 自由。取 $x_3=4$ 得整数基向量，再归一化：

$$\mathbf{w}=\left[\begin{array}{c}9\\ 15\\ 4\end{array}\right],\mathbf{q}=\left[\begin{array}{c}9/28\\ 15/28\\ 4/28\end{array}\right]\approx \left[\begin{array}{c}0.32\\ 0.54\\ 0.14\end{array}\right]$$

$\mathbf{q}$ 的分量描述了多年后选举的得票分布（假设随机矩阵保持不变）。所以最终大约 54% 的票将投给共和党候选人。

数值注记

若 ${\mathbf{x}}_{k+1}=P{\mathbf{x}}_k$，则 ${\mathbf{x}}_2=P(P{\mathbf{x}}_0)=P^2{\mathbf{x}}_0$，一般地 ${\mathbf{x}}_k=P^k{\mathbf{x}}_0$。要算某个具体的 ${\mathbf{x}}_3$，逐步算 ${\mathbf{x}}_1,{\mathbf{x}}_2,{\mathbf{x}}_3$ 比 $P^3{\mathbf{x}}_0$ 更省算术；但 $P$ 不大时（如 $30\times 30$），机器时间无所谓，直接算 $P^3{\mathbf{x}}_0$ 只需更少的键击。

4.9 节练习题（PRACTICE PROBLEMS）

练习 1：设居民按例 1 的迁移矩阵 $M$ 迁移，随机选一位居民，状态向量给出他此刻是城里人/郊区人的概率。 (a) 若他现在是城里人（${\mathbf{x}}_0=\left[\begin{array}{c}1\\ 0\end{array}\right]$），他明年住郊区的可能性多大？ (b) 他两年后住郊区的可能性多大？

解： (a) 由于 5% 的城里人一年内会搬到郊区，且没有更多信息，可说有 5% 的概率他搬到郊区。这包含在状态向量 ${\mathbf{x}}_1$ 的第二个分量里：

$${\mathbf{x}}_1=M{\mathbf{x}}_0=\left[\begin{array}{cc}0.95& 0.03\\ 0.05& 0.97\end{array}\right]\left[\begin{array}{c}1\\ 0\end{array}\right]=\left[\begin{array}{c}0.95\\ 0.05\end{array}\right]$$

(b) 两年后住郊区的可能性是 9.6%，因为

$${\mathbf{x}}_2=M{\mathbf{x}}_1=\left[\begin{array}{cc}0.95& 0.03\\ 0.05& 0.97\end{array}\right]\left[\begin{array}{c}0.95\\ 0.05\end{array}\right]=\left[\begin{array}{c}0.904\\ 0.096\end{array}\right]$$

练习 2：设 $P=\left[\begin{array}{cc}0.6& 0.2\\ 0.4& 0.8\end{array}\right]$，$\mathbf{q}=\left[\begin{array}{c}0.3\\ 0.7\end{array}\right]$。$\mathbf{q}$ 是 $P$ 的稳态向量吗？

解：稳态向量必须满足 $P\mathbf{x}=\mathbf{x}$。但

$$P\mathbf{q}=\left[\begin{array}{cc}0.6& 0.2\\ 0.4& 0.8\end{array}\right]\left[\begin{array}{c}0.3\\ 0.7\end{array}\right]=\left[\begin{array}{c}0.32\\ 0.68\end{array}\right]\ne \mathbf{q}$$

所以 $\mathbf{q}$ 不是 $P$ 的稳态向量。

练习 3：例 1 中，许多年后将有多大的百分比人口住在郊区？

解：例 1 的 $M$ 各元素严格为正，是正则随机矩阵，可引用定理 18；稳态向量已由例 4 求得：$\mathbf{q}=\left[\begin{array}{c}0.375\\ 0.625\end{array}\right]$。所以人口分布向量 ${\mathbf{x}}_k$ 收敛到 $\mathbf{q}$——最终 62.5% 的人口将住在郊区。

通关标准

能做到四件事：① 从文字描述写出随机矩阵（列 = “从某状态出发”的转移概率）和初始状态向量；② 熟练求稳态向量：解 $(P-I)\mathbf{x}=0$ → 取整数值基向量 → 归一化；③ 会判断正则性（$P^2$ 是否全正）并用定理 18 断言长期行为与初始状态无关；④ 明白 ${\mathbf{x}}_k=P^k{\mathbf{x}}_0$ 以及稳态向量的守恒含义（进出每个状态的人流恰好抵消）。

4.9 节的习题（共 22 题，包括电台听众转换（习题 1）、实验动物选食（下图）、学生健康/天气模型、加州人口迁移与底特律租车车队等）见原书；其中习题 22 的采样信号背景如下图。

图 4-47：信号 $2\cos \frac{\pi t}{4}+\cos \frac{3\pi t}{4}$ 的采样数据（习题 22）

图 4-48：实验动物在三种食物之间的选择（习题 2）

自测一下

1. 为什么"不过原点的直线/平面"不可能是 ${\mathbb{R}}^2$ 或 ${\mathbb{R}}^3$ 的子空间？

子空间必须包含大空间的零向量（定义第一条）。${\mathbb{R}}^2$ 或 ${\mathbb{R}}^3$ 的零向量就是原点，不过原点的直线或平面根本不含原点，所以直接被否决。此外它们对数乘也不封闭：把里面的向量乘以 $c$ 会沿着不过原点的方向”滑出”集合。

2. $\mathrm{Nul}A$ 与 $\mathrm{Col}A$ 分别是哪个 ${\mathbb{R}}^k$ 的子空间？判断一个向量 $\mathbf{v}$ 是否属于它们，各用什么方法？

对 $m\times n$ 矩阵 $A$：$\mathrm{Nul}A$ 是 ${\mathbb{R}}^n$ 的子空间（$\mathbf{x}$ 有 $n$ 个分量才能算 $A\mathbf{x}$），$\mathrm{Col}A$ 是 ${\mathbb{R}}^m$ 的子空间（$A$ 的列有 $m$ 个分量）。判断 $\mathbf{v}\in \mathrm{Nul}A$ 很容易：直接算 $A\mathbf{v}$ 看是否为零向量。判断 $\mathbf{v}\in \mathrm{Col}A$ 则要对增广矩阵 $\left[\begin{array}{cc}A& \mathbf{v}\end{array}\right]$ 做行变换，看 $A\mathbf{x}=\mathbf{v}$ 是否相容。

3. 求 $\mathrm{Col}A$ 的基时，为什么必须用 $A$ 本身的主元列，而不能用行约化后阶梯形 $B$ 的主元列？

因为行变换会改变列空间：$B$ 的列一般不在 $\mathrm{Col}A$ 中。$B$ 的作用只是定位主元列在哪些位置——由于 $A\mathbf{x}=0$ 与 $B\mathbf{x}=0$ 同解，$A$ 的列与 $B$ 的列有完全相同的线性相关关系，所以 $A$ 的主元列线性无关且张成 $\mathrm{Col}A$，构成基；$B$ 的列自己却可能张成另一个空间。

4. 说出秩定理的公式，并用它回答： $5\times 6$ 矩阵 $A$ 若有 4 个主元列，$\dim \mathrm{Nul}A$ 是多少？$\mathrm{Col}A$ 能等于 ${\mathbb{R}}^5$ 吗？

秩定理：$\mathrm{rank}A+\dim \mathrm{Nul}A=n$（$n$ 为列数）。4 个主元列说明 $\mathrm{rank}A=4$，故 $\dim \mathrm{Nul}A=6-4=2$。$\mathrm{Col}A$ 是 ${\mathbb{R}}^5$ 的子空间且维数为 4，不可能等于 ${\mathbb{R}}^5$——${\mathbb{R}}^5$ 中 4 个向量最多张成一个 4 维真子空间。

5. 为什么一个 3 阶齐次线性差分方程只要找到 3 个线性无关解，就能断言它们是全部解？求稳态向量时为什么必须解 $(P-I)\mathbf{x}=0$ 而不是 $P\mathbf{x}=0$？

定理 17 说 $n$ 阶齐次差分方程的解空间恰好是 $n$ 维向量空间；再由基定理，$n$ 维空间中恰好 $n$ 个线性无关的向量自动构成基，所以 3 个线性无关解就是基本解组，任何解都是它们的线性组合。稳态向量要求 $P\mathbf{q}=\mathbf{q}$（$\mathbf{q}$ 被映回自己），这等价于 $(P-I)\mathbf{q}=0$；而 $P\mathbf{x}=0$ 解的是被映成零向量的向量，两者完全是不同的方程——$P$ 是随机矩阵时 $\mathrm{Nul}P=\{0\}$，解 $P\mathbf{x}=0$ 只会得到零向量。