📘 第 4 章：向量空间

Note

本篇是《Linear Algebra and its Applications》(David C. Lay, 第 5 版) 第 4 章 Vector Spaces（向量空间） 的中文初学者精讲笔记。前两章里我们一直在和 ${\mathbb{R}}^n$ 里的向量打交道；这一章要把眼界打开：箭头、数列、多项式、函数、矩阵、信号……只要它们能”相加”和”数乘”，就都是向量。围绕这条主线，本章依次讲：向量空间与子空间（4.1）、矩阵的零空间与列空间（4.2）、线性无关与基（4.3）、坐标系（4.4）、维数（4.5）、秩（4.6）、基变换（4.7），以及两个大应用——差分方程（4.8）和马尔可夫链（4.9）。书中全部例题都保留了题目和逐步解答。

章前导引：航天飞行与控制系统

1981 年 4 月，美国第一架航天飞机”哥伦比亚号”（12 层楼高、重 75 吨）成功升空。它是控制系统工程设计的结晶，涉及航空、化学、电气、液压、机械等多个工程分支。

航天飞机的机身是不稳定的，因此在大气层内飞行时必须由计算机持续监控。飞控系统不断向气动控制面和 44 个小型推进喷管发送指令。下图就是一个典型的闭环反馈系统，用来控制航天飞机飞行时的俯仰角（机头仰角）。

图 4-1：闭环反馈控制系统示意图（各传感器的信号在汇合点处与计算机信号相加）

图中的汇合点表示：来自各种传感器的信号要加到沿图上方流动的计算机信号上。数学上，工程系统的输入、输出信号都是函数，而关键在于：这些函数可以像向量一样相加、数乘，并且满足与 ${\mathbb{R}}^n$ 中向量运算完全类似的代数性质。因此，“所有可能输入（函数）的集合”就被称为一个向量空间——系统工程（如下图的航天飞机俯仰控制系统）的数学基础正建立在函数向量空间之上。

图 4-2：航天飞机的俯仰控制系统（改绘自 Space Shuttle GN&C Operations Manual, Rockwell International, ©1988）

这就是本章要做的事：把第 1、2 章在 ${\mathbb{R}}^n$ 中种下的理论种子，推广到包括函数空间在内的各种向量空间。你在 ${\mathbb{R}}^2$、${\mathbb{R}}^3$ 里积累的几何直觉，几乎全部可以搬过去用。

4.1 向量空间与子空间

4.1.1 什么是向量空间

第 1、2 章的许多理论都建立在 ${\mathbb{R}}^n$ 的一组简单代数性质上。事实上，很多别的数学系统也有同样的性质。把这些性质提炼出来，就得到：

定义：向量空间

一个向量空间是一个非空集合 $V$，其中的元素称为向量，其上定义了两种运算——加法与标量乘法（用实数乘），且满足下面十条公理（对所有 $V$ 中的 $\mathbf{u},\mathbf{v},\mathbf{w}$ 和所有标量 $c,d$ 成立）：

1. $\mathbf{u}+\mathbf{v}$ 仍在 $V$ 中（加法封闭）；
2. $\mathbf{u}+\mathbf{v}=\mathbf{v}+\mathbf{u}$（交换律）；
3. $(\mathbf{u}+\mathbf{v})+\mathbf{w}=\mathbf{u}+(\mathbf{v}+\mathbf{w})$（结合律）；
4. $V$ 中存在零向量 $0$，使 $\mathbf{u}+0=\mathbf{u}$；
5. 对每个 $\mathbf{u}$，存在 $-\mathbf{u}$ 使 $\mathbf{u}+(-\mathbf{u})=0$；
6. $c\mathbf{u}$ 仍在 $V$ 中（数乘封闭）；
7. $c(\mathbf{u}+\mathbf{v})=c\mathbf{u}+c\mathbf{v}$；
8. $(c+d)\mathbf{u}=c\mathbf{u}+d\mathbf{u}$；
9. $c(d\mathbf{u})=(cd)\mathbf{u}$；
10. $1\mathbf{u}=\mathbf{u}$。

**为什么这样定义？**因为这十条恰好是 ${\mathbb{R}}^n$ 中向量运算”好用”的全部理由。凡满足这十条的集合，${\mathbb{R}}^n$ 里成立的所有线性代数定理都自动适用于它——这就是抽象化的威力：证一次，处处可用。

仅凭这十条公理即可证明：零向量是唯一的；每个 $\mathbf{u}$ 的负向量 $-\mathbf{u}$ 也是唯一的。还可以推出三个常用恒等式（对任意 $\mathbf{u}$ 和标量 $c$）：

$$0\mathbf{u}=0,c0=0,-\mathbf{u}=(-1)\mathbf{u}$$

常见坑

这三个式子不是公理，而是可由公理推出的定理。初学者常把"$0\mathbf{u}=0$"与"$1\mathbf{u}=\mathbf{u}$"混为一谈：前者是定理，后者是公理 10，二者缺一不可。

例 1：${\mathbb{R}}^n$（$n\ge 1$）是向量空间中最首要的例子。你在 ${\mathbb{R}}^3$ 中培养的几何直觉，将帮助你在整章中理解并可视化许多抽象概念。

图 4-3：${\mathbb{R}}^3$ 中的向量与平行四边形加法法则

例 2：设 $V$ 是三维空间中所有箭头（有向线段）的集合，两个箭头长度相同、方向相同就算相等。加法按平行四边形法则定义；对 $V$ 中每个 $\mathbf{v}$，$c\mathbf{v}$ 定义为长度是 $\mathbf{v}$ 的 $|c|$ 倍的箭头：$c\ge 0$ 时与 $\mathbf{v}$ 同向，否则反向。证明 $V$ 是向量空间。（这是物理问题中描述各种力的常用模型。）

解：$V$ 的定义是纯几何的，不涉及坐标系。长度为零的箭头是一个点，充当零向量；$-\mathbf{v}$ 即 $(-1)\mathbf{v}$。于是公理 1、4、5、6、10 显然成立，其余公理由几何验证——例如交换律和结合律分别见下图。

图 4-4：$\mathbf{u}+\mathbf{v}=\mathbf{v}+\mathbf{u}$（箭头的加法交换律）

图 4-5：$(\mathbf{u}+\mathbf{v})+\mathbf{w}=\mathbf{u}+(\mathbf{v}+\mathbf{w})$（箭头的加法结合律）

例 3：设 $S$ 是所有双侧无穷数列的集合（通常写成一行而非一列）：

$$\{y_k\}=(\dots ,y_{-2},y_{-1},y_0,y_1,y_2,\dots )$$

若 $\{z_k\}$ 也是 $S$ 中的元素，则定义 $\{y_k\}+\{z_k\}$ 为逐项相加得到的数列 $\{y_k+z_k\}$；$c\{y_k\}$ 定义为 $\{c{y}_k\}$。公理的验证方式与 ${\mathbb{R}}^n$ 完全一样，所以 $S$ 是向量空间。

$S$ 中的元素在工程里随处可见：凡是在离散时刻对信号（电信号、机械信号、光信号……）进行测量或采样的场合都会出现。航天飞机的主控系统用的正是离散（数字）信号。我们称 $S$ 为**（离散时间）信号空间**。一个信号可以像下图那样画成图象。

图 4-6：一个离散时间信号

例 4：对 $n\ge 0$，记 ${\mathbb{P}}_n$ 为次数不超过 $n$ 的多项式全体：

$$\mathbf{p}(t)=a_0+a_{1}t+a_2{t}^2+\cdots +a_n{t}^n$$

其中系数 $a_0,\dots ,a_n$ 与变量 $t$ 都是实数。多项式的次数是系数非零的最高次幂；全零系数的多项式叫零多项式，它也属于 ${\mathbb{P}}_n$（出于技术原因它的次数不定义）。

若 $\mathbf{q}(t)=b_0+b_{1}t+\cdots +b_n{t}^n$，则定义

$$(\mathbf{p}+\mathbf{q})(t)=\mathbf{p}(t)+\mathbf{q}(t)=(a_0+b_0)+(a_1+b_1)t+\cdots +(a_n+b_n)t^n$$

以及

$$(c\mathbf{p})(t)=c\mathbf{p}(t)=c{a}_0+(c{a}_1)t+\cdots +(c{a}_n)t^n$$

由于 $\mathbf{p}+\mathbf{q}$ 与 $c\mathbf{p}$ 的次数仍不超过 $n$，公理 1、6 成立；公理 2、3、7–10 由实数性质保证；零多项式充当零向量，$(-1)\mathbf{p}$ 充当负向量。故 ${\mathbb{P}}_n$ 是向量空间。（${\mathbb{P}}_n$ 在数据的统计趋势分析等场合会用到。）

例 5：设 $V$ 是定义在集合 $D$ 上的全体实值函数（$D$ 通常为实数轴或其上的一个区间）。函数按通常方式相加：$\mathbf{f}+\mathbf{g}$ 是在每点 $t$ 取值 $\mathbf{f}(t)+\mathbf{g}(t)$ 的函数；数乘 $c\mathbf{f}$ 在每点取值 $c\mathbf{f}(t)$。例如 $D=\mathbb{R}$，$\mathbf{f}(t)=1+\sin 2t$，$\mathbf{g}(t)=2+0.5t$，则

图 4-7：两个向量（函数）的相加

$$(\mathbf{f}+\mathbf{g})(t)=3+\sin 2t+0.5t,(2\mathbf{g})(t)=4+t$$

$V$ 中两个函数相等，当且仅当它们在 $D$ 的每一点取值相等。于是 $V$ 的零向量是恒为零的函数（$\mathbf{f}(t)=0$ 对一切 $t$），$-\mathbf{f}$ 即 $(-1)\mathbf{f}$。公理 1、6 显然成立，其余由实数性质保证，故 $V$ 是向量空间。

常见坑

学例 5 时最重要的观念转变是：把每个函数整体看作一个”点”——向量空间中的一个向量。两个函数相加、一个函数被数乘，都可以像下图那样直观想象。带着这幅图景去学一般向量空间，${\mathbb{R}}^n$ 的几何直觉就能迁移过来。

4.1.2 子空间

很多问题中，向量空间其实是某个更大向量空间的一个合适的子集。这时十条公理只需要验证三条。

定义：子空间

向量空间 $V$ 的一个子空间是 $V$ 的一个满足以下三条性质的子集 $H$：

a. $V$ 的零向量在 $H$ 中； b. $H$ 对加法封闭：$H$ 中任意 $\mathbf{u},\mathbf{v}$，$\mathbf{u}+\mathbf{v}$ 也在 $H$ 中； c. $H$ 对数乘封闭：$H$ 中任意 $\mathbf{u}$ 和任意标量 $c$，$c\mathbf{u}$ 也在 $H$ 中。

这三条恰好是公理 1、4、6。其余公理为什么自动成立？公理 2、3、7–10 对 $V$ 的所有元素成立，自然也对 $H$ 中元素成立；公理 5 也成立，因为若 $\mathbf{u}\in H$，由 (c) 知 $(-1)\mathbf{u}\in H$，而前面已证 $(-1)\mathbf{u}=-\mathbf{u}$。

所以：每个子空间本身就是一个向量空间；反过来，任何向量空间都是它自身（以及可能的更大空间）的子空间。当至少涉及两个空间、一个套在另一个里面时才用”子空间”这个词，”$V$ 的子空间”表明 $V$ 是更大的那个。

图 4-8：$V$ 的一个子空间 $H$

例 6：仅由 $V$ 的零向量组成的集合是 $V$ 的子空间，称为零子空间，记作 $\{0\}$。

图 4-9：零子空间 $\{0\}$

例 7：设 $\mathbb{P}$ 是全体实系数多项式（运算方式与函数相同），则 $\mathbb{P}$ 是”全体实值函数”空间的子空间；而且对每个 $n\ge 0$，${\mathbb{P}}_n$ 是 $\mathbb{P}$ 的子空间——因为 ${\mathbb{P}}_n\subseteq \mathbb{P}$，含零多项式，且两个次数 $\le n$ 的多项式之和、其数乘仍在 ${\mathbb{P}}_n$ 中。

例 8：${\mathbb{R}}^2$ 不是 ${\mathbb{R}}^3$ 的子空间，因为 ${\mathbb{R}}^2$ 根本不是 ${\mathbb{R}}^3$ 的子集（${\mathbb{R}}^3$ 的向量有三个分量，${\mathbb{R}}^2$ 的只有两个）。但是集合

$$H=\left\{\left[\begin{array}{c}s\\ t\\ 0\end{array}\right]:s,t\text{ 为实数}\right\}$$

是 ${\mathbb{R}}^3$ 的子集，它”看起来”和”运行起来”都像 ${\mathbb{R}}^2$（尽管逻辑上与 ${\mathbb{R}}^2$ 是不同的集合）。证明 $H$ 是 ${\mathbb{R}}^3$ 的子空间。

解：零向量在 $H$ 中；$H$ 中向量相加、数乘后第三个分量仍是 0，故结果仍在 $H$ 中。三条性质都满足，$H$ 是 ${\mathbb{R}}^3$ 的子空间。

例 9：${\mathbb{R}}^3$ 中不经过原点的平面不是 ${\mathbb{R}}^3$ 的子空间，因为它不含 ${\mathbb{R}}^3$ 的零向量。同理，${\mathbb{R}}^2$ 中不过原点的直线（如下图）也不是 ${\mathbb{R}}^2$ 的子空间。

图 4-10：一条不是向量空间的直线（不过原点，加法/数乘会跑出去）

常见坑

检验子空间最快的一招：先看零向量在不在里面。不过原点的平面、直线、不包含 $(0,0)$ 的任何集合，直接一票否决。零向量在之后，再逐条验证对加法和数乘的封闭性。

4.1.3 由一组向量张成的子空间

描述子空间最常见的方式是”取若干向量的全部线性组合”。回忆第 1 章：$\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 表示由 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$ 的所有线性组合构成的集合。

例 10：设 ${\mathbf{v}}_1,{\mathbf{v}}_2$ 是向量空间 $V$ 中的向量，$H=\mathrm{Span}\{{\mathbf{v}}_1,{\mathbf{v}}_2\}$。证明 $H$ 是 $V$ 的子空间。

解：零向量在 $H$ 中，因为 $0=0{\mathbf{v}}_1+0{\mathbf{v}}_2$。为验证对加法封闭，取 $H$ 中任意两个向量

$$\mathbf{u}=s_1{\mathbf{v}}_1+s_2{\mathbf{v}}_2,\mathbf{w}=t_1{\mathbf{v}}_1+t_2{\mathbf{v}}_2$$

利用 $V$ 的公理 2、3、8：

$$\mathbf{u}+\mathbf{w}=(s_1{\mathbf{v}}_1+s_2{\mathbf{v}}_2)+(t_1{\mathbf{v}}_1+t_2{\mathbf{v}}_2)=(s_1+t_1){\mathbf{v}}_1+(s_2+t_2){\mathbf{v}}_2$$

所以 $\mathbf{u}+\mathbf{w}\in H$。再由公理 7、9，对任意标量 $c$：

$$c\mathbf{u}=c(s_1{\mathbf{v}}_1+s_2{\mathbf{v}}_2)=(c{s}_1){\mathbf{v}}_1+(c{s}_2){\mathbf{v}}_2\in H$$

对数乘也封闭。故 $H$ 是 $V$ 的子空间。

图 4-11：子空间的一个例子（由两个向量张成的过原点平面）

例 10 的论证很容易推广，得到：

定理 1

若 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$ 在向量空间 $V$ 中，则 $\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 是 $V$ 的子空间。

我们称 $\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 为由 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 张成（生成）的子空间；若子空间 $H$ 满足 $H=\mathrm{Span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 且 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\in H$，则 $\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_p\}$ 叫 $H$ 的一个张成集。