Vector Space (LADR Chapter 1)

2.9k
数学线性代数LADR

观察发现，诸如复数、空间向量、实值函数等数学对象的运算都满足封闭性，以及加法交换律、加法结合律、标量乘法结合律、分配律．这些数学对象和对应的加法、标量乘法构成了独属于它们的圈子．而这些圈子似乎都有某种共同的特点，总结这些共同的特点就是 Linear Algebra Done Right 第一章的主要任务．这一章节主要引入了向量空间 (线性空间) 这一概念，以统一这类数学对象运算的线性性．同时像集合子集那样，这一章节也引入了向量空间的子空间这一概念，子空间内元素的运算性质与所属向量空间的一致，这反映了向量空间整体与局部的相似性．

Rn\mathbf R^n 和 Cn\mathbf C^n ​

F\mathbf F ​

记号 F\mathbf F 一般代表 R\mathbf R 或 C\mathbf C，字母 F\mathbf F 源于域（field）．称 F\mathbf F 中的元素为标量（scalar）．

Fn\mathbf F^n ​

定义 ​

Fn={(x1,⋯ ,xn):xk∈F, k=1,⋯ ,n}\mathbf F^n = \{(x_1, \cdots, x_n) : x_k \in \mathbf F,\, k = 1, \cdots, n\}

这里 F\mathbf F 不一定代表 R\mathbf R 或 C\mathbf C，任何集合均可．记加法恒等元

0=(0,⋯ ,0)0 = (0, \cdots, 0)

依照上下文判断是 F\mathbf F 中的加法恒等元还是 Fn\mathbf F^n 中的加法恒等元．

加法、加法交换律、加法逆元 ​

Fn\mathbf F^n 中的加法定义为对应坐标相加：

(x1,⋯ ,xn)+(y1,⋯ ,yn)=(x1+y1,⋯ ,xn+yn)(x_1, \cdots, x_n) + (y_1, \cdots, y_n) = (x_1 + y_1, \cdots, x_n + y_n)

Fn\mathbf F^n 中的加法满足交换律：

∀ x,y∈Fn, x+y=y+x\forall\, x, y \in \mathbf F^n,\: x + y = y + x

对于 Fn\mathbf F^n 中的 xx 和 yy，若 x+y=0x + y = 0，则称 xx，yy 互为加法逆元，记 y=−xy = -x．容易证明对于 Fn\mathbf F^n 中任意的 xx，其加法逆元存在且唯一．

标量乘法 ​

若 λ∈F\lambda \in \mathbf F，则 Fn\mathbf F^n 中的标量乘法定义为：

λ(x1,⋯ ,xn)=(λx1,⋯ ,λxn)\lambda(x_1, \cdots, x_n) = (\lambda x_1, \cdots, \lambda x_n)

向量空间 ​

集合上的加法和标量乘法 ​

定义集合 VV 上的加法是一种映射 f:(u,v)→wf : (u, v) \rightarrow w，其中 u,v,w∈Vu, v, w \in V，记 w=u+vw = u + v．

定义集合 VV 上的标量乘法是一种映射 f:(λ,v)→wf : (\lambda, v) \rightarrow w，其中 λ∈F\lambda \in \mathbf F，v,w∈Vv, w \in V，记 w=λvw = \lambda v．

这里加法和标量乘法都是封闭的（closed）．

向量空间 ​

若集合 VV 定义了加法和 F\mathbf F 上的标量乘法，并且 VV 及其所有元素、加法、F\mathbf F 上的标量乘法满足：

  1. ⭐ 集合中存在加法恒等元（identity）∃ 0∈V,∀ v∈V,v+0=v\exists\,0 \in V, \forall\, v \in V, v + 0 = v；
  2. ⭐ 所有元素均存在加法逆元（inverse）∀ v∈V,∃ w∈V,v+w=0\forall\, v \in V, \exist\,w \in V, v + w = 0；
  3. 加法交换律（commutativity）∀ u,v∈V, u+v=v+u\forall\, u, v \in V,\: u + v = v + u；
  4. 加法结合律（associativity）∀ u,v,w∈V,(u+v)+w=u+(v+w)\forall\, u, v, w\in V, (u + v) + w = u + (v + w)；
  5. 标量集中存在标量乘法恒等元 ∃ 1∈F,∀ v∈V,1v=v\exists\,1\in \mathbf F, \forall\,v \in V, 1v=v；
  6. 标量乘法结合律 ∀ a,b∈F,∀ v∈V,a(bv)=(ab)v\forall\, a, b \in \mathbf F, \forall\, v \in V, a(bv)=(ab)v；
  7. 标量乘法左分配律（distributive properties）∀ λ∈F,∀ u,v∈V,λ(u+v)=λu+λv\forall\,\lambda\in\mathbf F, \forall\, u, v\in V, \lambda(u + v) = \lambda u + \lambda v；
  8. 标量乘法右分配律 ∀ λ,μ∈F,∀ v∈V,(λ+μ)v=λv+μv\forall\,\lambda,\mu\in\mathbf F, \forall\, v\in V, (\lambda + \mu)v = \lambda v + \mu v，

则称集合 VV 是 F\mathbf F 上的向量空间．向量空间中的元素被称为向量，或被称为点．

一般研究 R\mathbf R 上的向量空间，即实向量空间，也就是标量为实数的情况．

最小的向量空间是 {0}\{0\}，其中 00 是加法恒等元．所有的向量空间必含加法恒等元．

注意：空集 ⊘\oslash 不是向量空间，因为 ⊘\oslash 不满足向量空间定义的第一个条件，即不存在加法恒等元（注意存在量词放在命题句首）．

容易证明，加法恒等元唯一．

容易证明，加法逆元唯一．因此记号 −v-v 和 u−vu - v 可以使用．

  1. 标量 00 与任意向量相乘必得加法恒等元，即 0v=00v = 0；

证明：（标量乘法的右分配律）

0v=(0+0)v=0v+0v0v = (0 + 0)v = 0v + 0v

两边加上 0v0v 的逆元得（加法逆元存在，加法结合律）

0v+(−0v)=0v+(0v+(−0v))0v + (-0v) = 0v + (0v + (-0v))

即（加法逆元的定义）

0=0v0 = 0v

  1. 标量 −1-1 与任意向量相乘必得该向量的加法逆元，即 (−1)v=−v(-1)v = -v；
  2. 任意标量与加法恒等元相乘必得加法恒等元，即 λ0=0\lambda 0 = 0．

值函数空间 ​

定义 ​

FS={f∣f:S→F}\mathbf F^S = \{f \mid f:S\rightarrow \mathbf F\}

值函数集上的加法 ​

对于任意的 f,g∈FSf, g \in \mathbf F^S，若函数 h∈FSh \in \mathbf F^S 满足

∀ x∈S, h(x)=f(x)+g(x)\forall\, x \in S,\: h(x) = f(x) + g(x)

则称 hh 是 ff 与 gg 的和，记作 f+gf + g．

注意：等式左边是 FS\mathbf F^S 上的加法，等式右边是 F\mathbf F 上的加法．

值函数集上的标量乘法 ​

对于任意的 λ∈F\lambda \in \mathbf F 与 f∈FSf \in \mathbf F^S，若函数 g∈FSg \in \mathbf F^S 满足

∀ x∈S, g(x)=λf(x)\forall\, x \in S,\: g(x) = \lambda f(x)

则称 gg 是 ff 的乘积，记作 λf\lambda f．

性质 ​

容易证明，值函数集是向量空间．

向量空间的子空间 ​

在向量空间中，相比对任意子集，我们对子空间更感兴趣．

子空间 ​

定义 ​

设 UU，VV 均为 F\mathbf F 上的向量空间，且

  1. ⭐ U⊂VU \sub V；
  2. ⭐ UU 的加法、标量乘法与 VV 的加法、标量乘法相同（即向量空间的八个条件相同）；
  3. UU 的加法恒等元与 VV 的加法恒等元相同．

则称 UU 是 VV 的子空间，最简单的子空间是 {0}\{0\}．

注意：仅条件 2 成立并不能保证加法恒等元相同（只保证各自的加法恒等元存在．两个向量空间分别有各自的加法恒等元，比如向量空间 UU 围绕着 0u0_u 存在（∃ 0u∈U\exists\, 0_u \in U），向量空间 VV 围绕着 0v0_v 存在（∃ 0v∈U\exists\, 0_v \in U）），不过可以保证各自的乘法恒等元保持一致（因为都是 ∃ 1∈F\exists\,1 \in \mathbf F）．

但事实上，条件 3 可由条件 1 和条件 2 共同导出：

在 UU 中，

u+0u=uu + 0_u = u

因为 U⊂VU \sub V，所以 u,0u∈Vu, 0_u \in V，故 0u=0v0_u = 0_v．

判定方法 ​

集合 UU 是向量空间 VV 的子空间，当且仅当

  1. U⊂VU \sub V；
  2. ⭐ 父集的加法恒等元在子集中，即 0v∈U0_v \in U；
  3. 子集的加法、标量乘法（映射）分别是父集的加法、标量乘法（映射）的子集；
  4. ⭐ 在父集的加法下，子集是封闭的，即 ∀ u1,u2∈U,u1+u2∈U\forall\, u_1, u_2 \in U, u_1 + u_2 \in U；
  5. ⭐ 在父集的标量乘法下，子集也是封闭的，即 ∀ λ∈F,∀ u∈U,λu∈U\forall\, \lambda \in F, \forall\, u \in U, \lambda u \in U；

必要性（⇒\Rightarrow）是显然的，下面证明充分性（⇐\Leftarrow）：U⊂VU \sub V 直接被证明，下面证明八个条件：

  1. UU 的加法恒等元存在：对于任意的 u∈Uu \in U，都有 u∈Vu \in V (条件 1)，因此在向量空间 VV 中，

    u+0v=uu + 0_v = u

    而 0v∈U0_v \in U（条件 2），故 0u=0v0_u = 0_v；

  2. UU 中所有元素均存在加法逆元：对于任意的 u∈Uu \in U，都有 (−1)u∈U(-1)u \in U（条件 5），即 −u∈U-u \in U；

  3. 剩余的条件均可由条件 3 配合条件 4，5 直接导出．

一些子空间的例子 ​

  1. 极限为 0 的数列的线性组合，其极限仍为 0，即 {z:lim⁡z=0}\{z : \lim z = 0\} 是 C∞\mathbf C^\infty 的子空间；
  2. 连续函数的线性组合必连续，即 {f∈RD:f is continuous}\{f \in \mathbf R^D : f \text{ is continuous}\} 是 RD\mathbf R^D 的子空间；
  3. 可微函数的线性组合必可微，即 {f∈RD:f is differentiable}\{f \in \mathbf R^D : f \text{ is differentiable}\} 是 RD\mathbf R^D 的子空间；

子空间的和 ​

子空间的并往往就不是子空间了，因此我们对子空间的和更感兴趣．

定义 ​

设 V1,⋯ ,VmV_1, \cdots, V_m 均为 VV 的子空间，定义它们的和（sum）

V1+⋯+Vm={v1+⋯+vm:vi∈Vi, i=1,⋯ ,m}V_1 + \cdots + V_m = \{v_1 + \cdots + v_m : v_i \in V_i,\, i = 1, \cdots, m\}

性质 ​

  1. ⭐ V1+⋯+VmV_1 + \cdots + V_m 是 VV 的子空间；

  2. V1+⋯+VmV_1 + \cdots + V_m 是包含 V1,⋯ ,VmV_1, \cdots, V_m 的 VV 的最小子空间．

    也就是说，若子空间 UU 包含 V1,⋯ ,VmV_1, \cdots, V_m，则必包含 V1+⋯+VmV_1 + \cdots + V_m．

    也就是说，包含了 V1,⋯ ,VmV_1, \cdots, V_m 的 UU 是子空间的必要条件是：UU 包含 V1+⋯+VmV_1 + \cdots + V_m．

性质 1 易证，性质 2 类似于「包含若干子集的最小子集正是这些子集的并」，因为「包含若干子集的子集也都包含这些子集的并」．

形象的解释就是：挖去 V1+⋯+VmV_1 + \cdots + V_m 中任意子集都会导出不封闭或者不包含 ViV_i（仅能形象解释，无法证明）．正式的证明是：对任意的 ii，取

∀ vi=01+⋯+vi+⋯+0m∈V1+⋯+Vm\forall\, v_i =0_1+\cdots+v_i+\cdots+0_m \in V_1 + \cdots + V_m

故 Vi⊂V1+⋯+VmV_i \sub V_1 + \cdots + V_m，即 V1+⋯+VmV_1 + \cdots + V_m 是包含 V1,⋯ ,VmV_1, \cdots, V_m 的 VV 的子空间．

设 VV 的任何一个包含 ViV_i 的子空间 UU，则 UU 必包含 V1+⋯+VmV_1 + \cdots + V_m，不凭别的，就凭 UU 包含了所有 ViV_i（也就是说，所有 viv_i 也都在 UU 里），并且 UU 是封闭的（结合前面提到的「所有 viv_i 也都在 UU 里」，有限个 viv_i 的和（也就是 V1+⋯+VmV_1 + \cdots + V_m 的元素）封闭在 UU 内）．

形象地说，UU 由于自身的封闭性，不得不接受 ViV_i 共创的所有“产物”，从而包含了 V1+⋯+VmV_1 + \cdots + V_m．

  1. U+U=UU + U = U；

由 UU 的封闭性直接导出．

  1. ⭐ 子空间和的交换律：U+W=W+UU + W = W + U；
  2. ⭐ 子空间和的结合律：(V1+V2)+V3=V1+(V2+V3)(V_1 + V_2) + V_3 = V_1 + (V_2 + V_3)；

由向量空间的加法交换律和加法结合律直接导出．

  1. 子空间和的加法恒等元：零子空间 {(01,⋯ ,0m)}={(0,⋯ ,0)}\{(0_1, \cdots, 0_m)\} = \{(0, \cdots, 0)\}；
  2. 只有零子空间有加法逆元．

由性质 3 及反证法可推出．

例子 ​

UUWWU+WU+W
{(x,0,0)∈F3}\{(x, 0, 0)\in\mathbf F^3\}{(0,y,0)∈F3}\{(0, y, 0)\in\mathbf F^3\}{(x,y,0)∈F3}\{(x, y, 0)\in\mathbf F^3\}
{(x,x,y,y)∈F4}\{(x, x, y, y)\in\mathbf F^4\}{(x,x,x,y)∈F4}\{(x, x, x, y)\in\mathbf F^4\}{(x,x,y,z)∈F3}\{(x, x, y, z)\in\mathbf F^3\}

子空间的直和 ​

定义 ​

设 V1,⋯ ,VmV_1, \cdots, V_m 均为 VV 的子空间，如果 V1+⋯+VmV_1 + \cdots + V_m 中的每个元素都能用 v1+⋯+vmv_1 + \cdots + v_m 这个形式唯一地表示出来，则称 V1+⋯+VmV_1 + \cdots + V_m 为直和（direct sum），记作 V1⊕⋯⊕VmV_1 \oplus \cdots \oplus V_m．

在 3.2.3 中表格的第一行的例子正是直和，第二行的例子不是直和．

性质 ​

  1. V1+⋯+VmV_1 + \cdots + V_m 是直和，当且仅当用 v1+⋯+vmv_1 + \cdots + v_m 表示 00 的方式是唯一的；
  2. ⭐ U+WU + W 是直和，当且仅当 U∩W={0}U \cap W = \{0\}．

性质 1 不难证明，向量做差结合封闭性即可得证．

性质 2 类似于「子集的不相交并」，下面证明性质 2：

必要性（⇒\Rightarrow）：任取 v∈U∩Wv \in U \cap W，则 v∈Uv \in U，于是我们根据 vv 找到了 00 的一个表示是 0=v+(−v)0 = v + (-v)；又因为 v∈Wv \in W，也就是说我们又找到了 0 的一个表示是 0=(−v)+v0 = (-v) + v，由于 00 的表示唯一，

{v=−v−v=v\begin{cases} v = -v \\ -v = v \end{cases}

解得 v=0v = 0．也就是说从 U∩WU \cap W 取出的元素都是 00，于是 U∩W={0}U \cap W = \{0\}．

充分性（⇐\Leftarrow）：根据性质 1，只需证明 00 的表示 0=u+w0 = u + w 是唯一的．

显然 w=−u∈Uw = -u \in U（UU 的封闭性），又因为 w∈Ww \in W，因此 w∈U∩Ww \in U \cap W，故 w=0w = 0，u=−w=0u = -w = 0，这说明在 00 的表示中，uu 和 ww 只能为 00，是唯一的．

注意：性质 2 仅使用于两个子空间的情况，原因显然．

Finite-Dimensional Vector Space (LADR Chapter 2)
神奇的位运算