Linear Algebra Done Right 的第二章讲解了有限维向量空间的性质.这个章节通过张成向量组和无关向量组,管中窥豹地揭示了有限维向量空间的特点,从而引入了基和维数这两个基本工具,这让我们能够更容易把握某个向量空间的基本特征.
张成空间和线性无关性
线性组合
V 中一个向量组 v1,⋯,vm 的 线性组合 是向量
a1v1+⋯+amvm
其中 ai∈F,i=1,⋯,m.
张成空间
定义
V 中向量组 v1,⋯,vm 所有的线性组合所构成的集合即为 张成空间 (span)
span(v1,⋯,vm)={a1v1+⋯+amvm:ai∈F,i=1,⋯,m}
定义空向量组 () 的张成空间为 {0},即 span()={0}.
性质
- ⭐ span(v1,⋯,vm) 是 V 的子空间;
证明:加法恒等元 0=0v1+⋯+0vm∈span(v1,⋯,vm);
易证 span(v1,⋯,vm) 对加法和标量乘法都封闭.
- span(v1,⋯,vm) 是包含 vi 的 V 的最小子空间.
证明:思路与「证明子空间的和是包含所有这些子空间的最小子空间」一致,利用 V 的封闭性即可得出结论.
张成
如果 span(v1,⋯,vm)=V,那么称向量组 v1,⋯,vm 张成 (spans) V.
有限维向量空间
如果一个向量空间能够由某个有限长度的向量组张成得来,那么称该向量空间是 有限维的 (finite-dimensional),否则称是 无限维的 (infinite-dimensional).
Fn 就是有限维向量空间,因为可由 (1,⋯,0),⋯,(0,⋯,1) 张成得来.
多项式空间
多项式
函数 p:F→F 满足
p(z)=a0+a1z+a2z2+⋯+amzm
其中 ai∈F,i=0,1,2,⋯,m,则称函数 p 为系数在 F 中的 多项式.
由反证法可知,多项式 (函数) 的系数由多项式 (函数) 唯一决定.
如果 am=0,则称 p 的 次数 是 m,记作 degp=m.
规定恒等于 0 的多项式的次数为 −∞,并规定 −∞<m.
多项式空间
系数在 F 中的全体多项式所构成的集合记作 P(F).
系数在 F 中,且次数不高于 m 的全体多项式所构成的集合记作 Pm(F).
- P(F) 是 FF 的子空间;
- Pm(F)=span(1,z,⋯.zm).
这里 zk 是函数 f:z→zk 而不是值,向量空间 P(F) 里的向量都是函数.
可见 P(F) 是无限维向量空间,而 Pm(F) 是有限维向量空间.
线性无关
引入
考虑 span(v1,⋯,vm) 中的一个向量 v,由张成空间的定义得知,存在 ai∈F,使得
v=a1v1+⋯+amvm
v 的表示是否唯一?假设将其与另一表示相减,即可转化成线性无关的定义:
定义
如果 V 中向量组 v1,⋯,vm 的线性组合
a1v1+⋯+amvm=0
的充要条件是 ai=0,i=1,⋯,m,则称该向量组是 线性无关的 (linearly independent),否则称是 线性相关的 (linearly dependent).
规定空向量组 () 是线性无关的.
性质
- 向量组 v1,⋯,vm 是线性无关的,当且仅当 span(v1,⋯,vm) 中的每个向量都能被唯一地表示成 v1,⋯,vm 的线性组合;
- 线性无关组中任意长度的向量组都是线性无关的;
- 在向量组中,若存在向量是若干其他向量的线性组合,则整个向量组是线性相关的;
- ⭐ (线性相关性引理) 在线性相关组 v1,⋯,vm 中,必存在 vk,使得 vk∈span(v1,⋯,vk−1);更进一步,移除 vk 后,向量组的张成空间不变;
- 特别地,当上面的 k 取得最小值时,v1,⋯,vk−1 是线性无关组;
- ⭐ (无关组长度存在上界) 有限维向量空间 V 中,无关组的长度不能超过张成组的长度,也就是说,∀span(v1,⋯,vn)=V,对于线性无关组 u1,⋯,um,都有 m≤n;
性质 6 的证明依赖于用 u 替换张成组向量 v 的过程:
设张成组 B0=(v1,⋯,vn),
第一步,将 u1 插在 B0 的最前面,得到向量组 B0′=(u1,v1,⋯,vn),
因 u1∈V=spanB0,故 B0′ 线性相关,并仍张成 V,根据线性相关性引理,我们一定能找出 B0′ 中的某个向量,剔除它后仍张成 V.但它不能是 u1,这是因为排在它前面的向量组是 (),其张成空间是 {0} ,但 u1∈/{0},因此某个 vj 被剔除,我们得到了新的向量组 B1,并且 spanB1=V.
第 k 步:此时 Bk−1=(u1,⋯,uk−1,⋯,vj,⋯),满足 spanBk−1=V.
让 uk 紧跟 uk−1,得到向量组 Bk−1′=(u1,⋯,uk,⋯,vj,⋯),因uk∈V=spanBk−1,故 Bk−1′ 线性相关,并仍张成 V,根据线性相关性引理,我们一定能找出 Bk−1′ 中的某个向量,剔除它后仍张成 V.但它不能是某个 ui,这是因为向量组 (u1,⋯,ui) 线性无关,ui∈/span(u1,⋯,ui−1) ,故某个 vj 被剔除,我们得到了新的向量组 Bk,并且 spanBk=V.
假如 m>n,那么第 n 步完成后,Bn=(u1,⋯,un),spanBn=V,试将 un+1 插入 Bn 中,并紧随 un 后面,得到向量组 Bn+1′=(u1,⋯,un+1),但因 un+1∈V=spanBn,故 Bn+1′ 线性相关,而这与 (u1,⋯,un+1) 无关矛盾.
故 m≤n.
- 有限维向量空间的子空间都是有限维的.
证明:只需要努力扩充线性无关组使它成为子空间的张成组即可.
在扩充过程中,假如现在的无关组是 (u1,⋯,uk−1),那么如果还是不能张成子空间 U,根据子空间的封闭性,span(u1,⋯,uk−1)⊂U,但又 span(u1,⋯,uk−1)=U,因此我们总能在 U 中找出 uk∈/span(u1,⋯,uk−1) 用于扩充无关组.
由于扩充的线性无关组长度存在上界,因此扩充的过程是可以终止的,最终能得到子空间的张成组.
例子
多项式 1,z,⋯,zm 是线性无关的;
长度为 1 的线性无关组里的向量只能是非零向量;
长度为 2 的线性无关组里的两个向量必共线,即任一向量都互为另一向量的标量倍;
如果向量组中存在 0,则该向量必然线性相关.换言之,线性无关组的向量都非零;
长度小于 n 的向量组不可能张成 Rn.类似地,P4(F) 中可能存在包括五个多项式的线性无关组,但一定不存在包括六个多项式的线性无关组;
只需构造 n 个正交基底即可借助性质 6 运用反证法得证;
实向量空间 C 中,向量组 1+i,1−i 线性无关;
复向量空间 C 中,向量组 1+i,1−i 线性相关,因为 1+i=i(1−i);
设 v1,⋯,vm 在 V 中线性无关, w∈V,如果 v1+w,⋯,vm+w 线性相关,那么 w∈span(v1,⋯,vm);
证明:容易得到
−(a1+⋯+am)w=a1v1+⋯+amvm
反证法得到 a1+⋯+am=0,从而得到 w∈span(c1,⋯,vm).
- ⭐ 设 v1,⋯,vm 在 V 中线性无关, w∈V.容易证明:v1,⋯,vm,w 线性无关当且仅当 w∈/span(v1,⋯,vm);
例 9 是证明向量组线性无关的重要方法.
灵活运用逆否命题和反证法即可.
- ⭐ V 是无限维的,当且仅当在 V 中存在无穷序列 {vi},使得 ∀m∈N+,v1,⋯,vm 线性无关;
例 10 是证明向量空间是无限维的重要方法.
证明:必要性 (⇒):因为 V 是无限维的,有限长度 0 的向量组 () 以及有限长度 1 的非零向量组 w 均无法张成 V,因此 V={0},我们就能在 V 中找出 v1=0,此时向量组 v1 线性无关.
假设已经找到了线性无关组 v1,⋯,vk,由于 V 是无限维的,我们找不到有限长度的向量组能够张成 V,故 span(v1,⋯,vk)=V,但又 span(v1,⋯,vk)⊂V,因此总能在 V 中找出 vk+1∈/span(v1,⋯,vk),(根据例 9) 我们从而找到了新的线性无关向量组 v1,⋯,vk.
于是我们就构造出了无穷序列 {vi},使得 ∀m∈N+,v1,⋯,vm 线性无关.
充分性 (⇐):假设 V 是有限维的,那么 V 就存在有限长度的张成组,也就是说,V 中的线性无关组长度存在上界,但这与条件显然矛盾:因为我们可以取 m=n+1,此时无关组长度超过了张成组长度.
F∞ 是无限维的;
由区间 [0,1] 上的所有连续实值函数构成的实向量空间也是无限维的;
根据例 10,这些都能通过构造无关组的无穷序列得证.
- 设 p0,p1,⋯,pm∈Pm(F),且 pi(2)=0,则 p0,p1,⋯,pm 在 Pm(F) 中线性相关.
想象两条共零点的一次函数,三条共零点的二次函数,联系代数基本定理进行因式分解,无关组长度存在上界.
基
我们都知道无关组长度存在上界,那么当无关组长度似乎达到上确界的时候会发生什么?
定义
能够张成 V 的线性无关组,就是 V 的一个 基 (basis).
性质
(基的判定准则) V 中某个向量组 v1,⋯,vn 是 V 的基,当且仅当 V 中任何向量 v 都能被唯一地写成线性组合的形式:v=a1v1+⋯+anvn,ai∈F,i=1,⋯,n;
⭐ 每个张成组都能被剃成基,也就是说:张成组长度 ≥ 维数;
证明:设 v1,⋯,vn 张成 V.构造过程 (剔除法):
第一步,如果 v1=0,那么剔除 v1,否则保留;
第 k 步,如果 vk 落在前面 span(v1,⋯,vk−1) 里 (这里 (v1,⋯,vk−1) 中的某些向量可能已被剔除),那么剔除 vk,否则保留;
可以看到,每次剔除始终保证前面的向量组线性无关.而且根据线性相关引理,每次剔除后的张成空间仍为 V.因此完成第 n 步即可得到一个基.
强调:剔除法:张成组 → 基.
- 有限维向量空间都有基;
因为根据有限维向量空间的定义,它存在张成组,而张成组又包含基.
- ⭐ 每个无关组都能被扩成基,也就是说:无关组长度 ≤ 维数;
证明:考虑将无关组 u1,⋯,um 拼在某张成组 w1,⋯,wn 的前面,那么得到的新的向量组显然也是一个张成组,根据性质 2,运用剔除法即可得到一个基.在此期间,无关组 u1,⋯,um 中的任何向量从未被剔除,因此最终得到的基可视作基于无关组 u1,⋯,um 扩充的结果.
- ⭐ (向量空间的直和分解) 有限维向量空间 V 的子空间 U 关于 V 的“直和补” W 也是子空间,即存在子空间 W,使得 V=U⊕W.
证明:显然 U 是有限维的,取其基 u1,⋯,um,显然在 V 中线性无关,将 U 的基扩充为 V 的基 u1,⋯,um,w1,⋯,wn,设 W=span(w1,⋯,wn),则 W 正是“直和补”.
为了证明 V=U⊕W,只需证明 V=U+W,且 U∩W={0}.
因为 V 的基张成 V,所以 V 中任一向量 v 可表示成
v=a1u1+⋯+amum+b1w1+⋯+bnwn=u+w
u∈U,w∈W,故 V=U+W;
设 v0∈U∩W,只需证明 v0=0,而这并不难,利用 V 的基线性无关即可.
- 基的长度不依赖于基的选取.
证明:设 V 的两个不同的基 B1 和 B2,其中 B1 线性无关,B2 张成 V,那么 B1 的长度不超过 B2 的长度;同理 B2 的长度不超过 B1 的长度;于是向量空间所有基的长度都是相同的.
例子
- 向量组 1,z,⋯,zm 是 Pm(F) 的一个基,也被称作标准基;
- 向量组 (1,−1,0),(1,0,−1) 是 P={(x,y,z)∈F3:x+y+z=0} 的一个基;
一方面,(1,−1,0),(1,0,−1) 是线性无关组;另一方面,
a1(1,−1,0)+a2(1,0,−1)=(a1+a2,−a1,−a2)∈P
即 span((1,−1,0),(1,0,−1))⊂P.令 (a1+a2,−a1,−a2)=(x,y,z),解得
(a1,a2)=(−y,−z)∈F2
此时
(x,y,z)=(−y)(1,−1,0)+(−z)(1,0,−1)
故 P⊂span((1,−1,0),(1,0,−1)),从而 span((1,−1,0),(1,0,−1))=P.
- ⭐ 设 V 是有限维的,U 和 W 都是 V 的子空间,且 V=U+W,那么存在由 U∪W 中向量组成的 V 的基;
解说:V 的维度由两个子空间 U 和 V 的维度“张成”而来,但 U 和 V 在维度上是“杂糅”的,并没有“独立”,V 的基混在 U∪W 里.
证明:取 U 和 W 的基分别为 u1,⋯,um 和 w1,⋯,wn,则 ∀v∈V,
v=u+w=a1u1+⋯+amum+b1w1+⋯+bnwn
u∈U,w∈W,ai,bi∈F,故 span(u1,⋯,um,w1,⋯,wn)=V,运用剔除法即可得到 V 的一个基,这个基由 U∪W 中向量组成.
- ⭐ 有限维向量空间 V 的直和分解 V=U⊕W 中, U 和 W 是 V 的子空间,则 U 基和 W 基共同构成 V 的基.
解说:V 的维度被“切”成两半,一半维度给了 U,另一半维度给了 W,而基的作用就是“提供维度”,因此 V 的基也被成了两组,一组给了 U,另一组给了 W.
证明:显然 U 基和 W 基共同张成 V,只需证明 U 基和 W 基共同构成线性无关组即可.由于 U∩W={0},结合 wi∈W 且 wi=0 容易得到 wi∈/span(u1,⋯,um),最终容易得到 U 基和 W 基共同构成线性无关组.
维数
有限维向量空间基的长度不依赖于基的选取,这个长度似乎反映了向量空间的某种性质.
定义
有限维向量空间 V 的 维数 (dimension) 就是任一基的长度,记作 dimV.
性质
- ⭐ 设 V 是有限维的,长度为 dimV 的无关组必为 V 的基;
只要长度恰当,我们就终于不用煞费苦心地验证无关组是否张成 V 了.这个无关组扩充的时候没有添加任何新的向量,自动证明了这样的无关组必定是基.
- 设 V 是有限维的,长度为 dimV 的张成组必为 V 的基;
只要长度恰当,我们就终于不用煞费苦心地验证张成组是否无关了.
- ⭐ V 是有限维的,U 是 V 的子空间,则 dimU≤dimV,等号仅在 U=V 时成立;
把 U 的基看成 V 中的无关组,把 V 的基看成张成组即可得到 dimU≤dimV,结合性质 1 可得等号的成立条件.
- ⭐ (维数定理) 设 U,W 为同一有限维向量空间的子空间,则
dim(U+W)=dimU+dimW−dim(U∩W)
特别地,若为直和,则有 (就像不相交并的元素个数一样)dim(U⊕W⊕⋯)=dimU+dimW+⋯
证明思路:以 U∩W 的基 vi 为根基,分别向 U 和 W 扩基得到 ui 和 wi ,欲证明这三部分基 ui,vi,wi 拼在一起就是 U+W 的基.显然这些向量能够张成 U+W,重点证明它们的无关性.
这里要明确线性无关的本质:将无关组任意分成任意组,每个无关组张成的空间,彼此交集仅在零向量处.上面所述等价于任意分成两组.(实际上我们为待确定无关性的组安排构造路径时,只需要构造一条即可,因为这条路径走完后,整个组瞬间就无关了,此时无关组分组的任意性就保证了其他所有分组方式都能满足「每个无关组张成的空间,彼此交集仅在零向量处」,因此其它所有路径,一路走到黑,最后还是得到无关的结论.)
假设 (ui,vi,wi) 相关.想象它原本是无关的,某个无关组的加入使它变成相关的了,这中途 ()→(vi)→(vi,ui)→(vi,ui,wi) 只有以下情况:
- 是 wi 基的加入破坏了 (vi,ui) 的无关性 (这个无关性是假设出来的,实际加入过程是情况 3, 2, 1 倒过来看的):假设 wi 张成空间中一向量 w 落在了 U(ui,vi) 中,由于 w 也在 W(vi,wi) 中,因此 w 只能在 (U∩W)(vi),这意味着我们这样做反倒使得 W(vi,wi) 基的无关性被破坏了(wi 张出来的向量进了 vi 张成空间里面),这种情况不可取;
- 是 ui 基的加入破坏了 (vi) 的无关性:U(ui,vi) 基本来就是无关的,这种情况显然不可能;
- 是 vi 基的加入破坏了 () 的无关性:vi 基是无关的,显然不可能.
这几种情况都不可能,于是 (ui,vi,wi) 无关,它成为了 U+W 的基.
例子
- 如果 U={(x,y,z)∈F3:x+y+z=0},那么 dimU=2,因为 U 的一个基是 (1,−1,0),(1,0,−1),它的长度是 2;
可以说,找到了基就找到了维数,求维数的直接方法就是找基.
- 现有 P3(R) 一子空间 U={p∈P3(R):p′(5)=0},尝试寻找它的一个基;
重点是找出 U 的维数.
- 先在 U 里面找几个向量再说:不难找出向量 1,(x−5)2,(x−5)3 在 U 里 (x−5 不在里面哦);
- 再看看它们的无关性是否优良:不难验证它们线性无关;
- 由于无关组都能够被扩成基,这保证 U 基长度的下限,也就是 U 维数的下限:3≤dimU;
- 由于子空间的维数存在上界,dimU≤dimP3(R)=4,那等号能否成立?就看 U 是否就是 P3(R).因为 P3(R) 更大,我们尝试在 P3(R) 里找几个向量看看,发现 x−3 不在 U 里面,于是 U=P3(R),我们就有dimU<dimP3(R)=4;
- 于是 3≤dimU<4,从而 dimU=3,长度为 dimU 的无关组必为 U 的基,我们找到了 U 一个基 1,(x−5)2,(x−5)3;
- 设 v1,⋯,vm 在 V 中线性无关,w∈V,证明:
dimspan(v1+w,⋯,vm+w)≥m−1
证明:张成组必能剃成基,这说明张成空间最多就 m 维 (也就是没剃),于是待证维数要么为 m−1,要么为 m.
注意无关组 vi,每个向量被加上了 w,但我们并不知道 w 在不在这个无关组的张成空间里面.如果在里面,那么新的向量组就相关了,反之则保持无关,这个问题于是变得棘手起来.
在张成组现有向量里消除 w 的方法自然是向量互减,得到 v2−v1,v3−v2,⋯,vm−vm−1,而它们显然无关,并且还在张成空间里面.
无关组长度为 m−1,并且能够扩成基,于是张成空间维数自然不低于 m−1,问题得证.
- 在十维向量空间 V 中有子空间 V1,V2,V3,其中 dimV1=dimV2=dimV3=7,证明:V1∩V2∩V3={0}.
证明:容易联想到维数定理,先从 V1∩V2 下手:
dim(V1∩V2)=dimV1+dimV2−dim(V1+V2)
由于 V1+V2 是 V 的子空间,因此 dim(V1+V2)≤dimV=10,故
dim(V1∩V2)≥7+7−10=4
现在关注 V1∩V2∩V3,有
[l]dim(V1∩V2∩V3)=dim(V1∩V2)+dimV3−dim(V1∩V2+V3)≥4+7−dim(V1∩V2+V3)=11−dim(V1∩V2+V3)
其中 V1∩V2 是子空间,因此 V1∩V2+V3 也是子空间,故
dim(V1∩V2∩V3)≥11−10=1
从而 V1∩V2∩V3={0}.