Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

附录 A · 延伸证明与推导

正文出于课程进度与篇幅的考虑,有几处结论「先当事实用」(重数不等式、迹与行列式、Cayley–Hamilton),有几处推广「只埋伏笔」(高维体积、极化、伪逆)。本附录把这些欠账一次还清:每一条都给出只用本教程已学工具的完整推导,并注明它兑现的是正文哪一处预告。各节彼此独立,可按需取读。

定位说明。附录内容超出本课程考核范围:考试仍以正文为界。读它的目的有二——看清正文里「先当事实用」的话都是有证明的;以及为后续课程(谱理论、数值代数、广义逆)提前搭好骨架。编号规则:附录内的盒子按 A.1、A.2……独立编排。

本附录兑现正文的哪一处需要的预备
A.1 极化恒等式2.5 ②⟹③ 里的「极化」技巧1.5 长度与内积
A.2 Gram 行列式 = 体积²1.5.4 的「高维体积」思考框1.4 Gram 矩阵、1.6.7 正交投影
A.3 迹、行列式与特征值2.4.2 的盘点清单行列式展开、根与系数
A.4 几何重数 ≤ 代数重数2.4.3 的重数不等式1.3 基扩充、2.4 相似不变量
A.5 Cayley–Hamilton 定理1.1.6 的课程预告伴随矩阵、矩阵多项式
A.6 正定矩阵的开方 A=CᴴC1.4.3 加权内积与 1.6.8 正线上三角1.5.6 Gram–Schmidt
A.7 Bessel 不等式与 Parseval 等式1.5.7 三角函数系与傅里叶系数1.6 正交投影、1.5.2 C–S
A.8 Moore–Penrose 伪逆3.2.4 的课程预告3.1、3.2 单侧逆与满秩分解

A.1 极化恒等式:范数记住了内积的全部信息

2.5 证明「保长度 ⟹ 保内积」时,技巧是把两个向量打包成 qi+tqj\boldsymbol{q}_i+t\boldsymbol{q}_j 再比较长度。这个技巧的终极形式是一个恒等式:内积可以由长度完全恢复。

命题 A.1 · 极化恒等式

设 VV 是内积空间(本教程约定:第一变元线性、第二变元共轭线性),则对任意 x,y∈V\boldsymbol{x},\boldsymbol{y}\in V:

Re⁡(x,y)=14(∥x+y∥2−∥x−y∥2),\operatorname{Re}(\boldsymbol{x},\boldsymbol{y})=\frac14\Big(\|\boldsymbol{x}+\boldsymbol{y}\|^2-\|\boldsymbol{x}-\boldsymbol{y}\|^2\Big),

Im⁡(x,y)=14(∥x+iy∥2−∥x−iy∥2),\operatorname{Im}(\boldsymbol{x},\boldsymbol{y})=\frac14\Big(\|\boldsymbol{x}+i\boldsymbol{y}\|^2-\|\boldsymbol{x}-i\boldsymbol{y}\|^2\Big),

实内积空间中 (x,y)(\boldsymbol{x},\boldsymbol{y}) 本身是实数,只需第一式。

证

按「第一变元线性、第二变元共轭线性」展开(ii 出现在第二变元时要带走一个共轭):

∥x+y∥2=(x,x)+(x,y)+(y,x)+(y,y)=∥x∥2+∥y∥2+(x,y)+(x,y)‾,\|\boldsymbol{x}+\boldsymbol{y}\|^2=(\boldsymbol{x},\boldsymbol{x})+(\boldsymbol{x},\boldsymbol{y})+(\boldsymbol{y},\boldsymbol{x})+(\boldsymbol{y},\boldsymbol{y})=\|\boldsymbol{x}\|^2+\|\boldsymbol{y}\|^2+(\boldsymbol{x},\boldsymbol{y})+\overline{(\boldsymbol{x},\boldsymbol{y})},

∥x−y∥2=∥x∥2+∥y∥2−(x,y)−(x,y)‾.\|\boldsymbol{x}-\boldsymbol{y}\|^2=\|\boldsymbol{x}\|^2+\|\boldsymbol{y}\|^2-(\boldsymbol{x},\boldsymbol{y})-\overline{(\boldsymbol{x},\boldsymbol{y})}.

两式相减,得 4Re⁡(x,y)4\operatorname{Re}(\boldsymbol{x},\boldsymbol{y})。再把 y\boldsymbol{y} 换成 iyi\boldsymbol{y}(注意 (x,iy)=i‾ (x,y)=−i(x,y)(\boldsymbol{x},i\boldsymbol{y})=\overline{i}\,(\boldsymbol{x},\boldsymbol{y})=-i(\boldsymbol{x},\boldsymbol{y}),(iy,x)=i(y,x)=i (x,y)‾(i\boldsymbol{y},\boldsymbol{x})=i(\boldsymbol{y},\boldsymbol{x})=i\,\overline{(\boldsymbol{x},\boldsymbol{y})}):

∥x+iy∥2−∥x−iy∥2=−2i(x,y)+2i (x,y)‾=4 Im⁡(x,y)\|\boldsymbol{x}+i\boldsymbol{y}\|^2-\|\boldsymbol{x}-i\boldsymbol{y}\|^2=-2i(\boldsymbol{x},\boldsymbol{y})+2i\,\overline{(\boldsymbol{x},\boldsymbol{y})}=4\,\operatorname{Im}(\boldsymbol{x},\boldsymbol{y})

(设 (x,y)=a+b i(\boldsymbol{x},\boldsymbol{y})=a+b\,i:−2i(a+bi)+2i(a−bi)=(−2ia+2b)+(2ia+2b)=4b-2i(a+bi)+2i(a-bi)=(-2ia+2b)+(2ia+2b)=4b。)两式合并即得

(x,y)=14(∥x+y∥2−∥x−y∥2+i∥x+iy∥2−i∥x−iy∥2).■(\boldsymbol{x},\boldsymbol{y})=\frac14\Big(\|\boldsymbol{x}+\boldsymbol{y}\|^2-\|\boldsymbol{x}-\boldsymbol{y}\|^2+i\|\boldsymbol{x}+i\boldsymbol{y}\|^2-i\|\boldsymbol{x}-i\boldsymbol{y}\|^2\Big).\qquad\blacksquare

∎
推论 A.1 · 三个直接应用
  1. 保长度的线性变换自动保内积:若 TT 线性且 ∥Tx∥=∥x∥\|T\boldsymbol{x}\|=\|\boldsymbol{x}\| 对一切 x\boldsymbol{x},则对右边的每个范数有 ∥x±y∥=∥Tx±Ty∥\|\boldsymbol{x}\pm\boldsymbol{y}\|=\|T\boldsymbol{x}\pm T\boldsymbol{y}\|、∥x±iy∥=∥Tx±iTy∥\|\boldsymbol{x}\pm i\boldsymbol{y}\|=\|T\boldsymbol{x}\pm iT\boldsymbol{y}\|(线性把 TT 移进括号),代入 命题 A.1 右端得 (Tx,Ty)=(x,y)(T\boldsymbol{x},T\boldsymbol{y})=(\boldsymbol{x},\boldsymbol{y})——这正是 2.5 的②⟹③,极化把那段逐个放缩的论证压缩成一次代入。
  2. 范数决定内积:同一实(复)线性空间上两个内积若给出同一个范数,则由 命题 A.1 它们给出同样的内积,故是同一个内积。反过来,1.5.1 末的注已指出:并非每条范数都来自某个内积——判据正是平行四边形法则(不满足它的范数无父可寻,因为 命题 A.1 的右端将无法与任何双线性型相容)。
  3. 酉变换的全部信息也在「保长度」里:2.5 的四条等价刻画中,①保内积与②保长度等价,本推论第 1 条就是缺失的那个方向的一般化证明。
C–S 不等式的第二种证法(判别式法)

1.5.2 用「减掉投影、留正交残差」证明了 Cauchy–Schwarz。换一条路——考察关于实变量 tt 的二次函数(VV 取实内积空间;复情形先取实部,见下):

φ(t)=∥x+ty∥2=∥x∥2+2t(x,y)+t2∥y∥2 ≥0(∀t∈R).\varphi(t)=\|\boldsymbol{x}+t\boldsymbol{y}\|^2=\|\boldsymbol{x}\|^2+2t(\boldsymbol{x},\boldsymbol{y})+t^2\|\boldsymbol{y}\|^2\ \geq0\qquad(\forall t\in\mathbb R).

若 y≠θ\boldsymbol{y}\neq\boldsymbol{\theta},则 φ\varphi 是开口向上的二次多项式且恒非负,故判别式非正:

4(x,y)2−4∥x∥2∥y∥2≤0⟹∣(x,y)∣≤∥x∥ ∥y∥.4(\boldsymbol{x},\boldsymbol{y})^2-4\|\boldsymbol{x}\|^2\|\boldsymbol{y}\|^2\leq0\qquad\Longrightarrow\qquad|(\boldsymbol{x},\boldsymbol{y})|\leq\|\boldsymbol{x}\|\,\|\boldsymbol{y}\|.

复空间中先对 y\boldsymbol{y} 旋转一个辐角(乘以模为 11 的复数不改变任何一边),使 (x,y)(\boldsymbol{x},\boldsymbol{y}) 变为实数,再用上式。等号条件 φ(t0)=0\varphi(t_0)=0 意即 x+t0y=θ\boldsymbol{x}+t_0\boldsymbol{y}=\boldsymbol{\theta},即线性相关——与正文的结论一致。两种证法各有分工:判别式法一行出不等式,投影法给出「成分 ≤ 全长」的几何图景。

命题 A.2 · 反向三角不等式

对任意 x,y∈V\boldsymbol{x},\boldsymbol{y}\in V,有

∣∥x∥−∥y∥∣≤∥x−y∥.\big|\|\boldsymbol{x}\|-\|\boldsymbol{y}\|\big|\leq\|\boldsymbol{x}-\boldsymbol{y}\|.

它把三角不等式「反过来用」:两条边长之差不超过第三边。数值分析里估计「输入扰动引起的长度变化」(附录 B.5)时反复引用。

证

对 x=y+(x−y)\boldsymbol{x}=\boldsymbol{y}+(\boldsymbol{x}-\boldsymbol{y}) 与 y=x+(y−x)\boldsymbol{y}=\boldsymbol{x}+(\boldsymbol{y}-\boldsymbol{x}) 各用一次三角不等式(1.5.1 (4)):

∥x∥≤∥y∥+∥x−y∥,∥y∥≤∥x∥+∥x−y∥,\|\boldsymbol{x}\|\le\|\boldsymbol{y}\|+\|\boldsymbol{x}-\boldsymbol{y}\|,\qquad \|\boldsymbol{y}\|\le\|\boldsymbol{x}\|+\|\boldsymbol{x}-\boldsymbol{y}\|,

移项得 ∥x∥−∥y∥≤∥x−y∥\|\boldsymbol{x}\|-\|\boldsymbol{y}\|\leq\|\boldsymbol{x}-\boldsymbol{y}\| 与 ∥y∥−∥x∥≤∥x−y∥\|\boldsymbol{y}\|-\|\boldsymbol{x}\|\leq\|\boldsymbol{x}-\boldsymbol{y}\|,即绝对值形式。∎

∎

A.2 Gram 行列式 = 平行多面体体积的平方

1.5.4 在 R2\mathbb R^2 中证明了 det⁡G(x1,x2)\det G(\boldsymbol{x}_1,\boldsymbol{x}_2) 是平行四边形面积的平方。本节把结论推广到任意维数,并顺带得到著名的 Hadamard 不等式。为避开下标约定的缠绕,本节在实内积空间中讨论(此时 GG 对称);复空间的结论逐字成立,只需把「平方」换成「模平方」。

对 x1,⋯ ,xn∈Rn\boldsymbol{x}_1,\cdots,\boldsymbol{x}_n\in\mathbb R^n,记平行多面体

P(x1,⋯ ,xn)={t1x1+⋯+tnxn ∣ 0≤ti≤1}.P(\boldsymbol{x}_1,\cdots,\boldsymbol{x}_n)=\Big{t_1\boldsymbol{x}_1+\cdots+t_n\boldsymbol{x}_n\ \Big|\ 0\leq t_i\leq1\Big}.

命题 A.3 · 体积公式

Vol⁡n(P(x1,⋯ ,xn))2=det⁡G(x1,⋯ ,xn),\operatorname{Vol}_n\big(P(\boldsymbol{x}_1,\cdots,\boldsymbol{x}_n)\big)^2=\det G(\boldsymbol{x}_1,\cdots,\boldsymbol{x}_n),

且体积可按「底面积 × 高」逐层递推:每层的高是下一个向量到前面向量所张成子空间的距离。

证(对 nn 归纳)

n=1n=1:P(x1)P(\boldsymbol{x}_1) 是线段,Vol⁡1=∥x1∥=(x1,x1)=det⁡G\operatorname{Vol}_1=\|\boldsymbol{x}_1\|=\sqrt{(\boldsymbol{x}_1,\boldsymbol{x}_1)}=\sqrt{\det G} ✓。

设结论对 n−1n-1 成立。记 W=span⁡(x1,⋯ ,xn−1)W=\operatorname{span}(\boldsymbol{x}_1,\cdots,\boldsymbol{x}_{n-1}),维数 n−1n-1(设 x1,⋯ ,xn\boldsymbol{x}_1,\cdots,\boldsymbol{x}_n 线性无关;相关时两侧同为零,归纳论证同样关闭)。由正交分解定理(1.6.6):

xn=w+r,w∈W, r∈W⊥,w⊥r,\boldsymbol{x}_n=\boldsymbol{w}+\boldsymbol{r},\qquad \boldsymbol{w}\in W,\ \boldsymbol{r}\in W^{\perp},\qquad \boldsymbol{w}\perp\boldsymbol{r},

且「底面积 × 高」:Vol⁡n=Vol⁡n−1⋅∥r∥\operatorname{Vol}_n=\operatorname{Vol}_{n-1}\cdot\|\boldsymbol{r}\|(r\boldsymbol{r} 就是高)。

把 w\boldsymbol{w} 用坐标写出。设 w=∑i=1n−1kixi\boldsymbol{w}=\sum_{i=1}^{n-1}k_i\boldsymbol{x}_i。由 (xn−w,xj)=0(\boldsymbol{x}_n-\boldsymbol{w},\boldsymbol{x}_j)=0(j≤n−1j\leq n-1)展开:

∑i=1n−1(xi,xj) ki=(xn,xj),j=1,⋯ ,n−1,\sum_{i=1}^{n-1}(\boldsymbol{x}_i,\boldsymbol{x}_j)\,k_i=(\boldsymbol{x}_n,\boldsymbol{x}_j),\qquad j=1,\cdots,n-1,

即 Gn−1k=bG_{n-1}\boldsymbol{k}=\boldsymbol{b},其中 Gn−1=G(x1,⋯ ,xn−1)G_{n-1}=G(\boldsymbol{x}_1,\cdots,\boldsymbol{x}_{n-1})、bj=(xn,xj)b_j=(\boldsymbol{x}_n,\boldsymbol{x}_j)(实空间中 GG 对称,方程组形状无需辨析转置)。于是

∥w∥2=kTGn−1k=bTGn−1−1b.\|\boldsymbol{w}\|^2=\boldsymbol{k}^{\mathrm T}G_{n-1}\boldsymbol{k}=\boldsymbol{b}^{\mathrm T}G_{n-1}^{-1}\boldsymbol{b}.

分块行列式。把 nn 阶 Gram 矩阵按「前 n−1n-1 行 / 列」分块:

G=[Gn−1bbT∥xn∥2].G=\begin{bmatrix}G_{n-1}&\boldsymbol{b}\\ \boldsymbol{b}^{\mathrm T}&\|\boldsymbol{x}_n\|^2\end{bmatrix}.

对分块高斯消元(左乘 [I0−bTGn−1−11]\begin{bmatrix}I&\boldsymbol{0}\\ -\boldsymbol{b}^{\mathrm T}G_{n-1}^{-1}&1\end{bmatrix},行列式为 11):

det⁡G=det⁡[Gn−1b0∥xn∥2−bTGn−1−1b]=det⁡Gn−1⋅(∥xn∥2−∥w∥2).\det G=\det\begin{bmatrix}G_{n-1}&\boldsymbol{b}\\ \boldsymbol{0}&\|\boldsymbol{x}_n\|^2-\boldsymbol{b}^{\mathrm T}G_{n-1}^{-1}\boldsymbol{b}\end{bmatrix}=\det G_{n-1}\cdot\big(\|\boldsymbol{x}_n\|^2-\|\boldsymbol{w}\|^2\big).

由正交分解,括号内恰是 ∥r∥2\|\boldsymbol{r}\|^2。于是

det⁡G=det⁡Gn−1⋅∥r∥2 =归纳 Vol⁡n−12⋅∥r∥2=Vol⁡n2.■\det G=\det G_{n-1}\cdot\|\boldsymbol{r}\|^2\ \overset{\text{归纳}}{=}\ \operatorname{Vol}_{n-1}^2\cdot\|\boldsymbol{r}\|^2=\operatorname{Vol}_n^2.\qquad\blacksquare

∎
推论 A.2 · Hadamard 不等式

设 A∈Cn×nA\in\mathbb C^{n\times n} 按列分块 A=(a1,⋯ ,an)A=(\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n),则

∣det⁡A∣≤∏i=1n∥ai∥,等号成立  ⟺   a1,⋯ ,an 两两正交.|\det A|\leq\prod_{i=1}^{n}\|\boldsymbol{a}_i\|,\qquad\text{等号成立}\iff\ \boldsymbol{a}_1,\cdots,\boldsymbol{a}_n\ \text{两两正交}.

对行同样成立。数值上它常用来估计行列式的上界;几何读法即「棱长的乘乘是体积的天花板」。

证

AA 可逆时列向量线性无关,G=(ai,aj)G=(\boldsymbol{a}_i,\boldsymbol{a}_j) 恰为「ai\boldsymbol{a}_i 的坐标矩阵」的 Gram 矩阵,且 G=AHAG=A^{\mathrm H}A,故

∣det⁡A∣2=det⁡(AHA)=det⁡G=Vol⁡n2≤∏i∥ai∥2,|\det A|^2=\det(A^{\mathrm H}A)=\det G=\operatorname{Vol}_n^2\leq\prod_i\|\boldsymbol{a}_i\|^2,

其中不等号是因为每层的高不超过该棱长:∥r∥≤∥xn∥\|\boldsymbol{r}\|\leq\|\boldsymbol{x}_n\|(正交分解 ∥xn∥2=∥w∥2+∥r∥2\|\boldsymbol{x}_n\|^2=\|\boldsymbol{w}\|^2+\|\boldsymbol{r}\|^2 立刻给出)。逐层取等当且仅当每层 w=0\boldsymbol{w}=\boldsymbol{0},即每个向量与前面全部向量正交——两两正交。AA 奇异时两边一端为零,det⁡A=0≤∏∥ai∥\det A=0\leq\prod\|\boldsymbol{a}_i\| 平凡成立。∎

∎
与正文的两个接口

① 「det⁡G>0  ⟺  \det G>0\iff 线性无关」在高维同样成立:体积非零 ⟺ 平行多面体不塌扁 ⟺ 无关(GG 正定,1.4.7)。② Hadamard 不等式给出「正交基是最稳的基」的定量版本:同样长度的棱,互相垂直时撑起的体积最大——这是数值分析中偏好正交基(1.6.8 的 QR、2.5 的 Givens / Householder)的几何根源之一,见附录 B.5。

A.3 特征多项式的系数:迹与行列式

2.4.2 把「迹 = 特征值之和、行列式 = 特征值之积」列为考场清单;本节补全它的证明。证明分两半:先算出特征多项式首两项与常数项的系数,再用根与系数的关系把它们翻译成特征值。

命题 A.4 · 特征多项式的三个系数

设 A∈Cn×nA\in\mathbb C^{n\times n},f(λ)=det⁡(λI−A)f(\lambda)=\det(\lambda I-A),则

f(λ)=λn−(tr⁡A)λn−1+⋯+(−1)ndet⁡A.f(\lambda)=\lambda^n-(\operatorname{tr}A)\lambda^{n-1}+\cdots+(-1)^n\det A.

证(行列式的完全展开式)

按 Leibniz 展开式(先修知识):

f(λ)=∑σsgn⁡(σ)∏i=1n(λ δi,σ(i)−aiσ(i)).f(\lambda)=\sum_{\sigma}\operatorname{sgn}(\sigma)\prod_{i=1}^{n}\big(\lambda\,\delta_{i,\sigma(i)}-a_{i\sigma(i)}\big).

每一项的 λ\lambda 次数 = 满足 σ(i)=i\sigma(i)=i 的下标个数(不动点个数)。恒等置换 σ=id\sigma=\mathrm{id} 的不动点有 nn 个,贡献

∏i=1n(λ−aii)=λn−(∑iaii)λn−1+⋯ ,\prod_{i=1}^n(\lambda-a_{ii})=\lambda^n-\Big(\sum_ia_{ii}\Big)\lambda^{n-1}+\cdots,

这是唯一能贡献 λn\lambda^n 与 λn−1\lambda^{n-1} 的项:任何其他置换至少动掉两个下标(置换不能只动一个),至多有 n−2n-2 个不动点,次数 ≤n−2\leq n-2。故 ff 的 λn−1\lambda^{n-1} 系数是 −tr⁡A-\operatorname{tr}A。常数项:令 λ=0\lambda=0,f(0)=det⁡(−A)=(−1)ndet⁡Af(0)=\det(-A)=(-1)^n\det A。∎

∎
命题 A.5 · 迹与行列式 = 特征值的对称函数

设 A∈Cn×nA\in\mathbb C^{n\times n} 的全部特征值为 λ1,⋯ ,λn\lambda_1,\cdots,\lambda_n(按代数重数重复计入;由代数基本定理,nn 次多项式 ff 在 C\mathbb C 上恰有 nn 个根计重数),则

tr⁡A=λ1+⋯+λn,det⁡A=λ1λ2⋯λn.\operatorname{tr}A=\lambda_1+\cdots+\lambda_n,\qquad \det A=\lambda_1\lambda_2\cdots\lambda_n .

证

ff 是首项系数为 11 的 nn 次多项式、根为 λ1,⋯ ,λn\lambda_1,\cdots,\lambda_n,故 f(λ)=∏i(λ−λi)f(\lambda)=\prod_i(\lambda-\lambda_i)。与 命题 A.4 逐系数对照:λn−1\lambda^{n-1} 的系数既是 −tr⁡A-\operatorname{tr}A 又是 −∑iλi-\sum_i\lambda_i,常数项既是 (−1)ndet⁡A(-1)^n\det A 又是 (−1)n∏iλi(-1)^n\prod_i\lambda_i。∎

∎
一行的应用:可逆性的特征值判据

由 det⁡A=∏λi\det A=\prod\lambda_i:AA 可逆   ⟺  \iff 所有特征值非零。结合 2.4,可逆时 A−1A^{-1} 的特征值恰为 λi−1\lambda_i^{-1},特征向量不变——「求逆」在特征方向上就是「取倒数」。这与 3.1 的 rank⁡(A)=rank⁡(AHA)\operatorname{rank}(A)=\operatorname{rank}(A^{\mathrm H}A) 一起,构成后续谱分析的两块基石。

A.4 几何重数不超过代数重数

2.4.3 把 dim⁡Vλ≤\dim V_\lambda\leq 代数重数「先当事实用」。它的证明只需要一招:取特征子空间的基,扩充成全空间的基——在这组基下矩阵呈分块三角,特征多项式立刻分解。

命题 A.6 · 重数不等式

设 λ\lambda 是 A∈Cn×nA\in\mathbb C^{n\times n} 的特征值,Vλ=N(A−λI)V_\lambda=N(A-\lambda I) 是特征子空间,则

dim⁡Vλ ≤ λ 作为特征多项式根的重数.\dim V_\lambda\ \leq\ \lambda\ \text{作为特征多项式根的重数}.

证

记 k=dim⁡Vλ≥1k=\dim V_\lambda\geq1,取 VλV_\lambda 的一组基 x1,⋯ ,xk\boldsymbol{x}_1,\cdots,\boldsymbol{x}_k,由基扩充定理(推论 1.3.1)扩成 Cn\mathbb C^n 的基 x1,⋯ ,xn\boldsymbol{x}_1,\cdots,\boldsymbol{x}_n。记 P=(x1,⋯ ,xn)P=(\boldsymbol{x}_1,\cdots,\boldsymbol{x}_n)(可逆)。按矩阵的读法(定义 2.3.1),B=P−1APB=P^{-1}AP 的第 jj 列是 AxjA\boldsymbol{x}_j 在这组基下的坐标;对 j≤kj\leq k 有 Axj=λxjA\boldsymbol{x}_j=\lambda\boldsymbol{x}_j,坐标为 λej\lambda\boldsymbol{e}_j。于是 BB 呈分块形式

B=P−1AP=[λIkMOC],M∈Ck×(n−k), C∈C(n−k)×(n−k),B=P^{-1}AP=\begin{bmatrix}\lambda I_k&M\\O&C\end{bmatrix},\qquad M\in\mathbb C^{k\times(n-k)},\ C\in\mathbb C^{(n-k)\times(n-k)},

左下角为零块。分块三角矩阵的特征多项式按对角块分解(λI−B\lambda I-B 仍是分块三角,其行列式等于对角块行列式之积——先修的分块行列式性质):

fB(t)=det⁡(tI−B)=det⁡((t−λ)Ik)⋅det⁡(tIn−k−C)=(t−λ)k g(t),f_B(t)=\det(tI-B)=\det\big((t-\lambda)I_k\big)\cdot\det(tI_{n-k}-C)=(t-\lambda)^k\,g(t),

其中 g(t)=det⁡(tIn−k−C)g(t)=\det(tI_{n-k}-C) 是 n−kn-k 次多项式。最后用相似不变量(相似不变量 2.4.4):B∼AB\sim A ⟹ fB=fAf_B=f_A,故 (t−λ)k(t-\lambda)^k 整除 fA(t)f_A(t),即 λ\lambda 的重数至少为 kk。∎

∎
读两遍的价值

① 证明同时给出了等号的语言:代数重数 −k-k(差值)等于「λ\lambda 在 CC 的部分再出现的重数」——Jordan 链的长度就藏在这个差里(2.4.3 的三矩阵例中,差分别为 0,1,20,1,2,恰是链的结构)。② 与 不同特征值的特征向量线性无关 2.4.5 合并,立得一个重要预告:AA 可对角化   ⟺  \iff 对每个特征值都有 dim⁡Vλ=\dim V_\lambda= 代数重数(这是 2.4 自测第 4 题的反向陈述,完整证明属后续课程的相似标准形理论)。

A.5 Cayley–Hamilton 定理

1.1.6 曾借例题预告:任意方阵满足自己的特征方程。这个结论把「矩阵」与「多项式」两个世界缝合在一起,证明用的是伴随矩阵(先修知识:B⋅adj⁡B=(det⁡B)IB\cdot\operatorname{adj}B=(\det B)I)。

定理 A.7 · Cayley–Hamilton

设 A∈Cn×nA\in\mathbb C^{n\times n},f(λ)=det⁡(λI−A)=λn+cn−1λn−1+⋯+c1λ+c0f(\lambda)=\det(\lambda I-A)=\lambda^n+c_{n-1}\lambda^{n-1}+\cdots+c_1\lambda+c_0,则

f(A)=An+cn−1An−1+⋯+c1A+c0I=O.f(A)=A^n+c_{n-1}A^{n-1}+\cdots+c_1A+c_0I=O.

证(伴随矩阵法)

记 B(λ)=adj⁡(λI−A)B(\lambda)=\operatorname{adj}(\lambda I-A)。B(λ)B(\lambda) 的每个元素是 λI−A\lambda I-A 的某个 n−1n-1 阶子式(划去一行一列后的行列式),因而都是次数 ≤n−1\leq n-1 的 λ\lambda 多项式。于是 B(λ)B(\lambda) 可按 λ\lambda 的幂整理为矩阵系数的多项式:

B(λ)=B0+B1λ+⋯+Bn−1λn−1,Bi∈Cn×n.B(\lambda)=B_0+B_1\lambda+\cdots+B_{n-1}\lambda^{n-1},\qquad B_i\in\mathbb C^{n\times n}.

伴随矩阵的基本恒等式给出

(λI−A) B(λ)=f(λ) I.(\lambda I-A)\,B(\lambda)=f(\lambda)\,I .

(两边都是 n×nn\times n 矩阵;注意 λI−A\lambda I-A 与 B(λ)B(\lambda) 的乘法不可随意「约去」,我们不做约除,只做系数比较。)把两边都展开成 λ\lambda 的幂:

左边=−AB0+∑j=1n−1(Bj−1−ABj)λj+Bn−1λn,右边=∑j=0ncjI λj (cn=1).\text{左边}=-AB_0+\sum_{j=1}^{n-1}\big(B_{j-1}-AB_j\big)\lambda^{j}+B_{n-1}\lambda^{n},\qquad\text{右边}=\sum_{j=0}^{n}c_jI\,\lambda^{j}\ (c_n=1).

多项式恒相等 ⟹ 每个系数(矩阵)相等:

−AB0=c0I,Bj−1−ABj=cjI (j=1,⋯ ,n−1),Bn−1=I.-AB_0=c_0I,\qquad B_{j-1}-AB_j=c_jI\ (j=1,\cdots,n-1),\qquad B_{n-1}=I.

关键一步(左乘求和、逐项伸缩相消):把第 jj 个恒等式 cjI=Bj−1−ABjc_jI=B_{j-1}-AB_j 的两边左乘 AjA^j,得

cjAj=AjBj−1−Aj+1Bj.c_jA^j=A^jB_{j-1}-A^{j+1}B_j .

把 j=0,⋯ ,nj=0,\cdots,n 的全部恒等式(c0I=−AB0=−A1B0c_0I=-AB_0=-A^1B_0 与 cnAn=An=AnBn−1c_nA^n=A^n=A^nB_{n-1} 计入两端)相加:左边是 f(A)f(A);右边每一项都形如 ±AkBl\pm A^kB_l,且按 kk 错开一层成对相消——−A1B0-A^1B_0(j=0j=0)与 +A1B0+A^1B_0(j=1j=1 的正部)抵消;中间每个 −Aj+1Bj-A^{j+1}B_j(第 jj 式负部,1≤j≤n−21\leq j\leq n-2)与第 j+1j+1 式的正部 +Aj+1Bj+A^{j+1}B_j 抵消;末尾 −AnBn−1-A^{n}B_{n-1}(j=n−1j=n-1 负部)与 +AnBn−1+A^{n}B_{n-1} 抵消。故

f(A)=O.f(A)=O .

(矩阵乘法不可交换,因此恒等式两边必须同侧左乘 AjA^j——若右乘,Bj−1B_{j-1} 与 AA 的相对位置无法对齐,成对项不再出现。)∎

∎
例 A.1 · 在 1.1 节的老朋友上验证

取 A=(1101)A=\begin{pmatrix}1&1\\0&1\end{pmatrix}(1.1.6 的矩阵)。特征多项式 f(λ)=(λ−1)2=λ2−2λ+1f(\lambda)=(\lambda-1)^2=\lambda^2-2\lambda+1,于是 Cayley–Hamilton 断言 A2−2A+I=OA^2-2A+I=O。逐项验算:

A2−2A+I=(1201)−(2202)+(1001)=(0000) ✓A^2-2A+I=\begin{pmatrix}1&2\\0&1\end{pmatrix}-\begin{pmatrix}2&2\\0&2\end{pmatrix}+\begin{pmatrix}1&0\\0&1\end{pmatrix}=\begin{pmatrix}0&0\\0&0\end{pmatrix}\ \checkmark

立即的回报:由 A2=2A−IA^2=2A-I,一切高次幂都留在 span⁡{A,I}\operatorname{span}\{A,I\} 中,且递推

Ak+1=A⋅Ak=A(kA−(k−1)I)=kA2−(k−1)A=(k+1)A−kI,A^{k+1}=A\cdot A^k=A\big(kA-(k-1)I\big)=kA^2-(k-1)A=(k+1)A-kI,

归纳即得 1.1.6 用归纳法证过的公式 Ak=kA−(k−1)IA^k=kA-(k-1)I——当时手推的结论,现在成了定理的免费赠品。

它为什么重要

① 降幂:任何 AmA^m(m≥nm\geq n)都能写成 An−1,⋯ ,A,IA^{n-1},\cdots,A,I 的线性组合——「矩阵多项式」永远只有 nn 层楼。② 求逆:AA 可逆时,f(A)=Of(A)=O 移项并乘 A−1A^{-1} 得 A−1=−1c0(An−1+cn−1An−2+⋯+c1I)A^{-1}=-\tfrac1{c_0}\big(A^{n-1}+c_{n-1}A^{n-2}+\cdots+c_1I\big)——逆矩阵是 AA 的多项式。③ 解析函数的推广:把「矩阵代入多项式」推广到收敛幂级数(如 eAt\mathrm e^{At}),就得到 附录 B.6 里解线性微分方程组的核心工具。

A.6 正定矩阵的「开方」:A=CHCA=C^{\mathrm H}C

1.4.3 证明了「yHAx\boldsymbol{y}^{\mathrm H}A\boldsymbol{x} 是内积   ⟺  \iff AA 正定 Hermite」;1.4.5 又展示了「换一个正定 AA 就是换一把尺子」。本节回答一个自然的问题:这些尺子有没有统一的来历? 答案:每把尺子都是「把空间拉伸后按标准尺子量」。

命题 A.8 · 正定的刻画

设 A∈Cn×nA\in\mathbb C^{n\times n} 是 Hermite 矩阵,则以下等价:

  1. AA 正定;
  2. 存在可逆矩阵 CC 使 A=CHCA=C^{\mathrm H}C;
  3. 存在正线上三角矩阵 RR 使 A=RHRA=R^{\mathrm H}R(RR 即 Cholesky 因子)。
证

(2)⟹(1):xHAx=xHCHCx=(Cx,Cx)=∥Cx∥2>0\boldsymbol{x}^{\mathrm H}A\boldsymbol{x}=\boldsymbol{x}^{\mathrm H}C^{\mathrm H}C\boldsymbol{x}=(C\boldsymbol{x},C\boldsymbol{x})=\|C\boldsymbol{x}\|^2\gt0(x≠0\boldsymbol{x}\neq\boldsymbol{0} 时 Cx≠0C\boldsymbol{x}\neq\boldsymbol{0},因 CC 可逆)。

(1)⟹(3):正定 Hermite 的 AA 按 例 1.4.4 定义内积 (x,y)A=yHAx(\boldsymbol{x},\boldsymbol{y})_A=\boldsymbol{y}^{\mathrm H}A\boldsymbol{x}。对标准基 e1,⋯ ,en\boldsymbol{e}_1,\cdots,\boldsymbol{e}_n 执行 Gram–Schmidt(1.5.6)并单位化,得到关于 (⋅,⋅)A(\cdot,\cdot)_A 的标准正交基 q1,⋯ ,qn\boldsymbol{q}_1,\cdots,\boldsymbol{q}_n;由 1.6.8,换基关系为

(e1,⋯ ,en)=(q1,⋯ ,qn) R,R 正线上三角(可逆).(\boldsymbol{e}_1,\cdots,\boldsymbol{e}_n)=(\boldsymbol{q}_1,\cdots,\boldsymbol{q}_n)\,R,\qquad R\ \text{正线上三角(可逆)}.

记 Q=(q1,⋯ ,qn)Q=(\boldsymbol{q}_1,\cdots,\boldsymbol{q}_n)。「q\boldsymbol{q} 组关于 (⋅,⋅)A(\cdot,\cdot)_A 标准正交」翻译成矩阵即 QHAQ=IQ^{\mathrm H}AQ=I(AA-Gram 矩阵是单位阵,定义 1.4.4)。于是(注意 (e1,⋯ ,en)=I(\boldsymbol{e}_1,\cdots,\boldsymbol{e}_n)=I):

A=IHAI=(QR)HA(QR)=RH(QHAQ)R=RHR.A=I^{\mathrm H}AI=(QR)^{\mathrm H}A(QR)=R^{\mathrm H}\big(Q^{\mathrm H}AQ\big)R=R^{\mathrm H}R .

(3)⟹(2):正线上三角矩阵可逆(对角元全正,1.6.8)。∎

∎
三个立刻的读法
  1. 加权内积 = 拉伸后的标准内积:(x,y)A=yHRHRx=(Rx,Ry)(\boldsymbol{x},\boldsymbol{y})_A=\boldsymbol{y}^{\mathrm H}R^{\mathrm H}R\boldsymbol{x}=(R\boldsymbol{x},R\boldsymbol{y})。换尺子量出的全部几何(长度、正交、投影),等于先用 RR 拉伸空间再用标准尺子量。1.4.5 中 A=diag⁡(4,1)A=\operatorname{diag}(4,1) 的椭圆单位圆,正是 R=diag⁡(2,1)R=\operatorname{diag}(2,1) 把单位圆沿 xx 轴拉伸 2 倍的结果。
  2. 正定 ⟺ 合同于 II:A=RHIRA=R^{\mathrm H}IR 说明 AA 与 II 合同(1.4.7);逆命题即本命题。这是「合同变换保持正定性」(同处)的构造性证明。
  3. AHAA^{\mathrm H}A 家族:对任意 A∈Cm×nA\in\mathbb C^{m\times n},AHA=CHCA^{\mathrm H}A=C^{\mathrm H}C 形式自动 Hermite 半正定;3.1 证明了它与 AA 同秩。把它与 (3) 结合:列满秩的 AA 恰好是某个正定矩阵的「Cholesky 因子」(至多差一个酉因子)——这是奇异值分解(后续章节)的先声。

A.7 Bessel 不等式与 Parseval 等式

1.5.7 用三角函数系展示了「正交系 + 内积 = 广义坐标」。本节在有限维里把这套机制算到底:投影已经「解释掉」多少能量,剩余还有多少。

设 VV 是内积空间,q1,⋯ ,qm\boldsymbol{q}_1,\cdots,\boldsymbol{q}_m 是标准正交向量组,W=span⁡(q1,⋯ ,qm)W=\operatorname{span}(\boldsymbol{q}_1,\cdots,\boldsymbol{q}_m)。

命题 A.9 · Bessel 不等式

对任意 x∈V\boldsymbol{x}\in V,

∑i=1m∣(x,qi)∣2 ≤ ∥x∥2,\sum_{i=1}^{m}\big|(\boldsymbol{x},\boldsymbol{q}_i)\big|^2\ \leq\ \|\boldsymbol{x}\|^2,

等号成立当且仅当 x∈W\boldsymbol{x}\in W。

证

令 w=∑i=1m(x,qi)qi\boldsymbol{w}=\sum_{i=1}^m(\boldsymbol{x},\boldsymbol{q}_i)\boldsymbol{q}_i(即 Proj⁡Wx\operatorname{Proj}_{W}\boldsymbol{x},命题 1.6.1 的标准正交基版本),r=x−w\boldsymbol{r}=\boldsymbol{x}-\boldsymbol{w}。对每个 jj,

(r,qj)=(x,qj)−∑i=1m(x,qi)(qi,qj)⏟=δij=0,(\boldsymbol{r},\boldsymbol{q}_j)=(\boldsymbol{x},\boldsymbol{q}_j)-\sum_{i=1}^m(\boldsymbol{x},\boldsymbol{q}_i)\underbrace{(\boldsymbol{q}_i,\boldsymbol{q}_j)}_{=\delta_{ij}}=0,

故 r⊥W\boldsymbol{r}\perp W,特别地 r⊥w\boldsymbol{r}\perp\boldsymbol{w}。由正交分解(展开交叉项为零):

∥x∥2=∥w∥2+∥r∥2,∥w∥2=∑i=1m∣(x,qi)∣2 (交叉项同样逐个消去).\|\boldsymbol{x}\|^2=\|\boldsymbol{w}\|^2+\|\boldsymbol{r}\|^2,\qquad \|\boldsymbol{w}\|^2=\sum_{i=1}^m\big|(\boldsymbol{x},\boldsymbol{q}_i)\big|^2\ (\text{交叉项同样逐个消去}).

两式合并即得不等式;等号   ⟺  ∥r∥=0  ⟺  x∈W\iff\|\boldsymbol{r}\|=0\iff\boldsymbol{x}\in W。∎

∎
推论 A.3 · Parseval 等式

若 q1,⋯ ,qn\boldsymbol{q}_1,\cdots,\boldsymbol{q}_n 是全空间的标准正交基,则对一切 x,y∈V\boldsymbol{x},\boldsymbol{y}\in V:

∥x∥2=∑i=1n∣(x,qi)∣2,(x,y)=∑i=1n(x,qi) (y,qi)‾.\|\boldsymbol{x}\|^2=\sum_{i=1}^n\big|(\boldsymbol{x},\boldsymbol{q}_i)\big|^2,\qquad (\boldsymbol{x},\boldsymbol{y})=\sum_{i=1}^n(\boldsymbol{x},\boldsymbol{q}_i)\,\overline{(\boldsymbol{y},\boldsymbol{q}_i)}.

前者是 Bessel 取等(W=VW=V,r=0\boldsymbol{r}=\boldsymbol{0});后者由前者对 x+y\boldsymbol{x}+\boldsymbol{y}、x−y\boldsymbol{x}-\boldsymbol{y}、x±iy\boldsymbol{x}\pm i\boldsymbol{y} 使用并线性组合得到——正是极化恒等式(命题 A.1)的坐标版。

无穷的接口:傅里叶级数

在 L2[−π,π]L^2[-\pi,\pi] 中取三角函数系(1.5.7),Bessel 不等式变成:傅里叶系数的平方和不超过函数的能量 ∫−ππ∣f∣2\int_{-\pi}^{\pi}|f|^2——这保证了系数平方级数收敛,傅里叶级数「不越界」。当三角函数系取满(完备)时,不等式升格为 Parseval 等式:

a022+∑n≥1(an2+bn2)=1π∫−ππf(t)2 dt,\frac{a_0^2}{2}+\sum_{n\geq1}\big(a_n^2+b_n^2\big)=\frac1\pi\int_{-\pi}^{\pi}f(t)^2\,\mathrm dt,

「时域能量 = 频域能量」。附录 B.2 将在有限维信号空间里用 DFT 矩阵的酉性给出同一等式的离散版——同一个定理,换个舞台。

A.8 Moore–Penrose 伪逆:四条条件、良定义与唯一性

3.2.4 从满秩分解造出 X=CH(CCH)−1(BHB)−1BHX=C^{\mathrm H}(CC^{\mathrm H})^{-1}(B^{\mathrm H}B)^{-1}B^{\mathrm H} 并验证了 AXA=AAXA=A。本节补全剩下的三件事:XX 满足全部四条 Penrose 条件、XX 与满秩分解的选法无关、满足四条的 XX 唯一。

定理 A.10 · Penrose 四条件

设 A∈Crm×nA\in\mathbb C^{m\times n}_r(r>0r\gt0)有满秩分解 A=BCA=BC(BB 列满秩、CC 行满秩),令

A+≜CH(CCH)−1(BHB)−1BH,A^{+}\triangleq C^{\mathrm H}\big(CC^{\mathrm H}\big)^{-1}\big(B^{\mathrm H}B\big)^{-1}B^{\mathrm H},

则 A+A^{+} 满足:

  1. AA+A=AAA^{+}A=A;
  2. A+AA+=A+A^{+}AA^{+}=A^{+};
  3. (AA+)H=AA+(AA^{+})^{\mathrm H}=AA^{+};
  4. (A+A)H=A+A(A^{+}A)^{\mathrm H}=A^{+}A。

且 A+A^{+} 只依赖 AA、不依赖满秩分解的选法。满足全部四条的矩阵唯一(定理 A.11),称为 AA 的 Moore–Penrose 伪逆。

证

先记 BL=(BHB)−1BHB^{\mathrm L}=(B^{\mathrm H}B)^{-1}B^{\mathrm H}(BB 的左逆)、CR=CH(CCH)−1C^{\mathrm R}=C^{\mathrm H}(CC^{\mathrm H})^{-1}(CC 的右逆,3.1 法 2 的两个公式),则 A+=CRBLA^{+}=C^{\mathrm R}B^{\mathrm L}。

(1) AA+A=B(CCR)BL(BLB)C=BC=AAA^{+}A=B(CC^{\mathrm R})B^{\mathrm L}(B^{\mathrm L}B)C=BC=A ✓。

(3)(4) 先算出两个乘积的「约简形」:

AA+=B C CH(CCH)−1(BHB)−1BH=B (BHB)−1BH,AA^{+}=B\,C\,C^{\mathrm H}(CC^{\mathrm H})^{-1}(B^{\mathrm H}B)^{-1}B^{\mathrm H}=B\,(B^{\mathrm H}B)^{-1}B^{\mathrm H},

A+A=CH(CCH)−1 (BHB)−1(BHB) C=CH(CCH)−1C,A^{+}A=C^{\mathrm H}(CC^{\mathrm H})^{-1}\,(B^{\mathrm H}B)^{-1}(B^{\mathrm H}B)\,C=C^{\mathrm H}(CC^{\mathrm H})^{-1}C,

两者都形如「MMH(⋅)−1MHMM^{\mathrm H}(\cdot)^{-1}M^{\mathrm H} 类的对称表达式」,直接取共轭转置验证:(B(BHB)−1BH)H=B(BHB)−1BH\big(B(B^{\mathrm H}B)^{-1}B^{\mathrm H}\big)^{\mathrm H}=B(B^{\mathrm H}B)^{-1}B^{\mathrm H}(中间因子 (BHB)−1(B^{\mathrm H}B)^{-1} 自身 Hermite:(BHB)H=BHB(B^{\mathrm H}B)^{\mathrm H}=B^{\mathrm H}B);另一式同理 ✓。

(2) A+AA+=A+(AA+)=CRBL B(BHB)−1BH=CR BL=A+A^{+}AA^{+}=A^{+}(AA^{+})=C^{\mathrm R}B^{\mathrm L}\,B(B^{\mathrm H}B)^{-1}B^{\mathrm H}=C^{\mathrm R}\,B^{\mathrm L}=A^{+} ✓。

与分解无关:设 A=B1C1=B2C2A=B_1C_1=B_2C_2 是两个满秩分解,由 定理 3.2.2 存在可逆 DD 使 B1=B2DB_1=B_2D、C1=D−1C2C_1=D^{-1}C_2。代入 A+A^{+} 的公式并记 M=C2C2HM=C_2C_2^{\mathrm H}、N=B2HB2N=B_2^{\mathrm H}B_2:

C1C1H=D−1MD−H,(D−1MD−H)−1=DHM−1D,(B1HB1)−1=D−1N−1D−H,C_1C_1^{\mathrm H}=D^{-1}MD^{-\mathrm H},\qquad\big(D^{-1}MD^{-\mathrm H}\big)^{-1}=D^{\mathrm H}M^{-1}D,\qquad \big(B_1^{\mathrm H}B_1\big)^{-1}=D^{-1}N^{-1}D^{-\mathrm H},

于是四个因子里的 D,D−1,DH,D−HD,D^{-1},D^{\mathrm H},D^{-\mathrm H} 两两相消:

A1+=C2HD−H⏟C1H⋅DHM−1D D−1⏟消N−1D−H⋅DH⏟B1H=DHB2HB2H=C2HM−1N−1B2H=A2+.■A_1^{+}=\underbrace{C_2^{\mathrm H}D^{-\mathrm H}}_{C_1^{\mathrm H}}\cdot D^{\mathrm H}M^{-1}\underbrace{D\,D^{-1}}_{\text{消}}N^{-1}D^{-\mathrm H}\cdot\underbrace{D^{\mathrm H}}_{B_1^{\mathrm H}=D^{\mathrm H}B_2^{\mathrm H}}B_2^{\mathrm H}=C_2^{\mathrm H}M^{-1}N^{-1}B_2^{\mathrm H}=A_2^{+}.\qquad\blacksquare

∎
定理 A.11 · 四条件确定唯一解

至多存在一个矩阵 XX 同时满足 四条件 (1)–(4)。

证

设 X,YX,Y 都满足 (1)–(4)。分四步把 XX 换成 YY。

第一步(消去右边):由 (2) 与 (3)(AXAX Hermite),

X=XAX=X (AX)=X (AX)H=X XHAH.X=XAX=X\,(AX)=X\,(AX)^{\mathrm H}=X\,X^{\mathrm H}A^{\mathrm H} .

再用 (1) 的转置 AH=AHYHAHA^{\mathrm H}=A^{\mathrm H}Y^{\mathrm H}A^{\mathrm H} 代入右端最末的 AHA^{\mathrm H}:

X=XXH(AHYHAH)=(XXHAH) YHAH=X⋅YHAH=X (AY)H=X (AY)=XAY.X=XX^{\mathrm H}\big(A^{\mathrm H}Y^{\mathrm H}A^{\mathrm H}\big)=\big(XX^{\mathrm H}A^{\mathrm H}\big)\,Y^{\mathrm H}A^{\mathrm H}=X\cdot Y^{\mathrm H}A^{\mathrm H}=X\,(AY)^{\mathrm H}=X\,(AY)=XAY .

第二步(左乘 AA):AX=A(XAY)=(AXA)Y=AYAX=A(XAY)=(AXA)Y=AY。

第三步(转置得右乘版本):对 AX=AYAX=AY 取共轭转置并用 (4):XHAH=YHAHX^{\mathrm H}A^{\mathrm H}=Y^{\mathrm H}A^{\mathrm H},即 (XA)H=(YA)H(XA)^{\mathrm H}=(YA)^{\mathrm H},再转置回来得 XA=YAXA=YA。

第四步(拼装):用 (2) 把 XX 夹住,再把刚得到的两个等式各用一次:

X=XAX=(XA)X=(YA)X=Y(AX)=Y(AY)=YAY=Y.■X=XAX=(XA)X=(YA)X=Y(AX)=Y(AY)=YAY=Y .\qquad\blacksquare

∎
伪逆是「最优解的机器」

四条件各自的含义(都可以从 3.1–3.2 的结构读出):(1) 说 AA+AA^{+} 把 R(A)R(A) 的每个向量原样送回——它是到值域的投影;(4) 说这个投影正交;(2)(3) 对偶地说 A+AA^{+}A 是到 R(AH)R(A^{\mathrm H}) 的正交投影。于是

A+b=方程组 Ax=b 的最小二乘解中范数最小者A^{+}\boldsymbol{b}=\text{方程组 }A\boldsymbol{x}=\boldsymbol{b}\text{ 的最小二乘解中范数最小者}

(存在性:x+=A+b\boldsymbol{x}^{+}=A^{+}\boldsymbol{b} 满足法方程 AHAx=AHbA^{\mathrm H}A\boldsymbol{x}=A^{\mathrm H}\boldsymbol{b},见附录 B.3;最小范数性由 A+b∈R(AH)=N(A)⊥A^{+}\boldsymbol{b}\in R(A^{\mathrm H})=N(A)^{\perp} 与 1.6.7 的勾股结构给出——完整论证留作练习,或见后续广义逆章节)。三个特例与 3.1 完全接轨:AA 可逆时 A+=A−1A^{+}=A^{-1};列满秩时 A+=(AHA)−1AHA^{+}=(A^{\mathrm H}A)^{-1}A^{\mathrm H}(左逆);行满秩时 A+=AH(AAH)−1A^{+}=A^{\mathrm H}(AA^{\mathrm H})^{-1}(右逆)。

附录 A 自测

即时自测(不看上文,8 分钟)
  1. 写出复空间的极化恒等式,并说明它为什么给出「保长度的线性变换保内积」。
  2. Hadamard 不等式 ∣det⁡A∣≤∏i∥ai∥|\det A|\leq\prod_i\|\boldsymbol{a}_i\| 的等号条件是什么?用体积语言一句话说明理由。
  3. 证明 dim⁡Vλ≤\dim V_\lambda\leq 代数重数时,矩阵 B=P−1APB=P^{-1}AP 为什么呈 [λIkMOC]\begin{bmatrix}\lambda I_k&M\\O&C\end{bmatrix} 形?
  4. Cayley–Hamilton 定理证明中,为什么 B(λ)=adj⁡(λI−A)B(\lambda)=\operatorname{adj}(\lambda I-A) 的每个元素都是次数 ≤n−1\leq n-1 的多项式?
  5. 正定 Hermite 矩阵的 Cholesky 分解 A=RHRA=R^{\mathrm H}R 用什么工具构造?RR 的哪两条性质来自 [1.6.8]?
  6. 伪逆唯一性证明的第二步 AX=AYAX=AY 是怎么得到的?
解答 · 即时自测
  1. (x,y)=14(∥x+y∥2−∥x−y∥2+i∥x+iy∥2−i∥x−iy∥2)(\boldsymbol{x},\boldsymbol{y})=\tfrac14\big(\|\boldsymbol{x}+\boldsymbol{y}\|^2-\|\boldsymbol{x}-\boldsymbol{y}\|^2+i\|\boldsymbol{x}+i\boldsymbol{y}\|^2-i\|\boldsymbol{x}-i\boldsymbol{y}\|^2\big)。右端只含范数;TT 线性把 TT 移进括号(如 ∥T(x+y)∥=∥Tx+Ty∥\|T(\boldsymbol{x}+\boldsymbol{y})\|=\|T\boldsymbol{x}+T\boldsymbol{y}\|),保长度使右端逐项相等。
  2. 各列两两正交。每层「高 = 棱长」必须逐层取等,即每个向量与前面全部向量正交。
  3. 基扩充后,前 kk 个基向量满足 Axj=λxjA\boldsymbol{x}_j=\lambda\boldsymbol{x}_j,其坐标列是 λej\lambda\boldsymbol{e}_j——前 kk 列就是 λIk\lambda I_k 与零块的竖排;按分块读出即得。
  4. adj⁡\operatorname{adj} 的元素是 λI−A\lambda I-A 的 n−1n-1 阶子式;每个子式的每行至多含一个 λ\lambda,故次数 ≤n−1\leq n-1。
  5. 对 (x,y)A=yHAx(\boldsymbol{x},\boldsymbol{y})_A=\boldsymbol{y}^{\mathrm H}A\boldsymbol{x} 用 Gram–Schmidt;RR 是由 q\boldsymbol{q} 组(AA-标准正交基)到标准基的过渡矩阵,上三角、对角元全正(可逆)。
  6. 第一步得 X=XAYX=XAY,两边左乘 AA:AX=A(XAY)=(AXA)Y=AYAX=A(XAY)=(AXA)Y=AY(用了条件 (1))。