Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

补充篇 · 勘误与补注(对应原书)

本页属“补充篇 · 数值线性代数工具箱”,不是课堂第 2 章;课堂第 2 章见线性方程组的解法。

第二章在原书中没有对应章节:它把原书 1.3 节的范数语言(本教程第一章 1.3 已逐条收录并补全证明,见第一章勘误与补注)扩展为一整套正交 / 投影 / 谱工具箱。凡与教材的差异、术语辨析、时效补注,以及本教程自身的更正,集中列在本页。

一、对照教材的补注

原书 1.3 节给出向量范数与矩阵范数的公理、计算公式与 Neumann 型判据(并触到条件数的定义),把内积、正交、投影、QR 分解、条件数理论、谱理论与 SVD 留给后续章节。本章按同样的体例把这几块补齐并扩充,逐条对应如下。

编号本教程位置教材的处理本教程补了什么
C2.12.1 内积与正交性原书 1.3 节从范数公理出发,未把内积公理化补内积四公理与诱导范数、平行四边形 / 极化恒等式(逆方向的完整证明见附录 A.2.1)、正交矩阵的等价刻画、正交不变性
C2.22.2 四个基本子空间与投影原书未展开四个基本子空间与投影矩阵补秩定理与两对正交补、正交分解与最近点、投影矩阵 P=A(ATA)−1ATP=A(A^{\mathrm T}A)^{-1}A^{\mathrm T} 的三条性质、正态方程与加权最小二乘
C2.32.3 正交化与 QR 分解原书把 QR 分解与列主元放在第 2 章 2.2.2 一带讲;本教程提前到这里,作为「稳定地算投影」的工具补经典 / 修正 Gram–Schmidt、Householder 反射、Givens 旋转的构造与对比,核心是三级正交性损失 cond2u\mathrm{cond}^2u / cond u\mathrm{cond},u / uu(结论与完整分析见 Higham 第 19 章,延伸阅读)
C2.42.4 条件数与扰动分析原书给出矩阵条件数的定义与右端扰动界(本教程 1.3.6 已收录原书部分)补系数扰动界(含前提 cond(A)ρA<1\mathrm{cond}(A)\rho_A\lt1 与它失效时的现象)、「残差 ≠ 误差」的定量关系、Skeel 与成分条件数、Hilbert 矩阵实测
C2.52.5 特征值、谱半径与对称谱理论原书第 3 章 3.1–3.3 讲幂法、反幂法与 QR 方法;圆盘定理等只作结论引用补 Gerschgorin 连通性条款的证明、Rayleigh 商与 Courant–Fischer、幂法收敛速度与 Rayleigh 商的二阶精度、Weyl 与 Bauer–Fike 扰动界、重特征值的开方敏感
C2.62.6 奇异值分解与低秩逼近原书未涉及 SVD补 SVD 的存在性证明与两种几何读法、四个基本子空间的标准正交基、伪逆与秩亏最小二乘、Eckart–Young 最优低秩逼近、数值秩
C2.72.7 数值实验原书以手算例题为主,没有可复现的实验补四组实验(正交性退化、条件数与有效数字、低秩逼近与 PCA、幂法与敏感性),每组附报告要求,输出为真实运行结果
编号约定

第二章没有原书编号可对,全章使用本教程的节级编号(定理 2.3.1、例 2.6.4、算法 2.5.1),锚点与引用方式与第一章一致;凡属原书后续章节(列主元消去、LU 分解、迭代法收敛性、QR 迭代、幂法 / 反幂法、Tikhonov 正则化)的内容,正文一律用虚线的「课程预告」框标出,不越出已讲范围展开(范围声明)。

二、术语与常见译误

术语常见说法建议用法要点与出处
内积 vs 点积两者互换使用内积(inner product)是公理化概念;点积(dot product)专指 xTy\boldsymbol{x}^{\mathrm T}\boldsymbol{y} 这个算式加权内积 xTDy\boldsymbol{x}^{\mathrm T}D\boldsymbol{y} 是合法的内积,却不是点积;提「投影」时必须说明是在哪个内积下(2.1.1、2.2.5)
正交 vs 酉把复矩阵的酉性也叫「正交」实矩阵说正交(orthogonal),复矩阵说酉(unitary)本教程只处理实矩阵(定义 2.1.3);复情形要把 ∣det⁡Q∣=1\lvert\det Q\rvert=1、保范数等结论按共轭转置改写。另注意:正交阵的复特征值只是「模为 1」(e±iθ\mathrm e^{\pm\mathrm i\theta}),并非 ±1\pm1(例 2.1.4)
投影 vs 正交投影工程语境里把「投影」默认当成正交投影投影 = 幂等算子(可以斜);正交投影 = 对称 + 幂等只幂等、不对称的是斜投影,其余项不垂直于目标子空间(定理 2.2.5 后的注、习题 A2(b))
特征值 vs 奇异值把 σi\sigma_i 读成「特征值」,或直接写 σi=∣λi∣\sigma_i=\lvert\lambda_i\rvert特征值只有方阵有、可负可复;奇异值总非负、共 min⁡(m,n)\min(m,n) 个σi=∣λi∣\sigma_i=\lvert\lambda_i\rvert 只在正规矩阵(含对称)上成立。反例:(0100)\begin{pmatrix}0&amp;1\0&amp;0\end{pmatrix} 的 λ=0\lambda=0 而 σ1=1\sigma_1=1(2.6.7)
条件数 vs 谱半径「用条件数判断迭代收敛」条件数 cond(A)=∥A∥∥A−1∥\mathrm{cond}(A)=\lVert A\rVert\lVert A^{-1}\rVert 管精度;谱半径 ρ(A)\rho(A) 管收敛速度ρ(A)≤∥A∥\rho(A)\le\lVert A\rVert 是估计式而非等式:非正规矩阵上两者可以差几个数量级(2.5.1 的注、例 2.5.6)
正态方程以为 normal equations 与概率的「正态分布」有关本教程统一译作正态方程这里的 normal 是「法向 / 垂直」的意思:AT(Ax−b)=0A^{\mathrm T}(A\boldsymbol{x}-\boldsymbol{b})=\boldsymbol{0} 正是「余项与列空间垂直」的代数写法(定理 2.2.6)。中译另有「正规方程」「法方程」两种说法
正规矩阵 vs 正交矩阵把 normal matrix 与 orthogonal matrix 混为一谈正规(normal):ATA=AATA^{\mathrm T}A=AA^{\mathrm T};正交(orthogonal):QTQ=IQ^{\mathrm T}Q=I正交矩阵是正规矩阵的特例;「非正规矩阵」指特征向量组不正交的那些矩阵,是重特征值开方敏感的主角
病态 vs 不稳定「这个算法病态」病态(ill-conditioned)属于问题;不稳定(unstable)属于算法同一病态矩阵换 Cholesky / QR / SVD,误差量级相同(2.4.6、2.8.2 陷阱 4)
秩 vs 数值秩用「秩」描述带噪矩阵秩是精确概念;数值秩 =#{i:σi>tσ1}=#{i:\sigma_i\gt t\sigma_1},阈值 tt 按噪声水平选取阈值选错会让秩判定差好几倍(2.6.4 思考、实验三 (d))
本表的边界

这里只处理「叫什么、怎么用」;概念之间成对的辨析在易混对照卡,术语的中英对照与定义位置全表在术语索引。

三、时效与工具补注

原书成书于 2012 年。本章讲的线性代数结论没有变,变的是「怎么算」:当年需要手算或借 MATLAB 的分解,如今同一批 LAPACK 例程由 NumPy / SciPy 直接暴露。逐条对照如下。

教材年代的写法现在的一行代码补注
形成 ATAA^{\mathrm T}A 再解正态方程np.linalg.lstsq(A, b)当年正态方程是默认做法;现在默认走 SVD / QR,条件数不再被平方(2.3.6)
手写 Gram–Schmidt 正交化np.linalg.qr(A)现在默认是 Householder(LAPACK geqrf);经典 Gram–Schmidt 只留作教学反例(2.3.3、实验一)
查表 / 手估条件数np.linalg.cond(A, 2)2-范数版走 SVD;而 cond(A, 1) / cond(A, inf) 按「范数 × 逆的范数」实现,会显式求逆(2.4.5、工具箱第四节)
手工消元判秩np.linalg.matrix_rank(A)默认阈值 σ1max⁡(m,n)eps\sigma_1\max(m,n)\mathrm{eps} 只适合「精确矩阵、数值降秩」;带噪数据要自己给 tol(2.6.7)
手推幂法 / 反幂法scipy.sparse.linalg.eigsh(对称)/ eigs(非对称,Arnoldi)大规模稀疏用 Lanczos / Arnoldi;小矩阵直接 eigh / eig(2.5.3)
把求逆当通用工具np.linalg.solve显式求逆解方程既慢约 2.5 倍,又损精度(复算见工具箱第五节)
两条与日期挂钩的提醒

① 库的默认阈值随版本变(lstsq / pinv 的 rcond、matrix_rank 的 tol 都在其列);本页与工具箱的数值在本机 numpy 2.4.6 / scipy 1.18.0 上核对过,动手前查当前版本文档。② 本章不写「某库某版本更快」这类结论——性能随 BLAS 实现与硬件变化,需要时以本机实测为准。

四、本教程更正记录

编号类型位置情况与处理
E2.1缺页补齐第二章章末本章此前没有勘误页(第一章有、第二章缺,章末止于习题与自检表)。现已补齐本页,并在目录(SUMMARY)的第二章章末段登记,位置与第一章的勘误页对应。
E2.2数字更正2.7「实验三」结论 2原文写「σ3,σ4,σ5,σ6≈10.15\sigma_3,\sigma_4,\sigma_5,\sigma_6\approx10.15 四个几乎相等」。复算(用该节代码,N=120N=120 合成图像)得 σ3=23.7692\sigma_3=23.7692;近似相等的其实是 σ4\sigma_4–σ7\sigma_7(10.1484, 10.1484, 10.1484, 10.142210.1484,\ 10.1484,\ 10.1484,\ 10.1422)。2.6.6 写的「σ4\sigma_4–σ7\sigma_7」是对的,以 2.6.6 为准。已修正正文:sec27.md 该处已改为「σ4,σ5,σ6,σ7≈10.15\sigma_4,\sigma_5,\sigma_6,\sigma_7\approx10.15 四个几乎相等(σ3=23.77\sigma_3=23.77 不在此列)」,与 2.6.6 口径统一。
E2.3表述澄清2.6.6 与 2.7 结论 2同一处奇异值群,两页分别写作「σ4\sigma_4–σ7≈10.1\sigma_7\approx10.1 三个近似相等」与「四个几乎相等」。精确说法是:这四个值中前三个逐位相等(10.148410.1484)、第四个为 10.142210.1422——即「三个相等 / 四个接近」,两种说法各对一半,两段都不必改字,但引用时按此理解(sec27.md 已补注 σ3\sigma_3 不在此群)。
E2.4环境差异2.3.3 实测表 与 2.7.1 实验一表同一个 n=12n=12 的 Vandermonde 矩阵,两表分别记 cond=4.34×109\mathrm{cond}=4.34\times10^{9}、CGS =2.46=2.46 与 4.35×1094.35\times10^{9}、2.472.47。两表来自不同运行环境(BLAS 与 NumPy 版本不同);本机 numpy 2.4.6 复算得 4.34×1094.34\times10^{9}、2.462.46。量级与结论一致,比较跨平台数字只看量级——正文已声明「逐位因平台的 BLAS 实现而异」。
E2.5环境差异例 2.4.2 的 Hilbert 表n=12n=12 行记 cond=1.719×1016\mathrm{cond}=1.719\times10^{16}、最大误差 2.2×10−12.2\times10^{-1};本机复算得 1.659×10161.659\times10^{16}、5.2×10−15.2\times10^{-1}。既有结论(cond⋅u>1\mathrm{cond}\cdot u\gt1、双精度结果没有意义)两处完全一致,差异来自 BLAS。

其余输出的复算结论: 实验一至实验三的输出表(正交性退化、Hilbert 条件数与正态方程 / QR 分水岭、Eckart–Young 与低秩压缩)、例 2.4.1–2.4.5、例 2.5.2–2.5.6、例 2.6.1–2.6.6 的关键数值均已逐条复算,除上面登记的 E2.2–E2.5 之外与正文吻合(逐位或同量级,视平台而定)。


依据颜庆津《数值分析》(第 4 版)1.3 节扩充编写 · 术语用法与术语索引、易混对照卡互补 · 复算环境 numpy 2.4.6 / scipy 1.18.0 · 整理日期 2026-10-20。