Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

课堂精编 · 复习页

本页是「课堂精编」8 个讲次(第 1–7 讲与第 9 讲)的复习层。各讲页首的「10 分钟复习版」 管单讲怎么读,本页管跨讲的一条线:主线、公式去重汇总、易混对照、复习路线。 配套练习与自测见练习与自测;导览与全课程地图见课堂精编导览。

这一页与另外两页的分工
  • 一页速览 · 公式与结论卡 与 易混对照卡 汇总的是第一章 + 补充篇(数值线性代数工具箱)。
  • 本页只汇总课堂精编这 8 讲(课堂主线第 2–5 章目前由讲座页承载),与上面两页互补、不逐条重复。
  • 每条结论都链到讲次页的具体小节。讲次页正文是权威版本:要改公式,先改讲次页,再同步本页。
  • 第 8 讲(10-12)的转写与板书关键帧已归档,但讲座页尚未写出;本页凡涉及该讲内容(唯一性、收敛阶、牛顿法二阶收敛)均以第 9 讲开头的复盘为据。

一、八讲主线

8 个讲次页不是 8 个孤岛:每一讲的入口都压在前一讲的产物上。下表按依赖顺序串成一条线(不是在讲次列表上抄一遍)。

讲次主题关键结论(一句话)压在前面哪一讲的产物上
第 1 讲数值分析对象与误差理论四类误差里只有截断 / 舍入可控;误差三件套与四则误差限立起全课程的误差语言起点(无依赖)
第 2 讲有效数字、精度技巧与范数误差理论落成四条精度保护技巧;由距离公理化出范数,得相容关系 ∥Ax∥≤∥A∥∥x∥\lVert Ax\rVert\le\lVert A\rVert\lVert x\rVert第 1 讲的误差限公式(技巧 1、4 都是它的推论)
第 3 讲矩阵范数与高斯消去矩阵 1-范数 = 最大列和、∞\infty-范数 = 最大行和;找一个范数使 ∥A∥<1\lVert A\rVert\lt1 即判 I±AI\pm A 可逆;高斯消去与列主元第 2 讲范数四公理与从属范数(∥A∥∞\lVert A\rVert_\infty 的推导直接用相容关系)
第 4 讲LU 分解与迭代法引论消去的矩阵形式给出 LU(Doolittle 逐圈公式);三对角追赶法 O(n)O(n);分裂 A=N−PA=N-P 与收敛定理的唯一性部分第 3 讲的高斯消去(矩阵形式)与可逆判据(∥G∥<1⇒I−G\lVert G\rVert\lt1\Rightarrow I-G 可逆)
第 5 讲收敛理论、误差估计与 Jacobi / Gauss–Seidel充要条件 ρ(G)<1\rho(G)\lt1(对角化解耦自证);先验 / 后验误差估计回答「差小即停」;Jacobi、行对角占优、Gauss–Seidel第 4 讲的分裂框架与迭代格式
第 6 讲逐次超松弛法(SOR)与特征值问题开篇SOR 构造与显示化;ω∈(0,2)\omega\in(0,2) 必要;严格对角占优 + 0<ω≤10\lt\omega\le1 充分(反证全证);Ostrowski 定理第 5 讲的 ρ(G)\rho(G) / ∥G∥\lVert G\rVert 两条判据与 Gauss–Seidel 的分裂
第 7 讲幂法、反幂法;非线性方程开篇λ1\lambda_1 必为实数;幂法先单位化再乘 AA;2-范数下 ykTAyk→λ1y_k^{\mathrm T}Ay_k\to\lambda_1;反幂法每步解 Auk+1=ykAu_{k+1}=y_k;二分法与不动点迭代收敛定理第 6 讲末「求模最大特征值」的问题设定;反幂法每步要吃第 3、4 讲的解方程组
第 9 讲牛顿法全局收敛、割线法与插值引论收敛阶定理(导数消失到第 m−1m-1 阶 ⇒m\Rightarrow m 阶);牛顿法四条件全局收敛;割线法 1.6181.618、单点割线法一阶;插值:范德蒙德存在唯一但病态,换拉格朗日基第 7 讲的不动点框架 + 第 8 讲(占位)的三定理复盘;插值部分则为独立开篇

读法:查某一讲的依赖时横着读;准备考试时竖着看「关键结论」一列。第 3–9 讲的高斯消去、LU、追赶法、迭代法、幂法、非线性方程与插值属于本书第 2–5 章(与原书第 2–5 章同号),目前由讲座页承载——这些讲座页是目前最完整的表述。

二、必记公式与结论

按主题去重汇总。每条给「适用条件」——考试失分多半不是不会算,而是漏了前提。

2.1 误差与有效数字

结论适用条件 / 注意出处
误差三件套:e=x−ae=x-a;∣e∣≤ε\lvert e\rvert\le\varepsilon 记作 x=a±εx=a\pm\varepsilon;er=x−ax≈x−aae_{\mathrm r}=\dfrac{x-a}{x}\approx\dfrac{x-a}{a}相对误差的定义分母是精确值 xx;改取 ∣a∣\lvert a\rvert 需 ∣e∣≪∣a∣\lvert e\rvert\ll\lvert a\rvert第 1 讲 §六
四则误差限:ε(x±y)=εx+εy\varepsilon(x\pm y)=\varepsilon_x+\varepsilon_y;ε(xy)≈∣b∣εx+∣a∣εy\varepsilon(xy)\approx\lvert b\rvert\varepsilon_x+\lvert a\rvert\varepsilon_y;ε(x/y)≈∣b∣εx+∣a∣εyb2\varepsilon(x/y)\approx\dfrac{\lvert b\rvert\varepsilon_x+\lvert a\rvert\varepsilon_y}{b^2}把误差当微分、略去高阶小量 exeye_xe_y 后用三角不等式;除法含 b2b^2——小除数危险第 1 讲 §六
递推稳定性判据:yn=αn+βyn−1y_n=\alpha_n+\beta y_{n-1} 的误差按 βn\beta^n 传播只看放大因子 ∣β∣\lvert\beta\rvert 是否 >1\gt1,不看递推式长什么样;∣β∣>1\lvert\beta\rvert\gt1 时倒过来算(远端初值由估计式定住)第 1 讲 §五 例 3
有效数字:ε(a)\varepsilon(a) 不超过某一位的半个单位时,从最高位第一个非零数字数到该位与小数位数无关;误差限变大时逐位退位第 2 讲 §一
精度保护四技巧:连加从小到大、相近大数相减先改写、小根用韦达定理、小数不放分母四条都是误差限公式的推论,不是经验之谈第 2 讲 §二

2.2 向量范数与矩阵范数

结论适用条件 / 注意出处
向量范数三公理:正定 · 齐次 · 三角不等式;∥x∥1,∥x∥2,∥x∥p\lVert x\rVert_1,\lVert x\rVert_2,\lVert x\rVert_p范数就是距离/长度的推广第 2 讲 §三
矩阵范数四公理:比向量多一条次可乘性 ∥AB∥≤∥A∥∥B∥\lVert AB\rVert\le\lVert A\rVert\lVert B\rVert对从属范数第 4 条是定理,对一般矩阵范数是公理第 2 讲 §四
从属(算子)范数 ∥A∥=max⁡∥x∥=1∥Ax∥\lVert A\rVert=\max_{\lVert x\rVert=1}\lVert Ax\rVert分子分母必须用同一个向量范数;几何上是单位闭曲面上的最远点(2-范数球面、1-范数八面体、∞\infty-范数立方体)第 2 讲 §四
相容关系 ∥Ax∥≤∥A∥∥x∥\lVert Ax\rVert\le\lVert A\rVert\lVert x\rVert;乘积不等式 ∥AB∥≤∥A∥∥B∥\lVert AB\rVert\le\lVert A\rVert\lVert B\rVert只对适配(相容)的范数对成立;后续一切收敛性分析的起点第 2 讲 §五
∥A∥1=max⁡j∑i∣aij∣\lVert A\rVert_1=\max_j\sum_i\lvert a_{ij}\rvert(最大列和);∥A∥∞=max⁡i∑j∣aij∣\lVert A\rVert_\infty=\max_i\sum_j\lvert a_{ij}\rvert(最大行和)2-范数(最大奇异值)课堂留作自学,正文 1.3.4 补全第 3 讲 §一
存在某个矩阵范数使 ∥A∥<1\lVert A\rVert\lt1 ⇒\Rightarrow I±AI\pm A 可逆反证:设 x=Axx=Ax 则 ∥x∥≤∥A∥∥x∥<∥x∥\lVert x\rVert\le\lVert A\rVert\lVert x\rVert\lt\lVert x\rVert 矛盾;不用算行列式第 3 讲 §二
范数等价性:apq∥x∥p≤∥x∥q≤bpq∥x∥pa_{pq}\lVert x\rVert_p\le\lVert x\rVert_q\le b_{pq}\lVert x\rVert_p只在有限维成立,无限维不成立第 2 讲 §三

2.3 条件数(课堂的两处落点)

本 8 讲没有成节展开条件数与扰动分析(见补充篇 2.4,汇总见公式卡第十一节)。课堂只在两处用到它,复习时按这两处准备即可:

结论适用条件 / 注意出处
手算零件:cond(A)=∥A∥∥A−1∥\mathrm{cond}(A)=\lVert A\rVert\lVert A^{-1}\rVert 只需要范数与逆——第 3 讲练的正是 ∥A∥1\lVert A\rVert_1、∥A∥∞\lVert A\rVert_\infty 的手算定义与扰动界见补充篇 2.4;「损失的有效数字位数 ≈log⁡10cond\approx\log_{10}\mathrm{cond}」课堂未讲第 3 讲 §一
「存在唯一 ≠\ne 能算出来」:范德蒙德矩阵互异节点下非奇异,但病态到没法直接解病态是问题的属性,列主元这类算法改良救不了它;处置要换提法(换基)第 9 讲 §十一
对照实例(本页练习 B2):(1111.001)\begin{pmatrix}1&amp;1\1&amp;1.001\end{pmatrix} 的 cond∞≈4.0×103\mathrm{cond}_\infty\approx4.0\times10^3量级 3~4 位有效数字的损失;两行近似平行的直接后果见练习 B2

2.4 高斯消去与 LU 分解

结论适用条件 / 注意出处
不用行交换的高斯消去能消成上三角   ⟺  \iff 前 n−1n-1 个顺序主子式 Δ1,…,Δn−1≠0\Delta_1,\dots,\Delta_{n-1}\ne0充要条件;最后一个主元只管「能不能解」,要唯一解还需 Δn≠0\Delta_n\ne0第 3 讲 §四
列主元:每步取当前列绝对值最大元换到主元位,使 ∣mik∣≤1\lvert m_{ik}\rvert\le1动机就是「不让小数当分母」第 3 讲 §五
消去的矩阵形式:(Pn−1⋯P1)A=U(P_{n-1}\cdots P_1)A=U,P=Pn−1⋯P1P=P_{n-1}\cdots P_1 与 L:=P−1L:=P^{-1} 都是单位下三角依据:单位下三角阵的乘积与逆仍是单位下三角第 4 讲 §一
存在性:前 n−1n-1 个顺序主子式不为 00 ⇒\Rightarrow A=LUA=LU;解方程走 Ly=bLy=b 前代 + Ux=yUx=y 回代这里的箭头是 ⇒\Rightarrow(高斯消去那条是   ⟺  \iff);一次分解、反复使用第 4 讲 §二
Doolittle 逐圈公式:ukj=akj−∑s<klksusju_{kj}=a_{kj}-\sum_{s\lt k}l_{ks}u_{sj},lik=aik−∑s<klisuskukkl_{ik}=\dfrac{a_{ik}-\sum_{s\lt k}l_{is}u_{sk}}{u_{kk}}关键是安排顺序(第 1 行 U → 第 1 列 L → 第 2 行 U → …)使每步只含一个未知数第 4 讲 §三
三对角追赶法:分解不产生填充(LL 下双对角、UU 上双对角),计算量约 3n=O(n)3n=O(n)对比朴素高斯消去 O(n3)O(n^3);工程主流,实际软件不用朴素消去第 4 讲 §四

2.5 迭代法收敛理论

结论适用条件 / 注意出处
分裂 A=N−PA=N-P ⇒\Rightarrow x(k+1)=Gx(k)+dx^{(k+1)}=Gx^{(k)}+d,G=N−1PG=N^{-1}P、d=N−1bd=N^{-1}b实际计算每步解 Nx(k+1)=Px(k)+bNx^{(k+1)}=Px^{(k)}+b,不显式构造 N−1N^{-1}第 5 讲 §一
充要条件:对任意初值收敛   ⟺  \iff ρ(G)<1\rho(G)\lt1证法:GG 对角化解耦成标量递推 zk+1=λzk+Ez_{k+1}=\lambda z_k+E,∣λ∣<1\lvert\lambda\rvert\lt1 才收敛;GG 不可对角化时用若尔当形,结论不变第 5 讲 §二
充分条件:存在范数使 ∥G∥<1\lVert G\rVert\lt1 ⇒\Rightarrow 解存在唯一且对任意初值收敛大规模问题算不出特征根,实际用这一条;ρ(G)≤∥G∥\rho(G)\le\lVert G\rVert(课堂断言未证,补充篇 2.5 有)第 5 讲 §三
后验估计:∥x∗−x(k)∥≤∥G∥1−∥G∥∥x(k)−x(k−1)∥\lVert x^{*}-x^{(k)}\rVert\le\dfrac{\lVert G\rVert}{1-\lVert G\rVert}\lVert x^{(k)}-x^{(k-1)}\rVert这就是「相邻差小就停机」的道理;∥G∥\lVert G\rVert 接近 1 时差小不能断定接近真解第 5 讲 §三
先验估计:∥x(k)−x∗∥≤∥G∥k1−∥G∥∥x(1)−x(0)∥\lVert x^{(k)}-x^{*}\rVert\le\dfrac{\lVert G\rVert^{k}}{1-\lVert G\rVert}\lVert x^{(1)}-x^{(0)}\rVert原书式 2.26,课堂未写、按原书补列;推导规律是「下标 ++ 幂次 == 常数」第 5 讲 §三

2.6 Jacobi、Gauss–Seidel 与 SOR 的收敛条件

结论适用条件 / 注意出处
Jacobi:N=DN=D、P=−(L+U)P=-(L+U);G=D−1(−(L+U))G=D^{-1}(-(L+U)),分量式 xi(k+1)=1aii(bi−∑j≠iaijxj(k))x_i^{(k+1)}=\frac1{a_{ii}}\bigl(b_i-\sum_{j\ne i}a_{ij}x_j^{(k)}\bigr)三分 A=L+D+UA=L+D+U 中 LL、UU 不含对角线第 5 讲 §四
行对角占优 ∣aii∣>∑j≠i∣aij∣\lvert a_{ii}\rvert\gt\sum_{j\ne i}\lvert a_{ij}\rvert ⇒\Rightarrow ∥G∥∞<1\lVert G\rVert_\infty\lt1 ⇒\Rightarrow Jacobi 收敛列对角占优同样成立(原书定理 2.12 括注),证法不同;Crank–Nicolson 离散后的矩阵就是行对角占优第 5 讲 §四
Gauss–Seidel:N=L+DN=L+D、P=−UP=-U;本轮已算出的新分量立刻投入使用「形式隐式、实际显式」:x(k+1)x^{(k+1)} 前只挂严格下三角,一行一行往下算第 5 讲 §五
SOR:N=L+ω−1DN=L+\omega^{-1}D、P=(ω−1−1)D−UP=(\omega^{-1}-1)D-U;ω=1\omega=1 时退化为 Gauss–Seidel对角部分按 ω−1:(1−ω−1)\omega^{-1}:(1-\omega^{-1}) 分配;显示化只用「移项 + 两边乘 ωD−1\omega D^{-1}」第 6 讲 §二 · §四
必要条件:SOR 收敛 ⇒\Rightarrow 0<ω<20\lt\omega\lt2(证法 ∣det⁡G∣=∣ω−1∣n<1\lvert\det G\rvert=\lvert\omega-1\rvert^{n}\lt1)必要不充分:只约束特征值之积;「区间外一定不收敛,区间内不保证收敛」第 6 讲 §五
充分条件 ①:严格行(列)对角占优 + 0<ω≤10\lt\omega\le1 ⇒\Rightarrow 收敛证明靠引理「严格对角占优 ⇒\Rightarrow 可逆」+ 反证 μI−G\mu I-G 奇异;对角放大、其余缩小 ⇒\Rightarrow「更对角占优」矛盾第 6 讲 §六 · §七
充分条件 ②(Ostrowski):AA 对称正定 ⇒\Rightarrow SOR 收敛   ⟺  0<ω<2\iff0\lt\omega\lt2只述不证,记结论;实际用 ω>1\omega\gt1 加速正是靠它保驾护航第 6 讲 §八
Jacobi 与 Gauss–Seidel 之间没有一般优劣可能都收敛、都不收敛、或一收一散;差别只在拆法(拆法即名字)第 5 讲 §五 · §七

2.7 幂法、反幂法与位移反幂法

结论适用条件 / 注意出处
问题设定:AA 实矩阵,∣λ1∣>∣λ2∣≥⋯\lvert\lambda_1\rvert\gt\lvert\lambda_2\rvert\ge\cdots,特征向量互异「严格按模最大」这个前提缺不得,全部推导都建在它上面第 7 讲 §一
实矩阵按模严格最大的特征值必为实数反证:共轭 λ1‾\overline{\lambda_1} 也是特征值且模相同,与「严格最大」矛盾第 7 讲 §二
基本展开 Aku0=λ1k[α1x1+∑i≥2αi(λi/λ1)kxi]A^{k}u_0=\lambda_1^{k}\bigl[\alpha_1x_1+\sum_{i\ge2}\alpha_i(\lambda_i/\lambda_1)^{k}x_i\bigr];两个障碍:相对衰减 ≠\ne 绝对衰减、λ1k\lambda_1^{k} 溢出直接累乘 AA 会溢出,且滤不掉其他分量——这才需要单位化第 7 讲 §三
幂法:yk=uk∥uk∥y_k=\dfrac{u_k}{\lVert u_k\rVert}、uk+1=Ayku_{k+1}=Ay_k(先单位化,再乘 AA)求特征向量时范数随便取;极限 yk→(λ1/∣λ1∣)kα1x1/∥α1x1∥y_k\to(\lambda_1/\lvert\lambda_1\rvert)^{k}\alpha_1x_1/\lVert\alpha_1x_1\rVert,λ1<0\lambda_1\lt0 时差一个 (−1)k(-1)^{k}第 7 讲 §四
特征值提取:取 2-范数时 ykTAyk→λ1y_k^{\mathrm T}Ay_k\to\lambda_1因为 ∥yk∥2=1\lVert y_k\rVert_2=1 且 x1Tx1=∥x1∥22x_1^{\mathrm T}x_1=\lVert x_1\rVert_2^{2};换 ∞\infty-范数公式要另作调整第 7 讲 §五
反幂法:λ\lambda 模最小 ⇒\Rightarrow 对 A−1A^{-1} 用幂法得 1/λ1/\lambda;实际每步解 Auk+1=ykAu_{k+1}=y_k不构造 A−1A^{-1};每迭代一步解一次线性方程组(第 3、4 讲的直接法/迭代法在这里汇合)第 7 讲 §七
位移反幂法:已知 λk\lambda_k 的近似 pp ⇒\Rightarrow 对 A−pIA-pI 用反幂法求最小的 λk−p\lambda_k-p,再 λk=(λk−p)+p\lambda_k=(\lambda_k-p)+p前提是 pp 离 λk\lambda_k 最近;背景是能级 = 特征值第 7 讲 §八

2.8 非线性方程:不动点迭代与收敛阶

结论适用条件 / 注意出处
f(x)=0  ⟺  x=φ(x)f(x)=0\iff x=\varphi(x),迭代 xk+1=φ(xk)x_{k+1}=\varphi(x_k),极限即不动点;变形不唯一最省事的构造:φ(x)=x+f(x)\varphi(x)=x+f(x)第 7 讲 §九
二分法:ff 连续、f(a)f(b)<0f(a)f(b)\lt0 ⇒\Rightarrow 有根;nn 步后区间长 ∣[an,bn]∣=b−a2n\lvert[a_n,b_n]\rvert=\dfrac{b-a}{2^{n}}保证收敛但收敛慢;误差随区间长度一起变小第 7 讲 §九
收敛定理:连续可导 + (i) 自映射 φ([a,b])⊆[a,b]\varphi([a,b])\subseteq[a,b] + (ii) 压缩 ∣φ′∣≤L<1\lvert\varphi&#x27;\rvert\le L\lt1 ⇒\Rightarrow 唯一不动点且迭代收敛两条件各管什么:(i) 管迭代值不越界,(ii) 管收敛第 7 讲 §十
存在性证明:F(x)=x−φ(x)F(x)=x-\varphi(x) 在两端异号 + 介值定理第 7 讲当堂只证存在性;唯一性与压缩下的收敛由第 8 讲(占位)与第 9 讲复盘补齐第 7 讲 §十
收敛阶定理:φ′(s)=⋯=φ(m−1)(s)=0\varphi&#x27;(s)=\cdots=\varphi^{(m-1)}(s)=0、φ(m)(s)≠0\varphi^{(m)}(s)\ne0 ⇒\Rightarrow mm 阶收敛,lim⁡k→∞xk+1−s(xk−s)m=φ(m)(s)m!\lim\limits_{k\to\infty}\dfrac{x_{k+1}-s}{(x_k-s)^{m}}=\dfrac{\varphi^{(m)}(s)}{m!}φ′(s)≠0\varphi&#x27;(s)\ne0 ⇒ 线性;φ′(s)=0,φ′′(s)≠0\varphi&#x27;(s)=0,\varphi&#x27;&#x27;(s)\ne0 ⇒ 二阶(有效数字约翻倍)第 9 讲 §二

2.9 牛顿法与割线法族

结论适用条件 / 注意出处
牛顿法:xk+1=xk−f(xk)f′(xk)x_{k+1}=x_k-\dfrac{f(x_k)}{f&#x27;(x_k)};φ(x)=x−ff′\varphi(x)=x-\dfrac{f}{f&#x27;},φ′(x)=ff′′(f′)2\varphi&#x27;(x)=\dfrac{ff&#x27;&#x27;}{(f&#x27;)^{2}}φ′(s)=0\varphi&#x27;(s)=0(f(s)=0f(s)=0、f′(s)≠0f&#x27;(s)\ne0)⇒ 至少二阶第 9 讲 §二
一般定理只保证局部收敛:ff 在根附近二次连续可导、f′(s)≠0f&#x27;(s)\ne0、初值充分靠近 ss「充分靠近」是存在性邻域,定理不告诉你它多大——初值取远可能跑到别的根或局部极值第 9 讲 §三
全局收敛定理四条件:(i) f(a)f(b)<0f(a)f(b)\lt0;(ii) f′′f&#x27;&#x27; 不变号;(iii) f′f&#x27; 不为零;(iv) f(x0)f′′(x0)>0f(x_0)f&#x27;&#x27;(x_0)\gt0(i)+(iii) 夹住并唯一化根;(ii) 保证凸性不变、序列不越界;(iii) 保证单调趋近;(iv) 指定初值侧。核心是「凸性与单调性都不变」第 9 讲 §四 · §五 四格图像
证明骨架(第一种情形,上凸 + 单增):x0<x1<sx_0\lt x_1\lt s → 归纳得单调有界 → 取极限得 f(s′)=0f(s&#x27;)=0 → 由唯一性 s′=ss&#x27;=s关键一步是 Taylor 展开 f(x0)=f′(ξ)(x0−s)f(x_0)=f&#x27;(\xi)(x_0-s) 与 f′f&#x27; 单调降给出 0<f′(ξ)/f′(x0)<10\lt f&#x27;(\xi)/f&#x27;(x_0)\lt1第 9 讲 §六
割线法:f′(xk)≈f(xk)−f(xk−1)xk−xk−1f&#x27;(x_k)\approx\dfrac{f(x_k)-f(x_{k-1})}{x_k-x_{k-1}},xk+1=xk−f(xk)(xk−xk−1)f(xk)−f(xk−1)x_{k+1}=x_k-\dfrac{f(x_k)(x_k-x_{k-1})}{f(x_k)-f(x_{k-1})}需要两个初值;几何是过两点的割线与 xx 轴交点;阶 r=1+52≈1.618r=\frac{1+\sqrt5}{2}\approx1.618(r2−r−1=0r^{2}-r-1=0)第 9 讲 §七
单点割线法:xk+1=xk−f(xk)(xk−x0)f(xk)−f(x0)x_{k+1}=x_k-\dfrac{f(x_k)(x_k-x_0)}{f(x_k)-f(x_0)}(x0x_0 钉住)代价是降为一阶;同一套四条条件下仍收敛第 9 讲 §八
Steffensen 迭代法课堂「点到即止」,留作自阅——本页不展开第 9 讲 §九

2.10 插值法

结论适用条件 / 注意出处
插值问题:已知 n+1n+1 个互异点,求 P(xi)=f(xi)P(x_i)=f(x_i) 的 nn 次多项式n+1n+1 个条件对 n+1n+1 个系数——「正好」;建模取舍是「尽量找最简单的函数」第 9 讲 §十
范德蒙德矩阵 Aij=xi jA_{ij}=x_i^{,j},det⁡A=∏i<j(xj−xi)≠0\det A=\prod_{i\lt j}(x_j-x_i)\ne0 ⇒\Rightarrow 存在唯一但病态:节点稍多、稍靠近,条件数指数级恶化,直接解系数会丢大量有效数字第 9 讲 §十一
拉格朗日基:li(x)=∏j≠ix−xjxi−xjl_i(x)=\prod_{j\ne i}\dfrac{x-x_j}{x_i-x_j},li(xi)=1l_i(x_i)=1、li(xj)=0l_i(x_j)=0;Ln(x)=∑if(xi)li(x)L_n(x)=\sum_i f(x_i)l_i(x)系数直接就是 f(xi)f(x_i),一步不用解方程——换基绕开范德蒙德病态第 9 讲 §十二
误差余项(下一讲起点):Rn(x)=f(x)−Ln(x)=f(n+1)(ξ)(n+1)!∏i=0n(x−xi)R_n(x)=f(x)-L_n(x)=\dfrac{f^{(n+1)}(\xi)}{(n+1)!}\prod_{i=0}^{n}(x-x_i)第 9 讲页末预告;收敛性(Runge 现象等)留给下一讲,本页练习 B8 只用这个余项式做误差界第 9 讲 §十二 页末

三、最容易混的对照表

读法:只看每张卡的口诀行;做错题时再回来看表格。每张卡都给「依据」——考试写理由要用它。

3.1 残差 / 误差 / 相邻迭代差

口诀:残差 b−Axb-Ax 可算,误差 x−x∗x-x^{*} 不可算,相邻迭代差是第三个量——老师口称的「残差」通常指最后一个。

残差 r(k)=b−Ax(k)r^{(k)}=b-Ax^{(k)}误差 e=x(k)−x∗e=x^{(k)}-x^{*}相邻迭代差 x(k)−x(k−1)x^{(k)}-x^{(k-1)}
可算吗可算(只用已知量)不可算(x∗x^{*} 未知)可算
课堂用途Krylov 子空间方法用真残差误差估计的目标停机判据(后验估计)

依据:第 5 讲 §六 考注 4——老师把停机用的相邻迭代差口称为「残差」,标准术语里残差是 b−Axb-Ax,两者不同。 「前向误差 / 后向误差」这一对属正文术语(1.2.6),本 8 讲未展开,此处不混入。

3.2 谱半径 ρ(G)\rho(G) / 矩阵范数 ∥G∥\lVert G\rVert

口诀:ρ(G)<1\rho(G)\lt1 是充要条件但算不出,∥G∥<1\lVert G\rVert\lt1 是充分条件且好算。

ρ(G)\rho(G)∥G∥\lVert G\rVert
判别地位充要(对任意初值收敛)充分(存在某个范数即可)
强弱ρ(G)≤∥G∥\rho(G)\le\lVert G\rVert,反向不成立∥G∥≥1\lVert G\rVert\ge1 时格式仍可能收敛
大规模问题算不出特征根,用不了能用(∥⋅∥1\lVert\cdot\rVert_1、∥⋅∥∞\lVert\cdot\rVert_\infty 手算即可)

依据:第 5 讲 §二·§三。实例见练习 B4:ρ(GJ)=0.2887\rho(G_J)=0.2887、∥GJ∥∞=0.3333\lVert G_J\rVert_\infty=0.3333。

3.3 局部收敛 / 全局收敛(牛顿法)

口诀:一般定理只说「初值靠近根」,四条件才把初值放到「某个明确的阴影区」。

一般(局部)定理全局收敛定理
前提ff 在 ss 附近二次连续可导、f′(s)≠0f&#x27;(s)\ne0、x0x_0 充分靠近 ss四条条件(异号 + f′′f&#x27;&#x27; 不变号 + f′f&#x27; 恒不为零 + f(x0)f′′(x0)>0f(x_0)f&#x27;&#x27;(x_0)\gt0)
结论收敛到 ss,二阶收敛到 [a,b][a,b] 上唯一根
初值能离多远定理不说(存在性邻域)由 (iv) 指定的那一侧,可以离得很远

依据:第 9 讲 §三 与 §四。

3.4 牛顿法 / 割线法 / 单点割线法

口诀:每松一步(去导数 → 去记忆)就掉一档阶,也省一步代价。

方法每步要用初值个数收敛阶
牛顿法f(xk),f′(xk)f(x_k),f&#x27;(x_k)12
割线法f(xk),f(xk−1)f(x_k),f(x_{k-1})21.618(超线性)
单点割线法f(xk),f(x0)f(x_k),f(x_0)1(另加固定点 x0x_0)1

依据:第 9 讲 §七·§八。数值对照见练习 B7。

3.5 Jacobi / Gauss–Seidel / SOR(拆法即名字)

口诀:三种方法是三种拆法,不是三个等级的精度;收敛快慢要看具体矩阵。

NNPP备注
JacobiDD(对角)−(L+U)-(L+U)按对角 / 非对角拆;GG 显式
Gauss–SeidelL+DL+D(含对角下三角)−U-U按上 / 下三角拆;新分量立刻投入使用
SORL+ω−1DL+\omega^{-1}D(ω−1−1)D−U(\omega^{-1}-1)D-U把对角部分按参数分配;ω=1\omega=1 退化为 GS

依据:第 5 讲 §四·§五、第 6 讲 §二。「GS 一定比 Jacobi 收敛性强」是错的——三者可能都收敛、都不收敛,或一收一散。

3.6 SOR 的 ω\omega:必要 / 充分三层

口诀:区间外一定不收敛(必要),区间内要看矩阵类型(充分)。

矩阵类型ω\omega 的结论强度
一般矩阵收敛 ⇒ω∈(0,2)\Rightarrow\omega\in(0,2)必要(由 ∣det⁡G∣=∣ω−1∣n\lvert\det G\rvert=\lvert\omega-1\rvert^{n} 而来,只约束特征值之积)
严格行(列)对角占优0<ω≤10\lt\omega\le1 ⇒\Rightarrow 收敛充分
对称正定(Ostrowski)收敛   ⟺  0<ω<2\iff0\lt\omega\lt2充要(区间是开的)

依据:第 6 讲 §五·§七·§八。ω=2\omega=2 为何不行:ρ(G)=1\rho(G)=1(练习 B5、D2)。

3.7 「能消成上三角」/「方程组有唯一解」

口诀:前 n−1n-1 个顺序主子式管「能不能消」,第 nn 个管「能不能解」。

问题判据来源
不用行交换能消成上三角前 n−1n-1 个顺序主子式 Δ1,…,Δn−1≠0\Delta_1,\dots,\Delta_{n-1}\ne0(充要)高斯消去定理
Ax=bAx=b 有唯一解Δn≠0\Delta_n\ne0(即 AA 非奇异,最后一个主元非零)线性代数基本结论

依据:第 3 讲 §四、第 4 讲 §二。反例:A=(0110)A=\begin{pmatrix}0&amp;1\1&amp;0\end{pmatrix} 非奇异(有唯一解),但 Δ1=0\Delta_1=0,不换行第一步就消不动。

3.8 幂法:求特征向量 / 求特征值

口诀:算向量范数随取;算特征值必须 2-范数。

求特征向量求特征值
范数取法∥⋅∥\lVert\cdot\rVert 任意(极限与范数无关)必须 ∥⋅∥2\lVert\cdot\rVert_2
公式yk→α1x1∥α1x1∥y_k\to\dfrac{\alpha_1x_1}{\lVert\alpha_1x_1\rVert}(λ1>0\lambda_1\gt0)ykTAyk→λ1y_k^{\mathrm T}Ay_k\to\lambda_1
前提先单位化、再乘 AA(顺序不能反)同上,且 ∥yk∥2=1\lVert y_k\rVert_2=1

依据:第 7 讲 §四·§五。λ1<0\lambda_1\lt0 时向量极限差一个 (−1)k(-1)^{k},但 ykTAyky_k^{\mathrm T}Ay_k 里两个 (−1)k(-1)^{k} 相消。

3.9 反幂法 / 位移反幂法

口诀:反幂法把「模最小」翻成「模最大」;位移把「最接近 pp」也翻成「模最小」。

反幂法位移反幂法
目标模最小的特征值最接近已知近似 pp 的特征值
手段对 A−1A^{-1} 用幂法对 A−pIA-pI 用反幂法
回收λ=1/(幂法算出的值)\lambda=1/(\text{幂法算出的值})λk=(λk−p)+p\lambda_k=(\lambda_k-p)+p
实际计算不构造 A−1A^{-1},每步解 Auk+1=ykAu_{k+1}=y_k每步解 (A−pI)uk+1=yk(A-pI)u_{k+1}=y_k

依据:第 7 讲 §七·§八。

3.10 「存在唯一」/「能算出来」

口诀:存在唯一是存在性结论,不是可用算法;能不能算要看条件数与基的选择。

存在唯一能算出来
依据det⁡A=∏i<j(xj−xi)≠0\det A=\prod_{i\lt j}(x_j-x_i)\ne0(点互异)条件数、基的选择、是否相消
范德蒙德路线成立失败:条件数指数恶化
拉格朗日路线同一条多项式(与基无关)成功:系数直接读出 f(xi)f(x_i)

依据:第 9 讲 §十一·§十二。注意:「存在唯一」也不蕴含「节点加密就收敛」——第 9 讲页末只点了 Runge 现象的名字,具体例子留给下一讲(需核实于下一讲)。

四、复习路线

三档路线,只按剩余时间选一档,不要混着走。共同前提:讲次页的页身(课堂时间线、板书时间戳、错词对照表)复习时一律不看。

4.1 考前 2 小时

顺序读什么大约
1本页 §二:遮住「适用条件」列自测,默不出公式就打勾40 min
2本页 §三:只读十张卡的口诀行 + 「依据」链接20 min
38 个讲次页页首的「10 分钟复习版」盒(按第 5 → 6 → 7 → 9 → 3 → 4 → 2 → 1 的倒序,先啃最厚的)45 min
4各讲「老师强调」小节(第 5、6、7、9)只读标题句10 min
5必考点总表 扫一遍5 min

4.2 考前 1 小时

顺序读什么大约
1本页 §二 的 2.5–2.9(迭代、SOR、幂法、非线性、割线)——这五节是课堂精编独有的内容25 min
2本页 §三 全部口诀行(十行)10 min
3第 5、第 6、第 7、第 9 四讲的核心小节各读一遍20 min
4练习页 A 组快速过一遍(只看题干,判断能不能立刻说出理由)5 min

4.3 考前 20 分钟

只做三件事,不学新东西:

  1. 背十条口诀(本页 §三 的口诀行):残差可算误差不可算 · 充要算不出、充分好算 · 局部靠条件、全局靠四条件 · 每松一步掉一档阶 · 拆法即名字 · ω\omega 这三层 · 能消看前 n−1n-1 个、能解看第 nn 个 · 向量随取、特征值必须 2-范数 · 反幂法不构造逆 · 存在唯一 ≠\ne 能算出来。
  2. 默写三条公式:后验估计 ∥G∥1−∥G∥\frac{\lVert G\rVert}{1-\lVert G\rVert}、∣det⁡G∣=∣ω−1∣n\lvert\det G\rvert=\lvert\omega-1\rvert^{n}、ykTAyk→λ1y_k^{\mathrm T}Ay_k\to\lambda_1。
  3. 过一眼「老师强调」的原文:第 5 讲 §七 与 第 6 讲 §十一——这两页的强调句密度最高。
别这样复习
  • 从头顺读讲次页:每讲页身动辄 500 行,时间全花在时间线与错词表上。
  • 只看结论不看条件:ρ(G)<1\rho(G)\lt1 与 ∥G∥<1\lVert G\rVert\lt1、ω∈(0,2)\omega\in(0,2) 的必要 / 充分,是本 8 讲最集中的失分点。
  • 拿练习页的答案当阅读材料:先闭卷写,写不出来再看——答案默认折叠就是为了这个顺序。