Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

第 9 讲(10-14):牛顿法的全局收敛定理、割线法与单点割线法;插值法引论

课堂实录精编。本讲无课件、全程板书(课件流整段「无视频信号」,与第 7 讲相同), 承接第 7 讲末尾「f(x)=0  ⟺  x=φ(x)f(x)=0\iff x=\varphi(x)、二分法、不动点迭代收敛定理」与 本周一(第 8 讲,本编待补)的「唯一性与压缩条件下的收敛速度、收敛阶、牛顿法与二阶收敛」。 本讲主线三段:复盘三定理——不动点迭代的「存在、收敛、收敛阶」三条定理,把 「导数消失到第 m−1m-1 阶」与「迭代是 mm 阶收敛」对上(牛顿法正是 φ′(s)=0\varphi'(s)=0 的特例, 故二阶);牛顿法的收敛范围——一般牛顿法只保证局部收敛(初值须落在目标根附近, 取偏了会跑到另一个根甚至局部极值),本讲给出全局收敛定理的四条充分条件 (端点异号、二阶导不变号、一阶导不为零、f(x0)f′′(x0)>0f(x_0)f''(x_0)\gt0),列举随之而来的四种 函数图像,并就第一种情形完成证明(xkx_k 单调有界 ⇒\Rightarrow 收敛;对迭代式取极限 得 f(s′)=0f(s')=0,由唯一性 s′=ss'=s);割线法族——牛顿法要算 f′f',遇到多元/复杂函数太贵, 于是用差商代替导数得到割线法(两个初值、几何即过两点的割线与横轴交点、收敛阶是 黄金比 r=(1+5)/2≈1.618r=(1+\sqrt5)/2\approx1.618),再把 xk−1x_{k-1} 钉住为 x0x_0 得单点割线法 (降为一阶),Steffensen 迭代法课上点到即止(留作自阅);插值法引论——海底温度随 深度的采样问题引出「用简单函数恢复曲线」,从 n+1n+1 个数据点列出 n+1n+1 个方程解 n+1n+1 个 系数,指出系数矩阵是范德蒙德矩阵(互异节点下非奇异,但病态到没法直接解),于是 换基为拉格朗日基 li(x)l_i(x),插值系数直接读出为 f(xi)f(x_i)。前三段对应原书第 4 章 (非线性方程)的收敛性讨论,末段是原书第 5 章(插值)的开篇。 原始转写存档于仓库根目录 _sources/numerical/transcripts/(源文件,不随书构建发布; 本讲平台侧无语音数据,转写由教师流音频本地完成);本页公式逐条对照教师摄像头 板书关键帧核对(板书全程为绿板粉笔手写,见下文各节「板书」标注)。

10 分钟复习版 · 第 9 讲

一句话:牛顿法快(二阶)但只保证局部,四条条件(异号 + f′′f'' 不变号 + f′f' 恒不为零 + f(x0)f′′(x0)>0f(x_0)f''(x_0)\gt0)能把它升级为全局收敛;导数不好算就用差商代替,得到割线法(需两初值,收敛阶 ≈1.618\approx1.618)与单点割线法(一阶);下半场转入插值——用多项式穿 n+1n+1 个点,直接解范德蒙德系数病态,换成拉格朗日基后系数就是函数值本身。

必记结论

内容 要点
三定理复盘 ① 存在(自映射 + 压缩)② 收敛(同上)③ 收敛阶:φ′(s)=φ′′(s)=⋯=φ(m−1)(s)=0, φ(m)(s)≠0⇒m\varphi'(s)=\varphi''(s)=\cdots=\varphi^{(m-1)}(s)=0,\ \varphi^{(m)}(s)\neq0\Rightarrow m 阶
收敛阶定理 lim⁡k→∞xk+1−s(xk−s)m=φ(m)(s)m!\lim\limits_{k\to\infty}\dfrac{x_{k+1}-s}{(x_k-s)^m}=\dfrac{\varphi^{(m)}(s)}{m!};牛顿法 φ′(s)=0\varphi'(s)=0 故至少二阶
牛顿法 xk+1=xk−f(xk)f′(xk)x_{k+1}=x_k-\dfrac{f(x_k)}{f'(x_k)}(切线法);一般只保证局部收敛,初值须靠近根
全局收敛定理 (1) f(a)f(b)<0f(a)f(b)\lt0;(2) f′′(x)f&#x27;&#x27;(x) 在 [a,b][a,b] 不变号;(3) f′(x)f&#x27;(x) 在 [a,b][a,b] 上不为零;(4) f(x0)f′′(x0)>0f(x_0)f&#x27;&#x27;(x_0)\gt0;则牛顿迭代收敛到 [a,b][a,b] 上唯一根(教材称「大范围收敛性定理」)
条件含义 (1) 有根;(2) 凸性不变;(3) 单调且切线斜率不为零;(4) 初值取在「ff 与 f′′f&#x27;&#x27; 同号」的一侧
证明骨架 以上凸单增为例:x0<x1<sx_0\lt x_1\lt s(f(x0)<0f(x_0)\lt0,Taylor 展开 + f′f&#x27; 单调降);xkx_k 单调有界 ⇒\Rightarrow 有极限;代入迭代式得 f(s′)=0⇒s′=sf(s&#x27;)=0\Rightarrow s&#x27;=s
割线法 f′(xk)≈f(xk)−f(xk−1)xk−xk−1f&#x27;(x_k)\approx\dfrac{f(x_k)-f(x_{k-1})}{x_k-x_{k-1}},xk+1=xk−f(xk)(xk−xk−1)f(xk)−f(xk−1)x_{k+1}=x_k-\dfrac{f(x_k)(x_k-x_{k-1})}{f(x_k)-f(x_{k-1})};需两个初值
割线几何 过 (xk−1,fk−1)(x_{k-1},f_{k-1}) 与 (xk,fk)(x_k,f_k) 的割线与 xx 轴的交点即 xk+1x_{k+1}
割线收敛阶 超线性,r=1+52≈1.618r=\dfrac{1+\sqrt5}{2}\approx1.618,是 r2−r−1=0r^2-r-1=0 的根——介于线性与二阶之间
单点割线法 xk+1=xk−f(xk)(xk−x0)f(xk)−f(x0)x_{k+1}=x_k-\dfrac{f(x_k)(x_k-x_0)}{f(x_k)-f(x_0)}(x0x_0 钉住);一阶收敛
Steffensen 课上只说「大家自己看一看」,留作自阅
插值问题 已知 n+1n+1 个点 (xi,f(xi))(x_i,f(x_i)),求一个多项式 PnP_n 穿过它们
范德蒙德 系数矩阵 Aij=xi jA_{ij}=x_i^{\,j},det⁡A=∏i<j(xj−xi)≠0\det A=\prod_{i\lt j}(x_j-x_i)\neq0(点互异)⇒\Rightarrow 存在唯一;但病态,直接解系数不可行
拉格朗日 li(x)=∏j≠ix−xjxi−xjl_i(x)=\prod_{j\neq i}\dfrac{x-x_j}{x_i-x_j},li(xi)=1, li(xj)=0l_i(x_i)=1,\ l_i(x_j)=0;Ln(x)=∑i=0nf(xi) li(x)L_n(x)=\sum_{i=0}^n f(x_i)\,l_i(x),系数就是 f(xi)f(x_i)

老师强调的考点:牛顿法一般定理只给「初值靠近根」的局部保证,四条条件才是全局版本,别把两者混为一谈;四条里 (2) 管凸性、(3) 管单调性(且 f′≠0f&#x27;\neq0 保证每步切线存在)——这是初值能离根很远仍收敛的根本原因;割线法必须两个初值(xk,xk−1x_k,x_{k-1}),而单点割线法把前一个钉死为 x0x_0,代价是从超线性跌到一阶;割线的收敛阶是无理数 1.6181.618、要解 r2−r−1=0r^2-r-1=0,别按整数去记;插值的坑在范德蒙德矩阵病态——「存在唯一」不等于「能算出来」,换基(拉格朗日)才是出路。

对应正文:非线性方程见第 4 章(原书第 4 章)先导(待成章);插值对应原书第 5 章 = 第 5 章(待成章);不动点迭代与收敛阶的完整表述见第 7 讲与本周一(第 8 讲)。

课堂时间线

时间内容
01:30–05:30开场复盘:不动点迭代的三条定理(存在、收敛、收敛阶)
05:30–11:20收敛阶定理:φ′(s)=⋯=φ(m−1)(s)=0⇒m\varphi&#x27;(s)=\cdots=\varphi^{(m-1)}(s)=0\Rightarrow m 阶;与牛顿法二阶收敛的关系
11:20–16:00牛顿法的局部性:初值须在根附近;反例图像——初值太远则收敛到别的根或局部极值
16:00–21:00牛顿法全局收敛定理(四条条件)
19:00–21:30四种函数图像(凸性 × 单调性)与初值可取范围(阴影区)
21:30–30:00定理证明(第一种情形):x0<x1<sx_0\lt x_1\lt s;有界单调序列
30:00–34:20证明收尾:取极限得 f(s′)=0f(s&#x27;)=0,唯一性给出 s′=ss&#x27;=s
34:20–46:40割线法:差商代导数、迭代格式、几何意义(割线与横轴交点)
46:46–51:27课间休息(转写为环境噪声/幻觉)
51:27–61:00割线法需要两个初值;收敛阶由 r2−r−1=0r^2-r-1=0 定出 r≈1.618r\approx1.618;同样四条条件下收敛
61:00–64:00单点割线法(钉住 x0x_0)及其一阶收敛
64:00–65:00Steffensen 迭代法一提(课上略过)
65:00–80:00插值法引论:海底温度采样问题;从散点恢复曲线;多项式插值
80:00–85:00系数方程与范德蒙德矩阵;插值多项式的存在唯一性
85:00–99:03换基:拉格朗日基函数 li(x)l_i(x);拉格朗日插值公式;下一讲预告

一、开场复盘:不动点迭代的三条定理(01:30–05:30)

本讲从回顾上节课(周一)的三个结论开始。求 f(x)=0f(x)=0 的根,先把方程改写成等价的不动点 形式 x=φ(x)x=\varphi(x),再迭代 xk+1=φ(xk)x_{k+1}=\varphi(x_k)(第 7 讲已引入)。围绕它有三条 层层递进的定理:

  1. 不动点存在(唯一)定理:φ\varphi 在 [a,b][a,b] 上连续,且把区间映到自身 φ([a,b])⊆[a,b]\varphi([a,b])\subseteq[a,b],再加压缩条件 ∣φ′(x)∣≤L<1 (x∈[a,b])|\varphi&#x27;(x)|\le L\lt1\ (x\in[a,b]), 则 [a,b][a,b] 内存在唯一不动点 ss;
  2. 收敛定理:在上述两条条件下,任取初值 x0∈[a,b]x_0\in[a,b],迭代 xk+1=φ(xk)x_{k+1}=\varphi(x_k) 收敛到 ss(第 7 讲已证存在性,收敛/唯一由本周一补齐);
  3. 收敛阶定理:迭代收敛得有多快,取决于 φ\varphi 在 ss 处导数消失到第几阶。

板书左板把三条定理自上而下并排成三块(定理一、定理二、定理三),其中定理二、三的条件框 被老师加框强调——「这两条各管什么」是本讲反复回扣的一条线。

三条定理的「递进」

存在 →\to 收敛 →\to 收敛阶,是「有没有 →\to 收不收敛 →\to 有多快」的三级跳。 前两级只看 φ\varphi 的整体性质(自映射 + 压缩),第三级才看 ss 局部的高阶导。老师 开场特意把这条链重新捋一遍,因为本讲后半的牛顿法、割线法都是「在这条链上做文章」: 牛顿法靠 φ′(s)=0\varphi&#x27;(s)=0 拿到二阶,割线法用差商逼近导数,把阶数卡在 11 与 22 之间。

二、收敛阶定理:导数消失阶数决定迭代阶数(05:30–11:20)

定理(收敛阶):设 s=φ(s)s=\varphi(s) 是不动点,φ\varphi 在 ss 附近有 mm 阶连续导数,且

φ′(s)=φ′′(s)=⋯=φ(m−1)(s)=0,φ(m)(s)≠0,\varphi&#x27;(s)=\varphi&#x27;&#x27;(s)=\cdots=\varphi^{(m-1)}(s)=0,\qquad \varphi^{(m)}(s)\neq0,

则迭代 xk+1=φ(xk)x_{k+1}=\varphi(x_k) 在 ss 附近是 mm 阶收敛,且(板书在定理右侧写出极限式)

lim⁡k→∞xk+1−s(xk−s)m=φ(m)(s)m!.\lim_{k\to\infty}\frac{x_{k+1}-s}{(x_k-s)^m}=\frac{\varphi^{(m)}(s)}{m!}.

为什么是 mm 阶(把 φ(xk)\varphi(x_k) 在 ss 处 Taylor 展开):由 xk+1−s=φ(xk)−φ(s)x_{k+1}-s=\varphi(x_k)-\varphi(s),

φ(xk)=φ(s)+φ′(s)(xk−s)+⋯+φ(m−1)(s)(m−1)!(xk−s)m−1⏟= 0+φ(m)(ξ)m!(xk−s)m,\varphi(x_k)=\varphi(s)+\underbrace{\varphi&#x27;(s)(x_k-s)+\cdots+\frac{\varphi^{(m-1)}(s)}{(m-1)!}(x_k-s)^{m-1}}_{=\ 0} +\frac{\varphi^{(m)}(\xi)}{m!}(x_k-s)^m,

前 m−1m-1 项因导数全为零而消失,只剩最高阶项,于是

xk+1−s=φ(m)(ξ)m!(xk−s)m ≈ φ(m)(s)m!(xk−s)m,x_{k+1}-s=\frac{\varphi^{(m)}(\xi)}{m!}(x_k-s)^m\ \approx\ \frac{\varphi^{(m)}(s)}{m!}(x_k-s)^m,

即误差按 mm 次方缩小——这正是「mm 阶收敛」的含义。板书把这一结论的右边单独写成 φ(m)(s)m!\dfrac{\varphi^{(m)}(s)}{m!},与 lim⁡\lim 式并列。

两种常见情形(对上课板):

  • 若 φ′(s)≠0\varphi&#x27;(s)\neq0:只有 m=1m=1,线性收敛(误差每步乘一个常数);
  • 若 φ′(s)=0, φ′′(s)≠0\varphi&#x27;(s)=0,\ \varphi&#x27;&#x27;(s)\neq0:m=2m=2,二阶(平方)收敛——每步有效数字大约翻倍。

牛顿法为什么是二阶:牛顿迭代 xk+1=xk−f(xk)f′(xk)x_{k+1}=x_k-\dfrac{f(x_k)}{f&#x27;(x_k)} 等价于不动点迭代,其迭代函数

φ(x)=x−f(x)f′(x),φ′(x)=f(x)f′′(x)[f′(x)]2.\varphi(x)=x-\frac{f(x)}{f&#x27;(x)},\qquad \varphi&#x27;(x)=\frac{f(x)f&#x27;&#x27;(x)}{[f&#x27;(x)]^2}.

在根 ss 处 f(s)=0f(s)=0、f′(s)≠0f&#x27;(s)\neq0,故 φ′(s)=0\varphi&#x27;(s)=0;而 φ′′(s)=f′′(s)f′(s)\varphi&#x27;&#x27;(s)=\dfrac{f&#x27;&#x27;(s)}{f&#x27;(s)} 在一般情形下 ≠0\neq0(若也恰好为零则阶数更高)。代入上面的 收敛阶定理,牛顿法至少是二阶收敛(当 φ′′(s)≠0\varphi&#x27;&#x27;(s)\neq0 时恰为二阶)——板书在这一行右侧 专门标了「(至少二阶)」,并另起一行写「且 φ′(s)=0\varphi&#x27;(s)=0,二阶收敛」。这正是周一讲过的 结论,本讲用它作为「收敛阶定理」的标准例子。

「二阶」到底快多少

一阶收敛:误差按固定比例 ρ<1\rho\lt1 缩小,如 10−1,10−2,10−3,…10^{-1},10^{-2},10^{-3},\dots; 二阶收敛:误差按平方缩小,即有效数字翻倍——若某步误差是 10−310^{-3},下一步约 C⋅10−6C\cdot10^{-6},再下一步 C⋅10−12C\cdot10^{-12}。牛顿法一般 5 ⁣∼ ⁣65\!\sim\!6 步就打到机器精度, 割线法(阶 1.6181.618)稍慢但每步更省,见第七节。

三、牛顿法的局部性:初值必须靠近目标根(11:20–16:00)

既然牛顿法有二阶收敛这么快,为什么还要专门讨论「收敛范围」?老师画出反例图像说明: 牛顿法的一般收敛定理只保证局部结果。

「牛顿迭代的二阶收敛虽然快,但它对初值是有要求的——你必须选择在目标根附近。」

板书画出一条多峰的曲线(有多个根/极值),标出想求的目标根 ss,再把初值 x0x_0 取在离 ss 很远的另一侧:做切线得 x1x_1,再在 x1x_1 处做切线得 x2x_2……迭代跑到了另一个根 (或收敛到某个局部极值),而不是想要的 ss。

x0 取在远处 ⇒ x1,x2,… 收敛到别的根 s′≠s.x_0\ \text{取在远处}\ \Rightarrow\ x_1,x_2,\dots\ \text{收敛到别的根 }s&#x27;\neq s .

老师用优化语言解释了这层「局部 vs 全局」:目标函数的各个根就像优化问题的各个极值点, 有全局最优也有局部最优;初值离全局最优太远,迭代就可能落进某个局部最优。「你本来要找 最高的那座山,结果初值选在矮山上,它就爬到矮山的顶了。」

一般定理的适用条件

牛顿法的一般(局部)收敛定理是:ff 在根 ss 的某邻域内二次连续可导、f′(s)≠0f&#x27;(s)\neq0, 则只要 x0x_0 充分靠近 ss,牛顿迭代就收敛到 ss(且二阶)。「充分靠近」是一个 存在性的邻域,定理并不告诉你它多大——这正是下一节要解决的:给出一组可以用图像检验 的条件,把「充分靠近」替换成「初值取在某个明确的范围内」。

四、牛顿法的全局收敛定理(16:00–21:00)

定理(全局收敛,教材称「大范围收敛性定理」):设 ff 在 [a,b][a,b] 上二阶连续可导,且满足四条

(i)  f(a)f(b)<0;(ii)  f′′(x) 在 [a,b] 上不变号;(iii)  f′(x) 在 [a,b] 上不为零;(\mathrm i)\ \ f(a)f(b)\lt0;\qquad (\mathrm{ii})\ \ f&#x27;&#x27;(x)\ \text{在}\ [a,b]\ \text{上不变号};\qquad (\mathrm{iii})\ \ f&#x27;(x)\ \text{在}\ [a,b]\ \text{上不为零};

(iv)  x0∈[a,b],f(x0) f′′(x0)>0  (初值条件),(\mathrm{iv})\ \ x_0\in[a,b],\quad f(x_0),f&#x27;&#x27;(x_0)\gt0\ \ \text{(初值条件)},

则以 x0x_0 为初值的牛顿迭代 xk+1=xk−f(xk)f′(xk)x_{k+1}=x_k-\dfrac{f(x_k)}{f&#x27;(x_k)} 收敛到 [a,b][a,b] 上的 唯一根 ss,并且至少平方收敛。

板书把定理写成「定理」二字起头、四条并列,再画一个大括号接迭代格式,右边写收敛结论 xk→k→∞sx_k\xrightarrow[k\to\infty]{}s。四条条件逐条翻译:

条件数学含义作用
(i) f(a)f(b)<0f(a)f(b)\lt0端点异号保证 [a,b][a,b] 内至少一个根(介值定理)
(ii) f′′f&#x27;&#x27; 不变号函数的凸性不变(一直上凸或一直下凸)保证迭代序列不越界、单调趋向 ss
(iii) f′f&#x27; 不为零函数在 [a,b][a,b] 上严格单调(导数恒正或恒负)保证至多一个根,且每个牛顿步的分母 f′(xk)≠0f&#x27;(x_k)\neq0
(iv) f(x0)f′′(x0)>0f(x_0)f&#x27;&#x27;(x_0)\gt0初值取在「ff 与 f′′f&#x27;&#x27; 同号」的一侧把初值钉在曲线的「外侧」,切线步长方向正确
四条条件合起来说了什么

(i)+(iii) 已经把根夹在 [a,b][a,b] 里且唯一;真正的关键是 (ii):凸性不变,配合 (iii) 的严格单调, 意味着曲线在整个区间上是「一段光滑的弧」,没有拐点、没有极值转折——于是从 (iv) 指定的 那一侧出发,切线永远「踩着」曲线单调地逼近根,既不会冲过头也不会来回震荡。老师把这层 意思概括为一句:「它的凸性和单调性都不变,那么你的初值就不必取在根附近,可以离得 很远。」这就是全局版比局部版强的地方。

五、四种函数图像与初值取值范围(19:00–21:30)

「凸性不变」有两种(上凸、下凸),「单调性不变」有两种(单增、单减),组合起来正好 四种图像,板书分四格画出,并标出条件 (iv) 允许的初值区间(打阴影):

情形f′f&#x27;f′′f&#x27;&#x27;(iv) 要求初值 x0x_0 的取值范围
(1) 上凸 + 单增>0\gt0<0\lt0f(x0)<0f(x_0)\lt0取在根左侧(f<0f\lt0 一侧)
(2) 上凸 + 单减<0\lt0<0\lt0f(x0)<0f(x_0)\lt0取在根右侧(f<0f\lt0 一侧)
(3) 下凸 + 单增>0\gt0>0\gt0f(x0)>0f(x_0)\gt0取在根右侧(f>0f\gt0 一侧)
(4) 下凸 + 单减<0\lt0>0\gt0f(x0)>0f(x_0)\gt0取在根左侧(f>0f\gt0 一侧)

规律是统一的:把初值取在「该点的切线与 xx 轴的交点落在根的另一侧(切线步不越过根)」 的那一端——也就是 f(x0)f(x_0) 与 f′′(x0)f&#x27;&#x27;(x_0) 同号的一端。

「上凸 / 下凸」的术语

本讲沿用课堂说法:上凸指曲线「拱起来」(f′′<0f&#x27;&#x27;\lt0,英文 concave down),下凸指曲线 「凹下去」(f′′>0f&#x27;&#x27;\gt0,英文 convex)。这与中国工科教材常把 f′′>0f&#x27;&#x27;\gt0 叫「凹」(或「下凸」)、 f′′<0f&#x27;&#x27;\lt0 叫「凸」的习惯一致;与西方教材的 convex/concave 恰好是反的(convex ↔\leftrightarrow f′′>0↔f&#x27;&#x27;\gt0\leftrightarrow 本讲的「下凸」)。读英文资料时以 f′′f&#x27;&#x27; 的符号为准,别被词面骗。

六、全局收敛定理的证明(21:30–34:20)

以第一种情形((1) 上凸 + 单增:f′>0, f′′<0f&#x27;\gt0,\ f&#x27;&#x27;\lt0)为例,证明牛顿序列收敛到根 ss。 此时由 (iii) 知 f′f&#x27; 恒正,故 ff 在 [a,b][a,b] 上严格单增、ss 唯一;条件 (iv) 给出 f(x0)<0f(x_0)\lt0(因 f′′<0f&#x27;&#x27;\lt0 要求 f(x0)f(x_0) 与之同号),即 x0x_0 在 ss 的左侧:x0<sx_0\lt s。

第一步:x1>x0x_1\gt x_0。 由 f(x0)<0, f′(x0)>0f(x_0)\lt0,\ f&#x27;(x_0)\gt0,

x1=x0−f(x0)f′(x0)=x0+∣f(x0)∣f′(x0) > x0.x_1=x_0-\frac{f(x_0)}{f&#x27;(x_0)}=x_0+\frac{|f(x_0)|}{f&#x27;(x_0)}\ \gt\ x_0 .

第二步:x1<sx_1\lt s。 在 x0x_0 处把 ff 关于 ss 作 Taylor 展开(用 f(s)=0f(s)=0), 存在 ξ∈(x0,s)\xi\in(x_0,s) 使

f(x0)=f(s)+f′(ξ)(x0−s)=f′(ξ)(x0−s).f(x_0)=f(s)+f&#x27;(\xi)(x_0-s)=f&#x27;(\xi)(x_0-s).

代入 x1x_1 的表达式:

x1=x0−f′(ξ)(x0−s)f′(x0)=x0+(s−x0)⋅f′(ξ)f′(x0).x_1=x_0-\frac{f&#x27;(\xi)(x_0-s)}{f&#x27;(x_0)} =x_0+(s-x_0)\cdot\frac{f&#x27;(\xi)}{f&#x27;(x_0)}.

因为 f′′<0f&#x27;&#x27;\lt0,f′f&#x27; 在 [a,b][a,b] 上单调下降;ξ∈(x0,s)\xi\in(x_0,s) 故 ξ>x0\xi\gt x_0,于是

0 < f′(ξ)f′(x0) < 1⟹x0 < x1=x0+(s−x0)⋅f′(ξ)f′(x0) < s.0\ \lt\ \frac{f&#x27;(\xi)}{f&#x27;(x_0)}\ \lt\ 1 \qquad\Longrightarrow\qquad x_0\ \lt\ x_1=x_0+(s-x_0)\cdot\frac{f&#x27;(\xi)}{f&#x27;(x_0)}\ \lt\ s .

第三步:归纳与收敛。 对 x1x_1 重复同样的论证(x1x_1 仍满足 f(x1)<0f(x_1)\lt0、x1<sx_1\lt s),得 x1<x2<sx_1\lt x_2\lt s,依此类推:

x0<x1<x2<⋯<xk<⋯<s.x_0\lt x_1\lt x_2\lt\cdots\lt x_k\lt\cdots\lt s .

这是单调递增且有上界(上界 ss)的数列,故有极限,记为 s′s&#x27;:

lim⁡k→∞xk=s′.\lim_{k\to\infty}x_k=s&#x27; .

第四步:极限就是根。 在迭代式 xk+1=xk−f(xk)f′(xk)x_{k+1}=x_k-\dfrac{f(x_k)}{f&#x27;(x_k)} 两边令 k→∞k\to\infty, 由 f,f′f,f&#x27; 连续、(iii) 保证 f′(s′)≠0f&#x27;(s&#x27;)\neq0:

s′=s′−f(s′)f′(s′)⟹f(s′)=0.s&#x27;=s&#x27;-\frac{f(s&#x27;)}{f&#x27;(s&#x27;)}\qquad\Longrightarrow\qquad f(s&#x27;)=0 .

故 s′s&#x27; 是 [a,b][a,b] 上的一个根;由 (iii) 保证唯一,得 s′=ss&#x27;=s。■\blacksquare

另外三种情形

其余三种情形(第 (2)(3)(4) 格)的证明完全同构,只是单调递/递减方向与 Taylor 展开的符号不同,结论都是 「初值落在 (iv) 指定的阴影区 ⇒\Rightarrow 序列单调趋近 ss」。老师板书上把 (1) 的完整推理 一步步写出来(含 ξ∈(x0,s)\xi\in(x_0,s) 的取点、f′f&#x27; 单调降的比较),其余三种留给同学仿照验证。

七、割线法:用差商代替导数(34:20–46:40)

牛顿法的软肋是每步要算 f′(xk)f&#x27;(x_k)。老师点出动机:

「很多时候 ff 特别复杂,对它求导很费劲——尤其是当 ff 已经变成函数向量(方程组)的时候, 求导数就变成求矩阵了,更贵。那我用差商来替代它。」

做法:把牛顿法里的 f′(xk)f&#x27;(x_k) 用差商近似代替:

f′(xk) ≈ f(xk)−f(xk−1)xk−xk−1,f&#x27;(x_k)\ \approx\ \frac{f(x_k)-f(x_{k-1})}{x_k-x_{k-1}},

代回牛顿格式,得到割线法(也称弦截法,板书把差商框出):

 xk+1=xk−f(xk)f(xk)−f(xk−1)xk−xk−1=xk−f(xk) (xk−xk−1)f(xk)−f(xk−1) \boxed{\ x_{k+1}=x_k-\frac{f(x_k)}{\dfrac{f(x_k)-f(x_{k-1})}{x_k-x_{k-1}}} =x_k-\frac{f(x_k),(x_k-x_{k-1})}{f(x_k)-f(x_{k-1})}\ }

上式两种写法是同一个式子(把分母的差商「翻」上去)。注意:割线法需要两个初值 x0,x1x_0,x_1(因为它用到前两步 xk,xk−1x_k,x_{k-1}),比牛顿法多给一个起点。

几何意义:xk+1x_{k+1} 是过两点 (xk−1,f(xk−1))(x_{k-1},f(x_{k-1})) 与 (xk,f(xk))(x_k,f(x_k)) 的割线与 xx 轴 的交点。板书把它写成直线方程来点明:

y−f(xk)=f(xk)−f(xk−1)xk−xk−1⏟斜率 (x−xk),y-f(x_k)=\underbrace{\frac{f(x_k)-f(x_{k-1})}{x_k-x_{k-1}}}_{\text{斜率}}\ (x-x_k),

令 y=0y=0 解得的 xx 即为 xk+1x_{k+1}——牛顿法用切线(一点 + 导数),割线法用割线(两点 + 差商)。

收敛阶:割线法仍是超线性收敛,但阶数不是整数。由

r2−r−1=0⟹r=1+52≈1.618(黄金比),r^2-r-1=0\qquad\Longrightarrow\qquad r=\frac{1+\sqrt5}{2}\approx1.618\quad(\text{黄金比}),

即每步误差按 ek+1∼C ek 1.618e_{k+1}\sim C,e_k^{,1.618} 缩小。板书末行专门写出 r2−r−1=0r^2-r-1=0 并标 r=1.618r=1.618。

为什么割线法的阶是黄金比

牛顿法用切线,误差传播是「平方」;割线法用两点连线,本质上用了两个带误差的量,误差 耦合后递推关系变成 r2=r+1r^2=r+1——恰是斐波那契数列的增长率方程。所以阶数是一个无理数 1.6181.618,介于线性(11)与二阶(22)之间:比牛顿慢一点,但每步省一次求导,在导数 昂贵时反而更快。

八、割线法的全局收敛与单点割线法(51:27–64:00)

割线法的全局收敛:与牛顿法同一套四条条件 (i)–(iv) 下(两个初值 x0,x1x_0,x_1 都取在 合适的阴影区内),割线迭代同样收敛到 [a,b][a,b] 上的唯一根 ss——「还是和刚刚那四条一模一样」。

单点割线法:割线法的麻烦是「要记住前两个值」。把 xk−1x_{k-1} 钉死为固定的 x0x_0,就得到 单点割线法(板书框出):

 xk+1=xk−f(xk) (xk−x0)f(xk)−f(x0) \boxed{\ x_{k+1}=x_k-\frac{f(x_k),(x_k-x_0)}{f(x_k)-f(x_0)}\ }

几何意义:每次都用同一个固定点 (x0,f(x0))(x_0,f(x_0)) 与当前点 (xk,f(xk))(x_k,f(x_k)) 连线,取割线 与 xx 轴交点。老师一边画一边说:「原来连的是 xk−1x_{k-1} 和 xkx_k,现在我把 xk−1x_{k-1} 换成 x0x_0——就是把 x0x_0 的图像和 xkx_k 的图像连一下。」

代价:收敛阶降为一阶。 单点割线法只线性收敛(不再是割线法的 1.6181.618):

∣xk+1−s∣≤ρ ∣xk−s∣,0<ρ<1.|x_{k+1}-s|\le\rho,|x_k-s|,\qquad 0\lt\rho\lt1 .

板书用一版的图像(凸性与单调性都不变)说明:当 x0x_0 选在合适的一侧、xkx_k 从另一侧逼近时, 每条割线都「朝着根」去,序列单调收敛——这四种情形与第六节的证明同构,老师讲「就不必再证了」。

割线法族的谱系

老师把这一族归纳成一句话:「牛顿法是原型,割线法是牛顿法的修正,单点割线法又是割线法的 修正」——三层「修正」对应三次「松弛」:先去掉导数(换成差商),再去掉「记住前两点」 (换成固定 x0x_0),每松一步,收敛阶就掉一档。收敛阶一览:

方法 每步信息 收敛阶
牛顿法 f(xk),f′(xk)f(x_k),f&#x27;(x_k) 22
割线法 f(xk),f(xk−1)f(x_k),f(x_{k-1}) 1.6181.618
单点割线法 f(xk),f(x0)f(x_k),f(x_0) 11

九、Steffensen 迭代法(64:00–65:00)

老师只提了一句:这一节后面还有一个斯蒂芬森(Steffensen)迭代法——「它插在牛顿法和割线法 之间,比较突兀,大家自己看一看就行」。本编不展开(它属于加速法:把 Aitken 加速套在 不动点迭代上,不用导数也能拿到二阶收敛),课堂上未讲,列为自阅。

十、插值法引论:从散点到曲线(65:00–80:00)

非线性方程到此收束,下半场转入插值/逼近。老师用一个工程场景开场:

潜水器测海底温度随深度的变化曲线。真实曲线是连续的一条,但采样只能取有限个点 ——「你不可能把随深度变化的所有数据都采完,只能在这儿采一个、那儿采一个……」

于是问题变成:已知有限个采样点,如何恢复(近似)整条曲线? 形式上:

插值问题:已知 n+1n+1 个互异的采样点 (x0,f(x0)),(x1,f(x1)),…,(xn,f(xn))(x_0,f(x_0)),(x_1,f(x_1)),\dots,(x_n,f(x_n)), 求一个函数 PP,使它在每个采样点处与被逼近函数取相同值:

P(xi)=f(xi),i=0,1,…,n.P(x_i)=f(x_i),\qquad i=0,1,\dots,n .

用什么函数来逼近? 老师的回答体现了数学建模的取舍:「尽量找最简单的函数。」 并给出一层更深的直觉——自然界的东西往往可以被简单函数逼近(「世界的本质就是压缩:信息看着 很多,真正有效的信息并不多」)。而最简单的函数族,就是多项式:

P(x)=a0+a1x+a2x2+⋯+anxn.P(x)=a_0+a_1x+a_2x^2+\cdots+a_nx^n .

未知量个数与方程个数的匹配:n+1n+1 个插值条件 ⇒\Rightarrow n+1n+1 个方程;而 nn 次多项式 恰有 n+1n+1 个待定系数 a0,a1,…,ana_0,a_1,\dots,a_n——「正好」。板书把方程组逐行写出:

{a0+a1x0+a2x02+⋯+anx0n=f(x0)a0+a1x1+a2x12+⋯+anx1n=f(x1)⋮a0+a1xn+a2xn2+⋯+anxnn=f(xn)\begin{cases} a_0+a_1x_0+a_2x_0^2+\cdots+a_nx_0^n=f(x_0)\[2pt] a_0+a_1x_1+a_2x_1^2+\cdots+a_nx_1^n=f(x_1)\[2pt] \qquad\vdots\[2pt] a_0+a_1x_n+a_2x_n^2+\cdots+a_nx_n^n=f(x_n) \end{cases}

十一、范德蒙德矩阵:存在唯一,但病态(80:00–85:00)

上一节的方程组写成矩阵形式 Aa=fA\boldsymbol a=\boldsymbol f,其中

A=(1x0x02⋯x0n1x1x12⋯x1n⋮⋮⋮⋮1xnxn2⋯xnn),Aij=xi j.A=\begin{pmatrix} 1&amp;x_0&amp;x_0^2&amp;\cdots&amp;x_0^n\ 1&amp;x_1&amp;x_1^2&amp;\cdots&amp;x_1^n\ \vdots&amp;\vdots&amp;\vdots&amp;&amp;\vdots\ 1&amp;x_n&amp;x_n^2&amp;\cdots&amp;x_n^n \end{pmatrix},\qquad A_{ij}=x_i^{,j}.

这就是范德蒙德(Vandermonde)矩阵,其行列式有闭式:

det⁡A=∏0≤i<j≤n(xj−xi).\det A=\prod_{0\le i\lt j\le n}(x_j-x_i).

只要采样点互不相同,每对 (xj−xi)≠0(x_j-x_i)\neq0,故 det⁡A≠0\det A\neq0,方程组有唯一解:

互异节点 ⟹ 存在唯一的 n 次插值多项式 Pn.\text{互异节点}\ \Longrightarrow\ \text{存在唯一的}\ n\ \text{次插值多项式}\ P_n .

存在唯一 ≠ 能算出来

老师说得很明确:这理论上告诉你插值多项式一定存在、唯一,「但你要是真去解这个系数 方程,那可不好办」——范德蒙德矩阵是出了名的病态:节点稍多、稍靠近,条件数就指数级恶化, 用消去法解出 aia_i 会丢掉大量有效数字。「存在唯一」是一个存在性结论,不是一条数值可用的 算法。 出路见下一节。这正是全书反复强调的红线:conditioning ≠ 能不能算。

十二、拉格朗日插值:换基避病态(85:00–99:03)

既然「在这组基 {1,x,x2,…,xn}{1,x,x^2,\dots,x^n} 下系数不好求」,就换一组基。老师提出构造 (板书框出):

li(x)=∏j=0, j≠inx−xjxi−xj(i=0,1,…,n),l_i(x)=\prod_{j=0,,j\neq i}^{n}\frac{x-x_j}{x_i-x_j} \qquad(i=0,1,\dots,n),

即「分子用 xx 去减除 xix_i 以外所有节点、分母把 xx 换成 xix_i」。这些 lil_i 称为 拉格朗日基函数,它们有极好的筛选性质(板书逐点代入验证):

li(xi)=1,li(xj)=0(j≠i).l_i(x_i)=1,\qquad l_i(x_j)=0\quad(j\neq i).

性质的意义:lil_i 在「自己那个节点」取 11、在其他所有节点取 00——是一个只在 xix_i 处「点亮」的开关。于是若把插值多项式写成这组基的线性组合

Ln(x)=b0l0(x)+b1l1(x)+⋯+bnln(x),L_n(x)=b_0l_0(x)+b_1l_1(x)+\cdots+b_nl_n(x),

代入节点 xix_i:因为除 lil_i 外其余基函数在该点全为 00,方程立刻退化为

Ln(xi)=bi⋅1=bi =! f(xi)⟹bi=f(xi).L_n(x_i)=b_i\cdot1=b_i\ \overset{!}{=}\ f(x_i)\qquad\Longrightarrow\qquad b_i=f(x_i).

系数直接就是函数值,一步不用解方程!于是

 Ln(x)=∑i=0nf(xi) li(x) \boxed{\ L_n(x)=\sum_{i=0}^{n}f(x_i),l_i(x)\ }

这就是拉格朗日插值公式。它把「解 n+1n+1 元病态方程组」换成了「按点加权求和」——换基 绕开了范德蒙德矩阵的病态。

为什么换基就灵了

插值多项式的存在唯一性与基的选择无关(同一空间的不同基);病态的是「1,x,x2,…1,x,x^2,\dots 这组基在节点上张成的系数矩阵」。拉格朗日基是为该组节点量身定做的基:它在节点上的取值 矩阵恰是单位矩阵,所以系数一读即得。这是数值代数里「选对基」的经典范例——同一个 问题,换一组基就从「病态」变成「显然」。

下一讲起点

老师把插值式写完后指出还差一环:插值多项式在采样点上当然等于函数值,但「在别的地方 (非采样点)它和原函数差多少?逼近效果怎么样?我们下节课再说。」——即插值误差/余项 Rn(x)=f(x)−Ln(x)=f(n+1)(ξ)(n+1)!∏i=0n(x−xi)R_n(x)=f(x)-L_n(x)=\dfrac{f^{(n+1)}(\xi)}{(n+1)!}\displaystyle\prod_{i=0}^{n}(x-x_i) 与收敛性(Runge 现象等),留给下一讲。

十三、记号与考注(本讲特有)

  1. 板书分区:本讲左板自上而下三块分别是不动点迭代的定理一(存在)/定理二(收敛)/ 定理三(收敛阶);右板上半是牛顿法全局收敛定理与四格图像,右板下半是割线法/ 单点割线法的公式与「四条条件」重述;最右后来擦出新板写插值(范德蒙德与拉格朗日)。
  2. 「凸」的记号冲突:本节「上凸」=f′′<0=f&#x27;&#x27;\lt0、「下凸」=f′′>0=f&#x27;&#x27;\gt0,与英文 convex/concave 相反;第五节的对照表已按 f′′f&#x27;&#x27; 符号给出,考试写答案时建议直接写 f′′f&#x27;&#x27; 的符号,别用「凸/凹」 两字打哑谜。
  3. 全局收敛定理的条件顺序:板书与教材定理 4.7 均为 (1) 端点异号、(2) f′′f&#x27;&#x27; 不变号、 (3) f′f&#x27; 不为零、(4) f(x0)f′′(x0)>0f(x_0)f&#x27;&#x27;(x_0)\gt0。课堂口述的转写在这两条上容易听混(17:12 一带), 以板书和教材为准;判断方法是看导数阶数:二阶导管凸性,一阶导管单调。也不要把「f′f&#x27; 不变号」 当成第 (2) 条——它只是 (3) 的推论,不能代替「f′≠0f&#x27;\neq0」。
  4. 收敛阶 rr:割线法的阶 r=(1+5)/2r=(1+\sqrt5)/2 由 r2−r−1=0r^2-r-1=0 给出,是无理数;课堂 转写把 rr 读作「R接」「1.5G」,均指 1.6181.618。
  5. 术语「割线法」:转写里出现的「拖线法 / 歌线法 / 各线法 / 科线法 / 科宪法」全部是 「割线法」的同音误识;「单点科线法」即单点割线法。
  6. 定理编号:板书用课堂自编的「定理一 / 定理二 / 定理三」依次标注不动点迭代的 存在、收敛、收敛阶三条结论——这是板书内部的序号,不是原书编号;本编保留「定理一/二/三」 的说法以便对照板书,但不把它们与原书定理号对应(课堂未念原书编号)。
  7. 未讲内容:Steffensen 迭代法课上点到即止(自阅);割线法/单点割线法在四种情形下的 收敛证明与牛顿法同构,课堂未逐一写出;插值的误差余项与收敛性留到下一讲。
  8. 转录说明:本讲平台侧无语音识别数据,_sources 中的转写由教师流音频本地 whisper.cpp 生成,未校对,课间(46:46–51:27)与片头片尾为幻觉窗口;本页公式以板书为准。
  9. 板书核对:本页公式全部对照板书关键帧(1920×1080 教师摄像头画面)逐条核对,主要参照 时刻:① 05:30–11:20 三定理与收敛阶;② 16:00–21:30 全局收敛定理四条与四格图像; ③ 21:30–34:20 第一种情形的完整证明;④ 34:20–46:40 割线法公式与几何;⑤ 61:00–64:00 单点割线法;⑥ 80:00–99:03 范德蒙德矩阵与拉格朗日基。

十四、老师强调

  • 局部 vs 全局:牛顿法的一般定理只给「初值靠近根」的局部保证;全局版本靠四条条件, 核心是凸性与单调性都不变。
  • 四条条件各有其职:(i)+(iii) 夹住并唯一化根;(ii) 保证凸性不变、序列不越界;(iv) 指 定初值落在曲线的哪一侧——「f(x0)f(x_0) 与 f′′(x0)f&#x27;&#x27;(x_0) 同号」。
  • 割线法一族:牛顿法(二阶)→\to 割线法(差商代导,阶 1.6181.618)→\to 单点割线法 (钉住 x0x_0,一阶),每松一步掉一档阶;越松越省,也越慢。
  • 割线法要两个初值,单点割线法只要一个(外加固定点 x0x_0)。
  • 插值的坑:范德蒙德矩阵「存在唯一但病态」——存在性结论不等于可用算法; 换基(拉格朗日)让系数直接读出。
  • 建模的直觉:自然界的东西「有效信息不多」,可用简单函数(多项式)逼近——这是 整章插值/逼近的出发点。
  • 方法论(承第 7 讲):证明的过程不必人人掌握,「但结论和公式必须记得住、 能自己推」。

十五、课堂口述与标准术语对照(节选)

老师口述/转写标准术语
拖线法 / 歌线法 / 各线法 / 科线法 / 科宪法割线法(secant method)
单点科线法 / 单点阁线法单点割线法
斯蒂芬森 / 斯蒂芬生斯蒂芬森迭代法(Steffensen)
拉布朗幅做大事 / 拉格朗日叉值拉格朗日插值多项式
范德蒙德(未误识)Vandermonde 矩阵
叉值 / 差值 / 差池 / 差份插值(interpolation)
头项 / 头像 / 光头图像(图形)
灵点 / 零点附近 / 跟零点(根)
上吐 / 下吐 / 上速 / 下书上凸 / 下凸(f′′<0f&#x27;&#x27;\lt0 / f′′>0f&#x27;&#x27;\gt0)
单吊 / 单造 / 单脚单调(monotone)
收链 / 收链阶 / 受编 / 一散收敛 / 收敛阶 / 收敛 / 线性
出值 / 初识 / 输值 / 处值初值(initial value)
牛腿迭代 / 牛顿节带牛顿迭代(Newton iteration)
可塞 / 可c / 可碎ξ\xi(Taylor 展开中间点 / 根)
大辣子 / 大力 / 多像式多项式(polynomial)
百字 / 百本 / 归结逼近(approximation)
船库 / 船靠 / 反处 / 反应函数(function)
滔物面 / 涛雾面抛物面(paraboloid)
皇金比 / 1.5G拉起黄金比 1.6181.618