Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

第 3 章 矩阵特征值与特征向量的计算

对应庞刚老师第 6 讲末(开篇)与第 7 讲;对应颜庆津《数值分析》(第 4 版)第 3 章 3.1–3.3。 老师实际展开的是幂法、反幂法、位移反幂法;QR 方法与 Jacobi 方法原书有、课堂未讲,放在“教材未讲”一节。

本章定位

这是老师七章地图的第 3 章,也是原书第 3 章。老师从“薛定谔方程 → 能级 = 特征值 → 求模最大特征值”引入,重点讲规范化幂法与反幂法;特征值扰动、SVD 等现代内容放在补充篇,不作为课堂主线。

幂法:误差按 q^k 缩 q = |λ₂| / |λ₁|;谱间隙越小,收敛越慢。 NUMERICAL · POWER METHOD / 03 ATLAS / N-22 幂法:误差按 q^k 缩 q = |λ₂| / |λ₁|;谱间隙越小,收敛越慢。 log10 误差051015200-2-4-6迭代步 kq=0.9q=0.6q=0.3半对数坐标:斜率 = log10 q读 法q=0.9:20 步只降约 1 个量级q=0.6:20 步降约 4 个量级q 由谱间隙决定q 越接近 1 越慢
图解读图:幂法误差按 q^k 几何下降,q = |λ₂|/|λ₁|。三条线在半对数坐标下都是直线,斜率就是 log10 q:q 越接近 1,谱间隙越小,收敛越慢;q=0.3 时十几步就到机器精度,q=0.9 时二十步才降一个量级。
本章学习目标

学完本章,你应该能:

  1. 写出规范化幂法的两步:先 yk−1=uk−1/∥uk−1∥2y_{k-1}=u_{k-1}/\lVert u_{k-1}\rVert_2,再 uk=Ayk−1u_k=A y_{k-1},并解释为什么不能反;
  2. 用 2-范数下的 Rayleigh 商提取 λ1\lambda_1,说明为什么特征向量的范数可以任取而特征值不行;
  3. 用反幂法/位移反幂法求模最小/最接近 pp 的特征值,知道每步是解方程组而不是构造逆;
  4. 分清课堂讲的幂法族与教材的 QR / Jacobi 方法,知道哪些是「教材有、课堂未讲」。

3.1 幂法:先单位化,再乘 AA(老师第 7 讲)

老师反复强调顺序:先单位化,再乘 AA。幂法每步只做矩阵-向量乘,适合稀疏矩阵;收敛速度由 ∣λ2∣/∣λ1∣|\lambda_2|/|\lambda_1| 决定。特征值的提取必须用 2-范数(ykTAyky_k^{\mathrm T}Ay_k),特征向量的范数可以任取。

3.2 反幂法与位移反幂法(老师第 7 讲)

反幂法把“模最小”翻成“模最大”:每步解 Auk+1=ykAu_{k+1}=y_k,不显式构造 A−1A^{-1}。位移反幂法对 A−pIA-pI 做同样的事,求最接近已知近似 pp 的特征值。

3.3 特征值问题开篇与谱理论(老师第 6 讲末)

老师在第 6 讲末用薛定谔方程说明“能级 = 特征值”,并给出“求模最大特征值”的问题设定;谱半径、Gerschgorin 圆盘、Rayleigh 商等结论在补充篇展开。

3.4 教材有、课堂未讲:QR 方法与 Jacobi 方法

原书 3.2 的 Jacobi 方法、3.3 的 QR 方法(含拟上三角化、带双步位移)是求全部特征值的经典算法;老师这一轮没有展开。需要时按教材补读,不要在课堂主线里当成必考。

  • 教材:原书 3.2、3.3
  • 补充:补充篇 2.3 QR 分解(QR 分解本身;QR 迭代是另一件事)
  • 说明:课堂只讲了幂法族;QR 迭代属于“教材有、课堂未讲”,考试按老师范围复习。
本章与“补充篇”的边界
  • 课堂讲:幂法、反幂法、位移反幂法(第 7 讲),特征值问题引入(第 6 讲末)。
  • 课堂未讲:Jacobi 方法、QR 方法、SVD;这些在补充篇/教材里,属于扩展。
  • 只需记住:求特征向量范数任取,求特征值必须 2-范数;反幂法不构造逆。
常见错误
  1. 先乘 AA 再单位化:老师反复强调顺序不能反;先单位化再乘 AA,才是教材 (3.4) 的格式。
  2. 用 ∞\infty-范数归一化后直接读特征值:特征向量的方向不受范数影响,但特征值的提取要用 2-范数下的 Rayleigh 商;换范数会把二阶精度降成一阶。
  3. 反幂法先构造 A−1A^{-1}:A−1A^{-1} 通常稠密,既贵又破坏稀疏性;正确做法是每步解 Auk+1=ykAu_{k+1}=y_k(或 (A−pI)uk+1=yk(A-pI)u_{k+1}=y_k)。
  4. 把 QR 分解 / QR 迭代当课堂内容:课堂讲的是幂法族;QR 分解在补充篇 2.3,QR 迭代在原书 3.3,属于「教材有、课堂未讲」。
三句话带走
  1. 顺序不能反:先单位化,再乘 AA。
  2. 特征向量范数任取,特征值必须 2-范数:Rayleigh 商是 λ1\lambda_1 的一致近似。
  3. 反幂法不构造逆:每步解 (A−pI)uk+1=yk(A-pI)u_{k+1}=y_k,LU 分解复用。

本章习题

3.A · 幂法一步

设 A=diag⁡(2,1)A=\operatorname{diag}(2,1),u0=(1,1)Tu_0=(1,1)^{\mathrm T}。按「先单位化、再乘 AA」算 y0,u1y_0,u_1;u1u_1 的两个分量之比从 11 变成多少?收敛比 q=∣λ2∣/∣λ1∣q=|\lambda_2|/|\lambda_1| 是多少?

参考答案

y0=u0/∥u0∥2=(1/2,1/2)Ty_0=u_0/\lVert u_0\rVert_2=(1/\sqrt2,1/\sqrt2)^{\mathrm T},u1=Ay0=(2,1/2)Tu_1=A y_0=(\sqrt2,1/\sqrt2)^{\mathrm T}。分量比从 11 变成 2/(1/2)=2\sqrt2/(1/\sqrt2)=2——正在向特征向量 (1,0)T(1,0)^{\mathrm T} 的方向靠。q=∣λ2∣/∣λ1∣=1/2q=|\lambda_2|/|\lambda_1|=1/2,所以每步误差大约减半。

3.B · 为什么特征值必须用 2-范数

幂法里特征向量的范数可以任取,为什么特征值的提取必须用 2-范数下的 Rayleigh 商?

参考答案

特征向量只关心方向,乘任意非零常数仍是同一特征向量,所以范数任取。特征值不是这样:yTAyy^{\mathrm T}Ay 只有在 ∥y∥2=1\lVert y\rVert_2=1 时才直接等于 Rayleigh 商;若用 ∞\infty-范数归一化,yTAyy^{\mathrm T}Ay 缺少分母 yTyy^{\mathrm T}y,读出的数不是 λ1\lambda_1 的一致近似。对对称矩阵,2-范数下的 Rayleigh 商还有二阶精度:R(y)−λ1=O(ε2)R(y)-\lambda_1=O(\varepsilon^2),而分量比只有 O(ε)O(\varepsilon)。

3.C · 反幂法一步

设 A=(4113)A=\begin{pmatrix}4&1\\1&3\end{pmatrix},位移 p=2.9p=2.9。反幂法一步要解什么方程?为什么不能先求 A−1A^{-1}?

参考答案

反幂法每步解 (A−pI)uk+1=yk(A-pI)u_{k+1}=y_k,再单位化;它求的是 A−pIA-pI 的模最小特征值,加回 pp 得最接近 pp 的特征值。A−1A^{-1}(或 (A−pI)−1(A-pI)^{-1})通常稠密,显式求逆既 O(n3)O(n^3) 又破坏稀疏性;实际做法是对 A−pIA-pI 做一次 LU 分解,之后每步只做前代/回代,O(n2)O(n^2)(稀疏时更低)。

3.D · 判断

判断下列说法:① 幂法应先乘 AA 再单位化;② 课堂讲了 QR 迭代;③ 反幂法要求显式求出 A−1A^{-1}。

参考答案

① 错,顺序是先单位化再乘 AA;② 错,课堂讲的是幂法、反幂法、位移反幂法,QR 迭代未讲;③ 错,反幂法每步解方程组,不构造逆。

本章状态