Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

3.4 QR 分解

3.2 的满秩分解把 AA 拆成「基 ×\times 坐标」:BB 的列撑起列空间,CC 逐列记账。但这组基是斜的——第一章 1.5 已经算过账:在斜基下做内积要拖着度量矩阵,在标准正交基下一切公式都短(例 1.5.B 末尾那句「这正是标准正交基的价值」)。而 1.5.6 的 Gram–Schmidt 正交化恰好保证:任何一组基都能掰成标准正交基。把这两件事拼起来,就得到本章的又一副眼镜——把满秩分解里的「斜骨架」掰直,让左因子成为酉矩阵:

A=QR,Q 酉, R 上三角.A=QR,\qquad Q\ \text{酉},\ R\ \text{上三角}.

右边这个形状就是QR 分解。它在本节先以「方阵分解定理」的面貌出现(满秩方阵存在、且在「正线」约定下唯一,定理 3.4.1),随后被推广到长方阵(推论 3.4.1),最后变成一台机器——QR 算法:反复做 QR 分解,就能把矩阵的全部特征值一个一个挤到对角线上(QR 算法)。一台「分解」喂养出一台「算法」,这是本章前面两节没有的待遇。

素材与说明(本节无录播)

本页依据课程第三章课件 3.4 QR 分解(16 页,存于 _sources/matrix/3.4-QR分解.pdf)整理。本节无对应录播,故不引用课堂口述与时间戳:课件的定义、定理、注记与例题照录并保留原编号(定义 3.4.1、定理 3.4.1、注 1、例 3.4.1–例 3.4.4、定义 3.4.2、推论 3.4.1);课件省略的证明(定理 3.4.1 的唯一性、推论 3.4.1 的构造)由本编补出并逐处标注「本编补」;例 3.4.3、例 3.4.4 的课件笔误见勘误与补注(E3.6、E3.7),正文按核算后的自洽写法演算。本编新增例题用字母编号(例 3.4.A、例 3.4.B(新增)。

3.4.1 定义与分解定理:把「骨架」掰直

先交代定义。课件把复、实两个版本并列给出——差别只在「酉 / 正交」这一对词:

定义 3.4.1 · QR 分解(酉三角分解 / 正交三角分解)

若复方阵 AA 可分解为

A=QR,A=QR,

其中 QQ 为酉矩阵,RR 为上三角矩阵,则称矩阵 AA 可作 QR 分解或酉三角分解。若在分解式 A=QRA=QR 中,矩阵 AA 是实方阵,QQ 为正交矩阵,RR 为上三角矩阵,则称分解式 A=QRA=QR 为正交三角分解。

课件紧接着抛出思考题:复方阵 AA 在何种条件下可进行 QR 分解? 答案是:满秩就够了——而且满秩时还能附送一份「唯一性」,前提是给 RR 戴上一条约定:「正线上三角阵」指对角元素全为正实数的上三角矩阵(课件在定理 3.4.1 中首次使用这个词,此处先立此存照)。

定理 3.4.1 · QR 分解定理

若复方阵 AA 满秩,则存在酉矩阵 QQ 及正线上三角阵 RR 满足

A=QRA=QR

且分解唯一。

课件给的分析只有三行,但字字有用——它把 QR 分解放回了 1.3 的「换基」框架:

记 A=[a1,⋯ ,an]A=[\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n],Q=[z1,⋯ ,zn]Q=[\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n],则 a1,⋯ ,an\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n 和 z1,⋯ ,zn\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n 均为 Cn\mathbb C^n 的一组基。根据 QR 分解式知 [a1,⋯ ,an]=[z1,⋯ ,zn]R[\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n]=[\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n]R,其中矩阵 RR 是从基 z1,⋯ ,zn\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n 到基 a1,⋯ ,an\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n 的过渡矩阵。

于是「AA 能否 QR 分解」被翻译成:「能否选一组标准正交基 z1,⋯ ,zn\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n,使得旧基 a1,⋯ ,an\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n 在它下的过渡矩阵 RR 是上三角(再配正对角)」。而 Gram–Schmidt(Gram–Schmidt 正交化)恰好就是干这个的:它的构造顺序「先定 z1\boldsymbol{z}_1,再用 z1\boldsymbol{z}_1 加工 z2\boldsymbol{z}_2,……」天然保证每个 ak\boldsymbol{a}_k 只用到前 kk 个 z\boldsymbol{z}——这正是「上三角」三个字的算法化身。

存在性证明(课件路线:Gram–Schmidt 即算法,本编展开)

AA 满秩 ⇒\Rightarrow a1,⋯ ,an\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n 线性无关,是 Cn\mathbb C^n 的基。对它执行 Gram–Schmidt(Gram–Schmidt 正交化)并单位化:

y1=a1,yk=ak−∑i=1k−1(ak,zi) zi,zk=yk∥yk∥,k=2,⋯ ,n,\boldsymbol{y}_1=\boldsymbol{a}_1,\qquad \boldsymbol{y}_k=\boldsymbol{a}_k-\sum_{i=1}^{k-1}(\boldsymbol{a}_k,\boldsymbol{z}_i)\,\boldsymbol{z}_i,\qquad \boldsymbol{z}_k=\frac{\boldsymbol{y}_k}{\|\boldsymbol{y}_k\|},\quad k=2,\cdots,n,

(标准正交组下 (ak,zi)(zi,zi)=(ak,zi)\dfrac{(\boldsymbol{a}_k,\boldsymbol{z}_i)}{(\boldsymbol{z}_i,\boldsymbol{z}_i)}=(\boldsymbol{a}_k,\boldsymbol{z}_i);各 yk≠0\boldsymbol{y}_k\neq\boldsymbol{0} 由列无关保证——若 yk=0\boldsymbol{y}_k=\boldsymbol{0},则 ak\boldsymbol{a}_k 落进前 k−1k-1 列的张成,Gram–Schmidt 正交化 的「张成不变」)。把构造式移项:

ak=∑i=1k−1(ak,zi) zi+∥yk∥ zk=∑i=1krikzi,rik={(ak,zi),i<k,∥yk∥,i=k,\boldsymbol{a}_k=\sum_{i=1}^{k-1}(\boldsymbol{a}_k,\boldsymbol{z}_i)\,\boldsymbol{z}_i+\|\boldsymbol{y}_k\|\,\boldsymbol{z}_k =\sum_{i=1}^{k}r_{ik}\boldsymbol{z}_i,\qquad r_{ik}=\begin{cases}(\boldsymbol{a}_k,\boldsymbol{z}_i),&amp; i&lt;k,\\[2pt] \|\boldsymbol{y}_k\|,&amp; i=k,\end{cases}

即 [a1,⋯ ,an]=[z1,⋯ ,zn]R[\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n]=[\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n]R,RR 的元素恰如课件所列:

R=[∥y1∥(a2,z1)⋯(an,z1)∥y2∥⋯(an,z2)⋱⋮0∥yn∥].R=\begin{bmatrix} \|\boldsymbol{y}_1\|&amp;(\boldsymbol{a}_2,\boldsymbol{z}_1)&amp;\cdots&amp;(\boldsymbol{a}_n,\boldsymbol{z}_1)\\ &amp;\|\boldsymbol{y}_2\|&amp;\cdots&amp;(\boldsymbol{a}_n,\boldsymbol{z}_2)\\ &amp;&amp;\ddots&amp;\vdots\\ \boldsymbol{0}&amp;&amp;&amp;\|\boldsymbol{y}_n\| \end{bmatrix}.

令 Q=[z1,⋯ ,zn]Q=[\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n]:各列标准正交的方阵是酉矩阵(列向量刻画 2.5.1),而 RR 是上三角阵、对角元 ∥yk∥>0\|\boldsymbol{y}_k\|&gt;0 为正实数——正线 ✓。故 A=QRA=QR 为所求分解。∎

∎

(注意对角元是残差 yk\boldsymbol{y}_k 的范数,不是 ∥ak∥&#124;\boldsymbol{a}_k&#124;:先减掉在已有方向上的成分,剩下的才量长度。另外本节内积沿用全书的「第一变元线性」约定(定义 1.4.1 后的说明),系数 (ak,zi)(\boldsymbol{a}_k,\boldsymbol{z}_i) 正是按这个约定从移项中读出来的。)

课件对唯一性只字未证。它值得补——因为证明里藏着一个此后反复使用的小事实(上三角的酉阵必为对角阵):

唯一性证明(课件未给,本编补:相差的只能是对角酉阵)

设 A=Q1R1=Q2R2A=Q_1R_1=Q_2R_2,两组都满足「QiQ_i 酉、RiR_i 正线上三角」。满秩在这里进场:rank⁡Ri=rank⁡A=n\operatorname{rank}R_i=\operatorname{rank}A=n(乘酉矩阵不改秩,相似不变量 2.4.4 的秩款),故 R1R_1、R2R_2 可逆。于是

Q2HQ1=R2R1−1=:W.Q_2^{\mathrm H}Q_1=R_2R_1^{-1}=:W .

左边是酉矩阵之积,仍是酉矩阵(正交 / 酉矩阵的运算性质 2.5.2);右边是上三角阵之积再求逆,仍是上三角阵,且对角元 == 正 // 正 >0&gt;0。下面证明:既是上三角又是酉、且对角为正的矩阵只能是 II。对列归纳:

  • 第 11 列只有 w11w_{11} 一个可能非零的分量(下三角部分为零),而酉矩阵各列范数为 11,故 ∣w11∣=1|w_{11}|=1;
  • 设前 j−1j-1 列已是 e1,⋯ ,ej−1\boldsymbol{e}_1,\cdots,\boldsymbol{e}_{j-1}。第 jj 列与它们正交:⟨列j,列i⟩=wii‾ wij=0\langle\text{列}j,\text{列}i\rangle=\overline{w_{ii}}\,w_{ij}=0,逐个推出 wij=0w_{ij}=0(i<ji&lt;j);再由范数 11 得 ∣wjj∣=1|w_{jj}|=1。

于是 WW 是对角阵且 ∣wii∣=1|w_{ii}|=1;对角为正实数迫使 wii=1w_{ii}=1,即 W=IW=I。代回:Q2HQ1=I⇒Q1=Q2Q_2^{\mathrm H}Q_1=I\Rightarrow Q_1=Q_2,R2R1−1=I⇒R2=R1R_2R_1^{-1}=I\Rightarrow R_2=R_1。∎

读出两件事:① 唯一性的全部关键在「正线」——它把对角酉阵那一圈自由度(相角 / 正负号)锁死成 11;② 证明第一步就用了 R1R_1 可逆,不满秩时论证整体失效(届时分解是否存在、是否唯一都要重新问,见 3.4.2 的例 3.4.2)。

∎

先看手算一遍的感觉——一个小而完整的 GS 分解:

例 3.4.A(新增)· 用 Gram–Schmidt 手算一个 QR 分解

求 A=[3142]A=\begin{bmatrix}3&amp;1\\ 4&amp;2\end{bmatrix} 的 QR 分解(QQ 正交、RR 正线上三角)。

解答 · 例 3.4.A

det⁡A=2≠0\det A=2\neq0,满秩 ✓,可套 定理 3.4.1。记 a1=(3,4)T\boldsymbol{a}_1=(3,4)^{\mathrm T}、a2=(1,2)T\boldsymbol{a}_2=(1,2)^{\mathrm T}。

第一步(正交化):y1=a1\boldsymbol{y}_1=\boldsymbol{a}_1,∥y1∥=5\|\boldsymbol{y}_1\|=5,z1=(35,45)T\boldsymbol{z}_1=\left(\tfrac35,\tfrac45\right)^{\mathrm T};

(a2,z1)=35+85=115,y2=a2−115z1=(−825, 625)T,∥y2∥=25,  z2=(−45, 35)T.(\boldsymbol{a}_2,\boldsymbol{z}_1)=\tfrac35+\tfrac85=\tfrac{11}{5},\qquad \boldsymbol{y}_2=\boldsymbol{a}_2-\tfrac{11}{5}\boldsymbol{z}_1=\left(-\tfrac{8}{25},\ \tfrac{6}{25}\right)^{\mathrm T},\qquad \|\boldsymbol{y}_2\|=\tfrac{2}{5},\ \ \boldsymbol{z}_2=\left(-\tfrac45,\ \tfrac35\right)^{\mathrm T}.

第二步(读出 RR):r11=∥y1∥=5r_{11}=\|\boldsymbol{y}_1\|=5,r22=∥y2∥=25r_{22}=\|\boldsymbol{y}_2\|=\tfrac25,r12=(a2,z1)=115r_{12}=(\boldsymbol{a}_2,\boldsymbol{z}_1)=\tfrac{11}{5}。

拼装与验算:

Q=[35−454535],R=[5115025],QR=[33325−82544425+625]=[3142]=A ✓Q=\begin{bmatrix}\tfrac35&amp;-\tfrac45\\ \tfrac45&amp;\tfrac35\end{bmatrix},\qquad R=\begin{bmatrix}5&amp;\tfrac{11}{5}\\ 0&amp;\tfrac25\end{bmatrix},\qquad QR=\begin{bmatrix}3&amp;\tfrac{33}{25}-\tfrac{8}{25}\\ 4&amp;\tfrac{44}{25}+\tfrac{6}{25}\end{bmatrix}=\begin{bmatrix}3&amp;1\\ 4&amp;2\end{bmatrix}=A\ \checkmark

且 QTQ=IQ^{\mathrm T}Q=I、det⁡Q=925+1625=1\det Q=\tfrac{9}{25}+\tfrac{16}{25}=1 ✓,RR 正线上三角 ✓。

读法:RR 是「从 z\boldsymbol{z} 基到 a\boldsymbol{a} 基」的过渡矩阵——a2=115z1+25z2\boldsymbol{a}_2=\tfrac{11}{5}\boldsymbol{z}_1+\tfrac25\boldsymbol{z}_2 正是 RR 第二列。另外这个 Q=[cos⁡θ−sin⁡θsin⁡θcos⁡θ]Q=\begin{bmatrix}\cos\theta&amp;-\sin\theta\\ \sin\theta&amp;\cos\theta\end{bmatrix}(cos⁡θ=35\cos\theta=\tfrac35,sin⁡θ=45\sin\theta=\tfrac45)就是 2.5 的 Givens 旋转(Givens 旋转矩阵 2.5.3):二维的 QR 分解 = 把坐标系转正——这不是巧合,是把平面「掰直」的代数痕迹。∎

课件用一个最小的反例说明「正线」这根线不能抽掉:

注 1(课件原文)· 不要求对角元为正实数,则 QR 分解不唯一

若不要求上三角阵 RR 的对角元素全为正实数,则导致矩阵 AA 的 QR 分解不唯一。

例 3.4.1(课件原文)· 单位阵的两种 QR 分解

考查 I2I_2 的 QR 分解:

I2=[1001][1001]≜QR,I2=[−1001][−1001]≜Q1R1.I_2=\begin{bmatrix}1&amp;0\\ 0&amp;1\end{bmatrix}\begin{bmatrix}1&amp;0\\ 0&amp;1\end{bmatrix}\triangleq QR,\qquad I_2=\begin{bmatrix}-1&amp;0\\ 0&amp;1\end{bmatrix}\begin{bmatrix}-1&amp;0\\ 0&amp;1\end{bmatrix}\triangleq Q_1R_1 .

两个分解里的 QQ、Q1Q_1 都是正交矩阵、RR、R1R_1 都是上三角矩阵,但 R1R_1 的第一个对角元是 −1-1——正线被破坏,唯一性随之失效。

(本编补一句:I2I_2 的这两个分解连 RR 都不同,说明自由度在「符号 / 相角」而不只在 QQ;下一个注把自由度数清。)

本编补注 · 不唯一的程度:恰好相差一个对角酉阵

唯一性证明的最后一步其实已经把账算清了:若 A=QR=Q′R′A=QR=Q&#x27;R&#x27; 是满秩方阵的两种 QR 分解(只要求 RR、R′R&#x27; 为可逆上三角阵),则

W=R′R−1=Q′HQW=R&#x27;R^{-1}=Q&#x27;^{\mathrm H}Q

既是酉阵又是上三角阵,故 W=diag⁡(w1,⋯ ,wn)W=\operatorname{diag}(w_1,\cdots,w_n),∣wi∣=1|w_i|=1(上面归纳证明的前半段,不需要正线)。于是任意两种分解恰好相差一个对角酉阵:

Q′=QW,R′=WHR(对角元变为 wi‾ rii).Q&#x27;=QW,\qquad R&#x27;=W^{\mathrm H}R\quad(\text{对角元变为 }\overline{w_i}\,r_{ii}).

  • 实方阵:wi=±1w_i=\pm1,故 nn 阶实满秩方阵恰有 2n2^n 种 QR 分解——「正线」从 2n2^n 里选出唯一的 11 个;
  • 复方阵:wi=eiθiw_i=e^{\mathrm i\theta_i} 可以连续取值,不要求正线时分解有无穷多(一族 nn 维相角)。

这也解释了注 1 的措辞为什么是「导致不唯一」:正线不是存在性条件,而是从这一族分解里挑出唯一代表的规约。

例 3.4.B(新增 · 承接例 3.4.A)· 数清一个矩阵的全部 QR 分解

写出 A=[3142]A=\begin{bmatrix}3&amp;1\\ 4&amp;2\end{bmatrix}(例 3.4.A)的全部 QR 分解(QQ 正交、RR 可逆上三角,不要求正线),并指出其中哪一个是正线版本。

解答 · 例 3.4.B(新增

由本编补注,全部分解由对角正交阵 D=diag⁡(±1,±1)D=\operatorname{diag}(\pm1,\pm1) 从正线版本 (Q,R)(Q,R) 生成:(QD, DR)(QD,\ DR)。共 22=42^2=4 种:

([35−454535], [5115025]),([−35−45−4535], [−5−115025]),([354545−35], [51150−25]),([−3545−45−35], [−5−1150−25]).\begin{aligned} &amp;\left(\begin{bmatrix}\tfrac35&amp;-\tfrac45\\ \tfrac45&amp;\tfrac35\end{bmatrix},\ \begin{bmatrix}5&amp;\tfrac{11}{5}\\ 0&amp;\tfrac25\end{bmatrix}\right), &amp;&amp;\left(\begin{bmatrix}-\tfrac35&amp;-\tfrac45\\ -\tfrac45&amp;\tfrac35\end{bmatrix},\ \begin{bmatrix}-5&amp;-\tfrac{11}{5}\\ 0&amp;\tfrac25\end{bmatrix}\right),\\[6pt] &amp;\left(\begin{bmatrix}\tfrac35&amp;\tfrac45\\ \tfrac45&amp;-\tfrac35\end{bmatrix},\ \begin{bmatrix}5&amp;\tfrac{11}{5}\\ 0&amp;-\tfrac25\end{bmatrix}\right), &amp;&amp;\left(\begin{bmatrix}-\tfrac35&amp;\tfrac45\\ -\tfrac45&amp;-\tfrac35\end{bmatrix},\ \begin{bmatrix}-5&amp;-\tfrac{11}{5}\\ 0&amp;-\tfrac25\end{bmatrix}\right). \end{aligned}

(验算其一:D=diag⁡(1,−1)D=\operatorname{diag}(1,-1) 时 (QD)(DR)=QD2R=QR=A(QD)(DR)=Q D^2 R=QR=A ✓,且 DRDR 仍上三角、对角 (5,−25)(5,-\tfrac25)。)正线版本只有第一个——r11>0r_{11}&gt;0 逼出 d1=1d_1=1,r22>0r_{22}&gt;0 逼出 d2=1d_2=1,两条合起来 D=ID=I。∎

3.4.2 放宽前提:不满秩与长方阵

定理 3.4.1 只管满了秩的方阵。课件接着追问两步:不满秩的复方阵是否可作 QR 分解?长方矩阵呢? 两个答案都在例子里。

例 3.4.2(课件原文)· 不满秩方阵:分解仍在,正线没了

考察矩阵 A=[1100]A=\begin{bmatrix}1&amp;1\\ 0&amp;0\end{bmatrix} 的 QR 分解。

解答(课件路线,本编补细节)

rank⁡A=1<2\operatorname{rank}A=1&lt;2:不满秩。取 a1=(1,0)T\boldsymbol{a}_1=(1,0)^{\mathrm T},它张成列空间 R(A)R(A) 且已是单位向量——R(A)R(A) 的标准正交基;再补 e2\boldsymbol{e}_2 得 C2\mathbb C^2 的标准正交基,于是 Q=I2Q=I_2,且

A=[1001][1100]≜QR,A=\begin{bmatrix}1&amp;0\\ 0&amp;1\end{bmatrix}\begin{bmatrix}1&amp;1\\ 0&amp;0\end{bmatrix}\triangleq QR,

其中 RR 的第二行全零(a2=a1\boldsymbol{a}_2=\boldsymbol{a}_1 落在已有方向上,GS 的残差 y2=0\boldsymbol{y}_2=\boldsymbol{0})——RR 不再是正线上三角矩阵(r22=0r_{22}=0)。

(本编补:此时 定理 3.4.1 的唯一性彻底失效——RR 不可逆,唯一性证明第一步就走不动;而且自由度比「对角酉阵」大得多:第二个标准正交向量可换成 eiθe2e^{\mathrm i\theta}\boldsymbol{e}_2(任意相角),更高维、秩亏更多的情形里,「补齐」一列甚至可以在整个正交补里任选。结论:存在性常在,唯一性需要满秩 ++ 正线。)∎

长方阵的例子需要先安一个定义——「列正交」的矩阵不必是方阵,酉矩阵的刻画(列向量刻画 2.5.1)要放宽使用:

定义 3.4.2 · 列 / 行正交规范矩阵

设 Q∈Cm×nQ\in\mathbb C^{m\times n}。若

QHQ=In,Q^{\mathrm H}Q=I_n,

则矩阵 QQ 称为列正交规范矩阵,QHQ^{\mathrm H} 称为行正交规范矩阵。

(读法:QHQ=InQ^{\mathrm H}Q=I_n 逐元读出即「各列长度 11、两两正交」——正是 列向量刻画 2.5.1 对长方情形的自然放宽:nn 列标准正交,但 m>nm&gt;n 时它们只是 Cm\mathbb C^m 的一部分基。注意 QQH≠ImQQ^{\mathrm H}\neq I_m(把 mm 维向量先压到 nn 维再放回去,补空间被抹掉了),故列正交规范的长方阵不是酉矩阵。它自动列满秩,QHQ^{\mathrm H} 是它的一个左逆——定理 3.1.1 的一号应用;它还保范:∥Qx∥2=xHQHQx=∥x∥2&#124;Q\boldsymbol{x}&#124;^2=\boldsymbol{x}^{\mathrm H}Q^{\mathrm H}Q\boldsymbol{x}=&#124;\boldsymbol{x}&#124;^2。)

例 3.4.3(课件原文,含一处课件笔误,见 E3.6)· 长方矩阵的分解

考察矩阵 B=[330144]B=\begin{bmatrix}3&amp;3\\ 0&amp;1\\ 4&amp;4\end{bmatrix}(3×23\times2,列满秩)的分解问题。

解答(课件路线;B 的 (3,2)(3,2) 元课件印作 00,据其后全部公式反推应为 44,见勘误 E3.6)

第一步(GS 正交化两列):a1=(3,0,4)T\boldsymbol{a}_1=(3,0,4)^{\mathrm T},∥a1∥=5\|\boldsymbol{a}_1\|=5,z1=(35,0,45)T\boldsymbol{z}_1=\left(\tfrac35,0,\tfrac45\right)^{\mathrm T};

(a2,z1)=95+165=5,y2=a2−5z1=(0,1,0)T,∥y2∥=1,  z2=(0,1,0)T.(\boldsymbol{a}_2,\boldsymbol{z}_1)=\tfrac{9}{5}+\tfrac{16}{5}=5,\qquad \boldsymbol{y}_2=\boldsymbol{a}_2-5\boldsymbol{z}_1=(0,1,0)^{\mathrm T},\qquad \|\boldsymbol{y}_2\|=1,\ \ \boldsymbol{z}_2=(0,1,0)^{\mathrm T}.

(y2\boldsymbol{y}_2 正好落在 e2\boldsymbol{e}_2 上——这正是课件选这组数据的原因:第二列减掉在 z1\boldsymbol{z}_1 上的成分后残差是现成的坐标向量。)

B=[35001450][5501]≜Q1R1,Q1∈C3×2, R1∈C2×2,B=\begin{bmatrix}\tfrac35&amp;0\\ 0&amp;1\\ \tfrac45&amp;0\end{bmatrix}\begin{bmatrix}5&amp;5\\ 0&amp;1\end{bmatrix}\triangleq Q_1R_1,\qquad Q_1\in\mathbb C^{3\times2},\ R_1\in\mathbb C^{2\times2},

其中 Q1Q_1 是列正交规范矩阵(验算 Q1HQ1=I2Q_1^{\mathrm H}Q_1=I_2 ✓),R1R_1 是正线上三角阵 ✓。验算 Q1R1Q_1R_1:第一列 5z1=(3,0,4)T5\boldsymbol{z}_1=(3,0,4)^{\mathrm T} ✓,第二列 5z1+z2=(3,1,4)T5\boldsymbol{z}_1+\boldsymbol{z}_2=(3,1,4)^{\mathrm T} ✓。∎

例 3.4.3 续(课件原文)· 补齐成完全分解

再考察矩阵 B=[330144]B=\begin{bmatrix}3&amp;3\\ 0&amp;1\\ 4&amp;4\end{bmatrix} 的分解问题:把 Q1Q_1 的两列补齐 C3\mathbb C^3 的一组标准正交基。

解答(第二步:补齐)

补齐 C3\mathbb C^3 的标准正交基:再取 z3=(−45,0,35)T\boldsymbol{z}_3=\left(-\tfrac45,0,\tfrac35\right)^{\mathrm T}——与 z1\boldsymbol{z}_1(内积 −1225+1225=0-\tfrac{12}{25}+\tfrac{12}{25}=0 ✓)、z2\boldsymbol{z}_2(内积 00 ✓)都正交且单位。于是

Q1=[35001450] ⟶ Q=[350−4501045035](酉矩阵),Q_1=\begin{bmatrix}\tfrac35&amp;0\\ 0&amp;1\\ \tfrac45&amp;0\end{bmatrix}\ \longrightarrow\ Q=\begin{bmatrix}\tfrac35&amp;0&amp;-\tfrac45\\ 0&amp;1&amp;0\\ \tfrac45&amp;0&amp;\tfrac35\end{bmatrix}\quad(\text{酉矩阵}),

B=[350−4501045035][550100]=QR.B=\begin{bmatrix}\tfrac35&amp;0&amp;-\tfrac45\\ 0&amp;1&amp;0\\ \tfrac45&amp;0&amp;\tfrac35\end{bmatrix}\begin{bmatrix}5&amp;5\\ 0&amp;1\\ 0&amp;0\end{bmatrix}=QR .

R=[R10]3×2R=\begin{bmatrix}R_1\\ \boldsymbol{0}\end{bmatrix}_{3\times2}:上面是 2×22\times2 正线上三角 R1R_1,下面垫一行零。∎

把这个例子的结构抽出来,就是课件的推论——列满秩长方阵的完全 QR 分解:

推论 3.4.1 · 列满秩长方阵

设 A∈Cnm×nA\in\mathbb C^{m\times n}_n(列满秩,n≤mn\le m),则 AA 可分解为

A=UR,R=[R10(m−n)×n]m×n,A=UR,\qquad R=\begin{bmatrix}R_1\\ \boldsymbol{0}_{(m-n)\times n}\end{bmatrix}_{m\times n},

其中 UU 是 mm 阶酉矩阵,R1R_1 为正线上三角阵。

证明(课件未给,本编补:GS ++ 基扩充)

GS:AA 列满秩 ⇒\Rightarrow 各列线性无关 ⇒\Rightarrow GS 各步残差 yk≠0\boldsymbol{y}_k\neq\boldsymbol{0},得标准正交组 z1,⋯ ,zn\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n 与 A=Q1R1A=Q_1R_1(Q1∈Cm×nQ_1\in\mathbb C^{m\times n} 列正交规范,R1R_1 正线上三角——定理 3.4.1 存在性证明逐字照搬,只是不再补满 nn 列)。

补齐:把 z1,⋯ ,zn\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n 扩充为 Cm\mathbb C^m 的一组基(推论 1.3.1),再对扩充后的整组做 GS——由「张成不变」(Gram–Schmidt 正交化),前 nn 个向量原封不动,只把新添的向量逐一正交化、单位化,得标准正交基 z1,⋯ ,zn,zn+1,⋯ ,zm\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n,\boldsymbol{z}_{n+1},\cdots,\boldsymbol{z}_m。令 U=[z1,⋯ ,zm]U=[\boldsymbol{z}_1,\cdots,\boldsymbol{z}_m](列标准正交的方阵,酉,列向量刻画 2.5.1),则

U[R10]=[z1,⋯ ,zn]R1+0=Q1R1=A.■U\begin{bmatrix}R_1\\ \boldsymbol{0}\end{bmatrix}=[\boldsymbol{z}_1,\cdots,\boldsymbol{z}_n]R_1+\boldsymbol{0}=Q_1R_1=A.\qquad\blacksquare

∎
读法(本编提炼)· QR 分解是满秩分解的「正交升级」

对照 3.2:满秩分解 A=BCA=BC 里,BB 的列是 R(A)R(A) 的任意一组基。现在 推论 3.4.1 说:AA 列满秩时,把 BB 的列掰成标准正交基(Q1Q_1)、坐标表 CC 就自动变成上三角(R1R_1):

A=Q1⏟B 的正交版 R1⏟C 的上三角版(列满秩时 r=n).A=\underbrace{Q_1}_{B\ \text{的正交版}}\ \underbrace{R_1}_{C\ \text{的上三角版}}\qquad\text{(列满秩时 } r=n \text{)}.

「上三角」的含义在过渡矩阵读法里看得分明:每个 ak\boldsymbol{a}_k 只用前 kk 个标准正交方向表出——第 kk 根梁只搭在更早立好的轴上。所以 QR 分解 = 满秩分解 ++ 「基按 GS 顺序立轴」。方阵满秩时(定理 3.4.1),A=QRA=QR 本身就是一个满秩分解(QQ 列满秩、RR 满秩方阵自然行满秩);不满秩时(例 3.4.2 型),坐标表出现零行——对应 GS 中「残差为零、无需新轴」的退化步。

3.4.3 QR 算法:分解怎样变成特征值算法

到此为止,QR 只是「一种好看的分解」。课件接下来的一页给它加了一个头衔——

QR 算法:计算小规模矩阵所有特征值稳定有效的方法,二十世纪在科学和工程上有最大贡献与影响的十大算法之一。

(本编注:所谓「十大算法」指 2000 年 IEEE《Computing in Science & Engineering》评选的「世纪十大算法」,与快速傅里叶变换、单纯形法等并列;QR 算法由 J. G. F. Francis 于 1961 年前后提出,至今仍是稠密矩阵特征值计算的标准内核。)算法本身只有三行:

QR 算法(课件原文,格式化排版)

输入:可逆阵 AA(nn 阶复方阵)。令 A1=AA_1=A。对 k=1,2,⋯k=1,2,\cdots 循环:

  1. 对 AkA_k 作 QR 分解:Ak=QkRkA_k=Q_kR_k;
  2. 令 Ak+1=RkQkA_{k+1}=R_kQ_k(交换左右)。

收敛:若可逆阵 AA 的各特征值模值互不相同,则序列 {Ak}\{A_k\} 收敛于一个上三角阵,此时上三角阵的对角元素即为 AA 的特征值。

为什么「交换左右再乘回去」能挤出一个上三角阵?课件用一道思考题点破了机关——每一步迭代都是一次酉相似:

思考的解答(课件分析):为什么收敛的上三角阵的对角元素就是 AA 的特征值

由 Ak=QkRkA_k=Q_kR_k 得 Rk=QkHAkR_k=Q_k^{\mathrm H}A_k,代回迭代式:

Ak+1=RkQk=QkHAkQk,A_{k+1}=R_kQ_k=Q_k^{\mathrm H}A_kQ_k,

即 Ak+1A_{k+1} 与 AkA_k 相似(而且是酉相似),它们具有相同的特征值。递推成链:

Ak=(Q1Q2⋯Qk−1)H A (Q1Q2⋯Qk−1),k=1,2,⋯ ,A_k=(Q_1Q_2\cdots Q_{k-1})^{\mathrm H}\,A\,(Q_1Q_2\cdots Q_{k-1}),\qquad k=1,2,\cdots,

故每个 AkA_k 都与 AA 相似、特征值始终不变(相似不变量 2.4.4)。若 Ak→ΛA_k\to\Lambda(上三角),则由特征多项式各系数随矩阵元连续,Λ\Lambda 的特征值也是 AA 的特征值;而上三角阵的特征值就是对角元——对角元素即 AA 的特征值。QR 算法利用矩阵乘法和 QR 分解实现了特征值求解。∎

∎

(相似性保证的是「如果收敛,极限必是特征值」;「是否收敛」由「模值互异」这一充分条件担保——它的边界见本小节末的本编注。另外注意迭代里隐藏的排序:模互异时对角元按模从大到小排定,下面的例子里 4.7321>3>1.26794.7321&gt;3&gt;1.2679 正是这个次序。)

例 3.4.4(课件原文,本编核算并改一处印误,见 E3.7)· 用 QR 算法求特征值

利用 QR 分解求矩阵 A=[210131014]A=\begin{bmatrix}2&amp;1&amp;0\\ 1&amp;3&amp;1\\ 0&amp;1&amp;4\end{bmatrix} 的特征值。

解答(课件路线;数值由本编按同一算法双精度复核)

第一步(分解 A1A_1):A1=A=Q1R1A_1=A=Q_1R_1。按 GS(正线版本,四位小数):

Q1=[0.8944−0.40820.18260.44720.8165−0.365100.40820.9129],R1=[2.23612.23610.447202.44952.4495003.2863].Q_1=\begin{bmatrix}0.8944&amp;-0.4082&amp;0.1826\\ 0.4472&amp;0.8165&amp;-0.3651\\ 0&amp;0.4082&amp;0.9129\end{bmatrix},\qquad R_1=\begin{bmatrix}2.2361&amp;2.2361&amp;0.4472\\ 0&amp;2.4495&amp;2.4495\\ 0&amp;0&amp;3.2863\end{bmatrix}.

(课件此页把 Q1Q_1 的第 11、22 列连同 R1R_1 的第 11、22 行取了相反符号——R1R_1 对角出现两个负数,不合正线约定;又把 Q1Q_1 的 (2,3)(2,3) 元印作 −0.3561-0.3561,按 GS 应为 −0.3651-0.3651,见勘误 E3.7。上面给出的是规约后的正确版本,验算 Q1R1=AQ_1R_1=A 至四位小数 ✓。)

第二步(迭代):A2=R1Q1A_2=R_1Q_1,再分解、再交换,往复。课件报告:

A10=[4.72820.078100.07813.0035−0.002000.00481.2680],A20=[4.73210.000800.00083.00000001.2679].A_{10}=\begin{bmatrix}4.7282&amp;0.0781&amp;0\\ 0.0781&amp;3.0035&amp;-0.0020\\ 0&amp;0.0048&amp;1.2680\end{bmatrix},\qquad A_{20}=\begin{bmatrix}4.7321&amp;0.0008&amp;0\\ 0.0008&amp;3.0000&amp;0\\ 0&amp;0&amp;1.2679\end{bmatrix}.

非对角元逐轮衰减:k=10k=10 时约 10−210^{-2},k=20k=20 时约 10−310^{-3}——序列肉眼可见地收敛到上三角阵。

(本编复算注:用双精度 Householder QR 复核同一迭代,A10A_{10} 的最大非对角元约 5×10−25\times10^{-2}、A20A_{20} 约 5×10−45\times10^{-4},与课件的 0.07810.0781、0.00080.0008 同数量级但不逐位相同——中间数值随实现与舍入(课件全程四位数)而异;对角元的收敛位置则完全一致。)

第三步(读特征值):对比该矩阵特征值精确解(本编补推导):

fA(λ)=det⁡(λI−A)=(λ−3)[(λ−3)2−3],λ1=3+3=4.7321,λ2=3,λ3=3−3=1.2679,f_A(\lambda)=\det(\lambda I-A)=(\lambda-3)\big[(\lambda-3)^2-3\big],\qquad \lambda_1=3+\sqrt3=4.7321,\quad \lambda_2=3,\quad \lambda_3=3-\sqrt3=1.2679,

(展开:λ3−9λ2+24λ−18\lambda^3-9\lambda^2+24\lambda-18;λ=3\lambda=3 代入为 00,再解二次 λ2−6λ+6=0\lambda^2-6\lambda+6=0。)与 A20A_{20} 的对角元逐位吻合 ✓。∎

本编注 · 收敛条件的边界:等模特征值会卡住

「各特征值模值互不相同」是充分条件,不是客气话。反例就用 3.5 即将出场的那张旋转矩阵:

A=[0−110](正交矩阵,特征值 ±i 等模).A=\begin{bmatrix}0&amp;-1\\ 1&amp;0\end{bmatrix}\quad(\text{正交矩阵,特征值 }\pm\mathrm i\ \text{等模}).

它自己的 QR 分解(正线版)是 A=A⋅IA=A\cdot I(Q=AQ=A 酉、R=IR=I 正线),于是 A2=R1Q1=I⋅A=AA_2=R_1Q_1=I\cdot A=A——迭代卡死在原地,{Ak}\{A_k\} 恒为 AA,永远不收敛到上三角阵。等模特征值(如实的旋转阵、含 ±λ\pm\lambda 对的矩阵)都会出现这类「原地打转或极限不为三角」的现象;实用中的补救(先化成 Hessenberg 形、加位移)是《数值分析》课程的主题。这也提示 QR 算法的极限其实是 AA 的一个 Schur 型——正是下一节的内容。

课程预告 · 从分解到 Schur 型

QR 算法的收敛极限「酉相似于上三角阵」并不是迭代碰巧的礼物:任何复方阵都酉相似于上三角阵(Schur 引理,3.5 的定理 3.5.2)——QR 算法只是在数值上把这个存在的事实算出来。更有趣的是证明:对相似变换矩阵 PP 作 QR 分解 P=URP=UR,普通相似立刻升级成酉相似。两节在此接轨。

考情速递(本编依据课件小结与前章课堂考情整理;本讲无录播,未见老师原话)

课件小结页亲排:「重要结论:QR 分解定理;重要算法:QR 算法」——对应两条考试主线:计算大题手算 QR(GS 全流程,正线规约是隐形评分点)与概念 / 小计算考 QR 算法(相似性论证、收敛条件的充分性)。课件的思考题三连问(满秩?不满秩?长方?)是判断题的题源,注 1 与例 3.4.1 的「不唯一」几乎必考其一。跨章联动:二维 QR 的 QQ 常常就是 Givens 旋转(例 3.4.A)或 Householder 反射(习题 R2-1,见竞技场)——2.5 老师原话点名这两个矩阵「容易变形」(01:14:16)。分级清单、限时赛制与计时器集中在考场竞技场。

3.4 小结与常见错误

  • 一条主线:满秩分解的正交化 ⇒\Rightarrow 定义 3.4.1(A=QRA=QR:酉 ×\times 上三角)⇒\Rightarrow 定理 3.4.1(满秩方阵存在且正线下唯一;RR 是「z\boldsymbol z 基到 a\boldsymbol a 基」的过渡矩阵,GS 即算法)⇒\Rightarrow 不唯一 == 对角酉阵自由度(实:2n2^n 种)⇒\Rightarrow 放宽前提(例 3.4.2 不满秩:零行;定义 3.4.2 列正交规范;例 3.4.3 ++ 推论 3.4.1:长方阵补零块)⇒\Rightarrow QR 算法(Ak+1=QkHAkQkA_{k+1}=Q_k^{\mathrm H}A_kQ_k 酉相似链,模互异 ⇒\Rightarrow 收敛上三角,对角元 == 特征值)。
  • 两句话记住它:GS 立轴,坐标上三角——把 AA 的列逐个减掉在已有标准正交方向上的成分,坐标表自动变成「只用前 kk 个轴」的三角形。正线锁相角——不规定对角为正,分解就差一圈子符号 / 相角。
常见错误清单 · 自查五条
  1. 把 rkkr_{kk} 写成 ∥ak∥\|\boldsymbol{a}_k\|:对角元是 GS 残差 yk\boldsymbol{y}_k 的范数(先减成分、再量长度);∥ak∥\|\boldsymbol{a}_k\| 只有在 ak\boldsymbol{a}_k 与前各轴已正交时才等于 rkkr_{kk};
  2. 复数情形系数的共轭放错边:本节系数是 (ak,zi)(\boldsymbol{a}_k,\boldsymbol{z}_i)——第一变元线性(定义 1.4.1 约定);若你的教材用第二变元线性,公式要相应换成 rik=(zi,ak)r_{ik}=(\boldsymbol{z}_i,\boldsymbol{a}_k),两套不能混用;
  3. 对长方阵硬套定理 3.4.1:那是方阵定理;长方阵(列满秩)用推论 3.4.1,RR 是 m×nm\times n 的「上三角 ++ 零块」,写成 n×nn\times n 会形状对不上;
  4. 以为不满秩就没有 QR 分解:例 3.4.2 说明分解常在,丢掉的是唯一性(RR 不可逆,证明失效;且自由度不再只是对角酉阵);也别忘了列正交规范(QHQ=InQ^{\mathrm H}Q=I_n)与酉矩阵(还需为方阵)的区别;
  5. QR 算法两条方向性错误:迭代式是 Ak+1=QkHAkQkA_{k+1}=Q_k^{\mathrm H}A_kQ_k(把 QkQ_k 左乘 H\mathrm H、右乘原样),写成 QkAkQkHQ_kA_kQ_k^{\mathrm H} 就错了;收敛条件「模互异」丢掉后,把旋转阵这类等模例子也当成「会收敛」——它会原地卡死。
即时自测(不看上文,5 分钟)
  1. 背写定义 3.4.1 与定理 3.4.1,并说出「正线」在唯一性证明的哪一步把自由度锁死;
  2. 求 A=[1120]A=\begin{bmatrix}1&amp;1\\ 2&amp;0\end{bmatrix} 的 QR 分解(QQ 正交、RR 正线上三角)并回代验证;
  3. Q∈C3×2Q\in\mathbb C^{3\times2} 满足 QHQ=I2Q^{\mathrm H}Q=I_2:它是酉矩阵吗?QQH=QQ^{\mathrm H}=?∥Qx∥\|Q\boldsymbol{x}\| 与 ∥x∥\|\boldsymbol{x}\| 有何关系?
  4. 复述推论 3.4.1 的构造证明,「补齐」一步为什么不会破坏前 nn 个标准正交向量?
  5. 旋转阵 A=[0−110]A=\begin{bmatrix}0&amp;-1\\ 1&amp;0\end{bmatrix} 的 QR 迭代为什么卡死?这暴露了收敛条件的什么缺口?
解答 · 即时自测
  1. A=QRA=QR,QQ 酉(实:正交)、RR 上三角(正线 == 对角全正实数);满秩方阵存在且唯一。锁死的一步:W=R2R1−1W=R_2R_1^{-1} 既酉又上三角 ⇒\Rightarrow 对角 ∣wii∣=1|w_{ii}|=1,对角为正 ⇒wii=1⇒W=I\Rightarrow w_{ii}=1\Rightarrow W=I。
  2. z1=15(1,2)T\boldsymbol{z}_1=\tfrac{1}{\sqrt5}(1,2)^{\mathrm T};(a2,z1)=15(\boldsymbol{a}_2,\boldsymbol{z}_1)=\tfrac{1}{\sqrt5},y2=(45,−25)T\boldsymbol{y}_2=(\tfrac45,-\tfrac25)^{\mathrm T},∥y2∥=25\|\boldsymbol{y}_2\|=\tfrac{2}{\sqrt5},z2=15(2,−1)T\boldsymbol{z}_2=\tfrac{1}{\sqrt5}(2,-1)^{\mathrm T}。Q=15[122−1]Q=\tfrac{1}{\sqrt5}\begin{bmatrix}1&amp;2\\ 2&amp;-1\end{bmatrix}(对称且正交,det⁡=−1\det=-1),R=[515025]R=\begin{bmatrix}\sqrt5&amp;\tfrac{1}{\sqrt5}\\ 0&amp;\tfrac{2}{\sqrt5}\end{bmatrix};验算 QR=[115+45225−25]=[1120]QR=\begin{bmatrix}1&amp;\tfrac15+\tfrac45\\ 2&amp;\tfrac25-\tfrac25\end{bmatrix}=\begin{bmatrix}1&amp;1\\ 2&amp;0\end{bmatrix} ✓。
  3. 不是(非方阵);QQHQQ^{\mathrm H} 是到 R(Q)R(Q) 的正交投影矩阵 ≠I3\neq I_3(e3\boldsymbol{e}_3 方向被抹掉);∥Qx∥=∥x∥\|Q\boldsymbol{x}\|=\|\boldsymbol{x}\|(保范)。
  4. GS(列满秩 ⇒\Rightarrow 各步残差非零)给 A=Q1R1A=Q_1R_1;基扩充(推论 1.3.1)后对整组重做 GS——「张成不变」保证前缀的 span⁡\operatorname{span} 不变,而已标准正交的前 nn 个向量重走 GS 公式每个减项内积为零、原样保留;只有新添的向量被正交化。U=[Q1,U2]U=[Q_1,U_2] 列标准正交的方阵即酉。
  5. AA 本身正交,其正线 QR 分解为 A=A⋅IA=A\cdot I,故 A2=R1Q1=AA_2=R_1Q_1=A,迭代恒为 AA 不动。缺口:特征值 ±i\pm\mathrm i 等模,违反「模值互异」——该条件不可去掉(充分条件的边界)。