1. 错。 生成模型要求密度（或相对分数）+ 采样两项能力（定义 4.1.1），且两者互相不蕴含（命题 4.1.1）。只有采样时你无法比较两个模型谁更拟合数据、无法做异常检测与似然比检验——GAN 正是「只有采样」的那一支，它的评价困难就来自这里。

2. 对（且这正是 KL 项的作用）。 KL 项 $\frac12\sum_j(\mu_j^2+\sigma_j^2-1-\log\sigma_j^2)$ 把各样本的均值拉向原点（$\mu_j^2$ 项）、把方差推向 1（$\sigma_j^2-1-\log\sigma_j^2$ 在 $1$ 处取最小 0），于是近似后验被压成互相重叠、整体覆盖标准高斯支撑的团（4.3.1 的直觉框、命题 4.3.2）。若看到潜码聚成几团且方差远小于 1，说明 KL 权重太小、先验与后验错位——正是 4.2 的病。

3. 错。 命题 4.2.1 只说明最优子空间与 PCA 一致，而且解不唯一（$W,V$ 可互相乘可逆矩阵）。更关键的是：PCA 是二阶统计量，它不描述「数据分布的形状」，而生成需要完整分布；深度非线性 AE 继承同一局限——潜空间仍无先验，从 $\mathcal N(0,I)$ 采样会落到训练未覆盖的区域（命题 4.2.2）。

4. 错（但这是「好」的那种不等价）。 二者在数学上一一对应，但梯度性质不同：直接输出 $\boldsymbol\sigma^2$ 必须加约束（如 softplus）保证为正，且方差接近 0 时梯度病态；输出 $\log\boldsymbol\sigma^2$ 并写成 $z=\boldsymbol\mu+\exp(\frac12\log\boldsymbol\sigma^2)\odot\boldsymbol\varepsilon$，在 $\log\sigma^2\to-\infty$ 时梯度仍良态。这也是框架里的标准写法（方法 4.3.1 的实现细节两条）。

5. 错（方向相反）。 $D$ 越接近 $D^\star$，$G$ 在生成样本处的梯度越接近零：支撑不重叠时 $\mathrm{JSD}\equiv\log2$ 是常数、梯度严格为零；即使在解析最优点附近，网络学到的 $D$ 会把输出压到接近饱和的平台上，梯度量级随该平台的 $\varepsilon$ 一起消失（命题 4.4.1、例 4.4.1）。所以实践上要限制 $D$ 的强度（谱归一化 / 梯度惩罚 / TTUR）。

6. 错。 定理 4.4.1 的条件是固定 $G$（即固定 $p_g$）后把 $D$ 训到最优：$D^\star=\frac{p_{\text{data}}}{p_{\text{data}}+p_g}$、代回得 $2\,\mathrm{JSD}-\log4$。训练是交替的，$D$ 只在半成品状态，因此「等价于最小化 JSD」是对理想化最优 $D$ 的陈述，不是每步都成立的恒等式（定理 4.4.1、4.4.3 的 think 框）。

7. 错。 前向有闭式：$x_t=\sqrt{\bar\alpha_t}x_0+\sqrt{1-\bar\alpha_t}\varepsilon$，一次即可造出任意 $t$ 的 $x_t$（定理 4.5.1）。因此每步训练成本是「随机抽一个 $t$ → 一次加噪 → 一次前向 → 一次 MSE」，是 $O(1)$ 且与 $T$ 无关；$T$ 只影响采样成本与调度本身的形状。

8. 对（在同一模型、同一起点、同一实现下）。 $\sigma_t=0$ 时更新式 $x_{t'}=\sqrt{\bar\alpha_{t'}}\hat x_0+\sqrt{1-\bar\alpha_{t'}}\hat\varepsilon$ 不含随机项，整条采样轨迹是起点 $x_T$ 的确定性函数——这既是优点（可复现、可插值、对应 ODE 视角）也是代价（多样性略降）。注意条件：任何一处引入随机（如 $\hat x_0$ 的 clamp 后随机重采样、$\eta\gt0$）就不再确定。

9. 错。 自回归分解 $p(\boldsymbol x)=\prod_tp(x_t\mid\boldsymbol x_{<t})$ 只要求「顺序固定」，不要求是光栅顺序：VAR 用按尺度（粗 → 细）的 next-scale prediction，掩码去噪用「按置信度」的任意顺序（定义 4.7.4、定义 4.7.5）。改变顺序是建模决策，会直接影响长序列的可扩展性与质量——光栅扫描把空间近邻拆散，是与「空间邻接 = 序列邻接」这一直觉错配的那种顺序。

10. 错。 梯度惩罚是对每个样本的 $\nabla_{\hat{\boldsymbol x}}f$ 施加约束，而 BatchNorm 用批内统计，使一个样本的输出依赖同批其他样本——批内耦合破坏了「逐样本梯度范数是该点局部性质」这一前提。WGAN-GP 建议改用 LayerNorm 或不加归一化（改用谱归一化）（4.4.4 的 errata 第 3 条）。

11. $\mathcal L_{\mathrm{ELBO}}=\underbrace{\mathbb E_{q_\phi(z\mid\boldsymbol x)}[\log p_\theta(\boldsymbol x\mid z)]}_{\text{重建项}}-\underbrace{\mathrm{KL}(q_\phi(z\mid\boldsymbol x)\|p(z))}_{\text{正则项}}$（2 分）；缺口 $\log p_\theta(\boldsymbol x)-\mathcal L_{\mathrm{ELBO}}=\mathrm{KL}\bigl(q_\phi(z\mid\boldsymbol x)\,\|\,p_\theta(z\mid\boldsymbol x)\bigr)$，即近似后验与真后验之间的距离（2 分）。（定理 4.3.1） 给分：两项各 1 分；缺口写成「重建与 KL 之间的差」「似然的 gap」不给分——必须指认两个后验。 为什么考它：这一题同时筛两件事——你记得住两项，以及你知道缺口在哪。后者决定了一个实用判断：当你看到一个 VAE「重建差、KL 又小」时，能否想到「缺口可能很大，此时最大化下界并不等于最大化似然」（4.3.2 的直觉框）。

12. $x_t=\sqrt{\bar\alpha_t}x_0+\sqrt{1-\bar\alpha_t}\varepsilon$、$\varepsilon\sim\mathcal N(0,I)$（2 分）；$\bar\alpha_t=\prod_{s=1}^{t}\alpha_s=\prod_{s=1}^{t}(1-\beta_s)$，取值随 $t$ 单调下降、落在 $(0,1]$（1 分）；$\bar\alpha_T\to0$ 时 $x_T\approx\varepsilon$ 是标准高斯，这就是采样有明确起点（先验）的原因（1 分）。（定理 4.5.1） 给分：只写闭式不写权重含义给 2 分；把 $\bar\alpha_t$ 写成 $\alpha_t$ 扣 1 分。 写答案的格式建议：先写「$\bar\alpha_t$ 是连乘、$\sqrt{\cdot}$ 是权重」这两句定语，再代数值——阅卷时这两句就是「口径分」。同一个调度下顺手核对 $0.81^2+0.586^2=0.6561+0.3439=1$，可以立刻暴露「把权重写成方差」的错。

16. KL 部分（先写形状：两项都是 $2$ 维向量，逐维求和）。 $\sum_j\mu_j^2=1^2+(-0.5)^2=1.25$；$\sum_j\sigma_j^2=0.25+4=4.25$；$\sum_j\log\sigma_j^2=\log(0.25\times4)=\log1=0$。（3 分） $$\mathrm{KL}=\frac12\bigl(1.25+4.25-2-0\bigr)=\frac12\times3.5=1.75 .\ \text{（2 分）}$$ 重建部分：固定方差 $\sigma_x^2=1$ 的高斯解码器下，$-\log p_\theta(\boldsymbol x\mid z)=\frac{1}{2\sigma_x^2}\lVert\boldsymbol x-g_\theta(z)\rVert^2+\text{const}=\frac12\times0.36=0.18$（忽略与参数无关的常数）。（2 分） 合计：$-\mathrm{ELBO}=0.18+1.75=1.93$（1 分）。可见这个样本上 KL 占大头，网络被推着把 $\mu$ 拉向 0、$\sigma$ 拉向 1；若把 $\sigma$ 压小以求重建更准，KL 会因 $-\log\sigma_j^2$ 增大而变贵——这就是 VAE 的张力（1 分）。 第二维：$(\mu_2^2,\sigma_2^2)=(-0.5,2.0)$ 给出 $\frac12\bigl(0.25+2-1-\log4\bigr)=\frac12(1.25-1.386)\approx-0.068$，是负贡献（1 分）。原因：该维方差偏大、均值偏离先验中心不多，整体上比「恰好等于先验」还便宜一点；KL 的非负性只对总和成立，单维可以为负。（命题 4.3.2、例 4.3.1）

17. (a) $\alpha_t=0.9$，故 $\bar\alpha_1=0.9,\bar\alpha_2=0.81,\bar\alpha_3=0.729,\bar\alpha_4=0.6561$（2 分）；信号权重 $\sqrt{0.6561}=0.81$、噪声权重 $\sqrt{1-0.6561}=\sqrt{0.3439}\approx0.586$（2 分）。核对 $0.81^2+0.586^2=0.6561+0.3439=1$ ✓（1 分）。 (b) 单步合成：$\sqrt{\alpha_3}\sqrt{\bar\alpha_2}=\sqrt{0.9\times0.81}=\sqrt{0.729}=\sqrt{\bar\alpha_3}$ ✓；方差项 $$\alpha_3(1-\bar\alpha_2)+\beta_3=0.9\times0.19+0.1=0.271=1-\bar\alpha_3\ ✓$$ （2 分）。这正是归纳步 $1-\bar\alpha_t=\alpha_t(1-\bar\alpha_{t-1})+\beta_t$ 的逐项核对。 (c) $\bar\alpha_T=\prod_s(1-\beta_s)$ 在 $T=1000$、$\beta$ 线性到 $0.02$ 的调度下会衰减到极小（量级 $10^{-3}$ 以下，因为各步因子连乘），于是噪声权重 $\sqrt{1-\bar\alpha_T}\to1$、信号权重 $\to0$：$x_T$ 几乎完全是噪声，分布近似 $\mathcal N(0,I)$——这就是「终点是已知分布」的来源（3 分）。（定理 4.5.1、例 4.5.1） 给分细则：只给数值不给「两权重平方和为 1 / 方差相加」的核对，最多给 6 分；「近似纯噪声」要给出「信号权重 → 0」的机制而不是只写结论。

18. (a) 由贝叶斯公式 $p(x_t\mid c)=\dfrac{p(c\mid x_t)p(x_t)}{p(c)}$，取对数梯度（$p(c)$ 与 $x_t$ 无关）： $$\nabla_{x_t}\log p(x_t\mid c)=\nabla_{x_t}\log p(x_t)+\nabla_{x_t}\log p(c\mid x_t) .\ \text{（3 分）}$$ (b) CFG 的那条差 $\tilde\varepsilon-\varepsilon_\theta(\cdot,\varnothing)$（乘上 $-\frac{1}{\sqrt{1-\bar\alpha_t}}$）正是 $\nabla_{x_t}\log p(c\mid x_t)$ 的估计：因为 $\varepsilon_\theta$ 本身是「对数密度梯度（得分）的估计」（去噪 = 得分），两个噪声预测的差就等于条件方向，所以不需要另训一个噪声分类器（3 分）。对照早期分类器引导要额外训一套「每个噪声水平都能工作」的分类器，这就是它被淘汰的原因（加分 1 分）。 (c) 代入得 $\nabla\log p(x_t)+w\nabla\log p(c\mid x_t)$：$w\gt1$ 相当于沿条件方向多走 $(w-1)$ 倍，轨迹被推向条件似然更高的狭窄区域——那里数据似然低，于是出现过饱和 / 构图僵化 / 多样性下降；同时它放大的是「条件方向连同该方向上的误差」，所以 $w$ 不是越大越好（4 分）。（定义 4.5.3、4.5.5）

19. (a) 选型（4 分）：潜空间扩散 + 少步采样（一致性 / LCM 类蒸馏）+ CFG 引导，并配感知压缩编码器（空间 $8$ 倍、通道量级 $4\sim16$，定义 4.6.1）。理由三条：① 延迟硬约束直接排除 50 步以上的 DDPM（$1000$ 步单图 $1000$ 次前向，方法 4.5.4），DDIM $20\sim50$ 步在 $1024^2$ 上也通常超预算；② 单卡 + 2 万张排除从零训练大主干，应以「复用开放基座 + 小数据适配」为主（方法 4.8.2 的「数据量很小」行）；③ 用潜空间换算力：注意力算力比 $3f^4/c=3072$（$f=8,c=4$），这是 $1024^2$ 能落在单卡的前提（命题 4.6.1）。明确不要选：像素空间高分辨率扩散（显存与算力都不允许）；一步 GAN 重训（质量上限与稳定性风险在没有充足算力时更高）。

(b) 三条验收标准（3 分）：① 延迟：含感知解码器与 I/O 的端到端 p50 / p95 都在预算内（只算主干前向不算数）；② 多样性：同提示多样本的两两感知距离不低于基座（防蒸馏坍塌）；③ 条件一致性：提示—图像对齐度（独立模型打分）达到设定阈值，并对难例（多物体、含文字）单独统计。 加分项：写出「先定延迟预算 → 再定质量上限 → 最后定训练预算」的决策顺序（方法 4.6.4 的三步），或明确指出潜码尺度必须先对齐先验（统计缩放因子 $s$）这一实现前提（方法 4.6.1 的坑 ①）。

(c) 两次打脸（3 分）：第一次最可能出现在质量上——少步蒸馏后细节区（文字、手部、细纹理）系统性崩坏。这时的动作是：先分清「教师上限」「压缩率过高」「步数过少导致 $\hat x_0$ 单次估计误差被放大」三者（方法 4.6.4 的表逐行排除），可选动作是提高潜空间压缩率上限（换更好的解码器 / 增大通道）或改用「整流流 + 重流化」这条路径更直的路线。第二次最可能出现在工程侧而非模型侧：数据授权与合规（2 万张未标注图像的来源与使用许可）可能直接决定能否上线，而不是一个调参问题；另一条高频失误是把「没有水印」当成「真实」而设计的溯源方案被合规评审否掉（4.8.3）。改法：把合规与溯源当成设计约束提前写进方案，而不是上线前补做。 给分：三问各 4 / 3 / 3 分；只写「用扩散」而不写延迟预算与算力账最多 2 分；失败判据必须可测量，写成「效果不好」不计分。

20. (a) 缺了什么（3 分）：① 重建 PSNR 只证明编码—解码表在数据点的像上有效，它约束的是训练分布上的点，与「潜空间其余部分是否可采样」无关（命题 4.2.2）；② 缺潜空间统计（均值范数与逐维方差）：没有这两个数字就不能说先验采样会落在哪里；③ 缺采样对照实验（从先验 vs 从训练潜码加噪声各采一批解码，人眼看差距）；④ 若模型是 AE 而不是 VAE，则根本没有定义可采样的分布，PSNR 再高也无济于事（4.2.3）；⑤ 重建好还可能来自记忆而非泛化（近邻检查缺失）。任答其中三条给满分。

(b) 最小实验（4 分，三步以内，判据可测量）：

1. 统计潜码：在训练集上算潜码均值范数 $\lVert\bar z\rVert_2$ 与逐维方差，与 $\mathcal N(0,I)$ 的 $(0,1)$ 对照（方法 4.2.2）。
2. 两组采样对照：A 组从 $\mathcal N(0,I)$ 采样解码；B 组从「训练潜码 + 小噪声」采样解码。判据：把两组样本混在一起做盲评（或用一个固定特征提取器算两组分布的距离）。若 A 组明显差于 B 组（或 A 组出现无意义糊团），判为「重建好但不可采样」。
3. （可选加固）KL 数值检查：若模型自称 VAE，记录训练末期的 KL 项——KL 逼近 0 说明潜码不携带信息（后验坍塌），它与实验 2 的结论互相印证（4.3.6）。

(c) 两条具体改动（3 分）：

• 若模型是 AE / DAE：加先验 + KL 项把它变成 VAE——损失改成 $\mathbb E_q[\log p_\theta(\boldsymbol x\mid z)]-\beta\,\mathrm{KL}(q_\phi\|p(z))$，潜层输出均值与对数方差两组参数，并用重参数化采样（定义 4.3.1、方法 4.3.1）。
• 若模型已经是 VAE 但先验错位：调 $\beta$ / 用 KL 退火或自由比特（方法 4.3.2），并把重建项与解码器分布对齐（高斯解码器配 MSE、Bernoulli 配 BCE）；同时检查潜码是否被额外约束在紧集里（潜层加减激活会加重与 $\mathcal N(0,I)$ 的错配）。 给分：实验设计必须给出可测量的判据（两个数字或一次盲评），只写「看样本质量」最多 2 分。 参考的一句话结论（可写在卷面最后）：「重建只约束数据点的像，采样要求覆盖整个先验支撑——所以这两件事必须分别测量：前者看重建误差，后者看潜码统计与先验采样对照。」