Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

学习目标(K / S / A)

本书的学习目标按 K(知识)/ S(技能)/ A(判断与素养) 三类列出,格式为「编号 · 可观察的行为 · 达标判据 · 认知层级」。

怎么用:把它当成一张能力对账表——读完一讲,逐条自问能否做到;做不到的那条,按最后一列回到对应小节或习题。每讲的自检表把这套目标拆成可打勾的清单。

约定:编号形如 K2.3(第 2 讲 · 第 3 条知识目标);认知层级用 Bloom 分类(记忆 / 理解 / 应用 / 分析 / 评价 / 创造);每条目标都对应至少一种考核方式(概念题 / 推导题 / 编程题 / 实验报告 / 开放设计 / 项目提案)。

第 1 讲 · 深度学习导论

编号目标(能……)层级依据
K1.1写出神经元与 MLP 的前向公式,并说明 w\boldsymbol w、bb、ϕ\phi 各自控制什么记忆/理解1.1、1.2
K1.2说明单层结构的能力边界(线性可分),并给出 XOR 反例的完整论证理解/分析1.1
K1.3区分交叉熵与 MSE 的适用任务,并从梯度角度说明分类为何不用 MSE分析1.4
K1.4说出通用逼近定理的结论与三条边界(不求宽度、不保证可训、不保样本效率)理解/评价1.2
S1.1独立推导两层网络的反向传播(含批维矩阵形式与参数梯度)应用/分析1.5、附录 C.1
S1.2在不运行代码的前提下,推算给定网络每层的输出形状与参数量,误差为零应用1.2
S1.3实现一个含 AdamW、warmup、梯度裁剪的训练循环,并说明每个组件的必要性创造1.6
S1.4对一条异常训练曲线列出诊断顺序,并为每一步给出可证伪的判据应用/分析工具箱、1.7
A1.1判断一个给定任务该用多复杂的模型,并说明基线与验证设计评价1.7、习题 D 组
A1.2识别三类评估陷阱(验证集泄漏、拿验证集报结果、指标口径不一致)评价1.7、6.7

第 2 讲 · 深度序列建模

编号目标(能……)层级依据
K2.1写出 RNN 递推式与 BPTT 的梯度连乘形式,解释梯度消失的机制与判据理解/分析2.2
K2.2写出 LSTM 的门公式,说明细胞状态为何能缓解梯度消失理解2.3
K2.3写出缩放点积注意力并给出 dk\sqrt{d_k} 的方差论证理解/分析2.4、附录 C.3
K2.4列举 Transformer 的组成部件,并说明 Pre-LN 相比 Post-LN 的优势记忆/理解2.5
K2.5分别说明 RoPE、GQA、FlashAttention 各解决什么问题、代价是什么理解/评价2.6
S2.1推导注意力输出的形状变化与复杂度(时间 O(T2d)O(T^2d)、显存 O(T2)O(T^2))应用/分析2.4
S2.2实现一个最小自注意力模块,通过形状断言与因果掩码正确性检查应用2.5
S2.3估算给定配置的 KV cache 显存,并给出三种可行的优化手段与判据应用/评价2.6、附录 C.5
A2.1在给定序列长度与并行需求下,判断该选 RNN、注意力还是状态空间模型评价2.7

第 3 讲 · 深度计算机视觉

编号目标(能……)层级依据
K3.1写出卷积输出尺寸与单层参数量公式,并说明它们与输入分辨率的关系记忆/应用3.2
K3.2解释卷积的归纳偏置(局部性、权值共享、平移等变)及其代价理解3.1
K3.3从梯度角度说明残差连接为何让极深网络可训练理解/分析3.4
K3.4区分 BN / LN / RMSNorm 的统计维度与适用场景,并说明小批时为何换 LN分析3.3、1.7
S3.1推算多层网络的感受野、参数量与 FLOPs应用3.2
S3.2在千级样本上完成一次迁移学习,并设计防泄漏的验证方案创造3.6
S3.3解释 mAP 的计算口径(IoU 阈值、TP/FP、类别平均)理解/应用3.7
A3.1识别数据集偏见可能导致的群体性误判,并给出缓解与评测清单评价3.9

第 4 讲 · 深度生成建模

编号目标(能……)层级依据
K4.1写出 ELBO 的两项,并说明各自的作用与间隙来源理解4.3
K4.2写出 GAN 的极小极大目标,并说明最优判别器下等价的距离理解/分析4.4
K4.3写出扩散的前向闭式与训练损失,解释「模型在学什么」记忆/理解4.5
K4.4说明流匹配与 DDPM 的差别(路径形状、训练目标、采样步数)理解/评价4.6
S4.1推导重参数化技巧为何可导,并解释它在 VAE 中的作用分析4.3
S4.2实现一个最小 VAE 或扩散训练循环,并通过采样验证(含失败排查)创造4.3、4.5
S4.3解释 CFG 的公式、作用与代价(多样性下降、两倍前向)理解/评价4.5
A4.1按质量 / 速度 / 多样性 / 可控性 / 成本给一个生成任务选型评价4.8

第 5 讲 · 深度强化学习

编号目标(能……)层级依据
K5.1写出 MDP 五元组、贝尔曼期望方程与最优方程记忆/理解5.2
K5.2说明 DQN 的经验回放与目标网络各解决什么问题理解5.3
K5.3写出策略梯度定理与 PPO 的裁剪目标,解释 clip 如何替代 KL 约束记忆/理解5.4、5.5
K5.4写出 DPO 损失,说明它为何不需要奖励模型、β\beta 控制什么理解/分析5.6
S5.1按轨迹展开推导策略梯度定理,并指出因果性与基线的作用分析5.4、附录 C.10
S5.2实现一个 PPO 训练循环,并以回报分布(多种子)验证改进创造5.7
S5.3分析一个奖励设计可能诱发的 hacking,并给出可测量的对策分析/评价5.6
A5.1在 PPO/DPO、online/offline 之间做取舍并说明判据评价5.6

第 6 讲 · 新前沿

编号目标(能……)层级依据
K6.1描述大模型的三段式流程(预训练 → SFT → 对齐)及各阶段的数据形态记忆/理解6.1
K6.2说出缩放律的关键结论,并并列呈现涌现能力的两种论证理解/评价6.2
K6.3列举测试时计算的三种形态及其成本边界理解6.3
K6.4描述 VLM 的三段式训练与 VLA 的两条动作生成路线理解6.4、6.5
S6.1为一类能力设计评测方案,并识别污染与效度风险创造/评价6.7
S6.2估算一次微调或推理的显存与成本,并给出优化选项应用9.5、工具箱
A6.1面对「某模型具备某能力」的说法,能追问评测口径与反例空间评价6.7

第 7 讲 · AI 的三条法则

编号目标(能……)层级依据
K7.1列出对齐的三个层次(目标对齐、行为约束、可监控)记忆/理解7.2
K7.2区分事后归因与机制可解释性,并说明各自的局限理解/评价7.3
K7.3解释公平性度量为何一般不能同时满足理解/分析7.4
S7.1为一个具体系统写出威胁模型(目标、能力假设、攻击面、残余风险)创造7.5
S7.2设计红队流程与部署期监控/回滚方案(含指标与阈值)创造7.6
A7.1在争议话题上并列证据与代价,不替读者下价值判断评价7.1、7.6

第 8 讲 · AI for Science

编号目标(能……)层级依据
K8.1区分等变与不变,并说明为何分子建模需要等变结构理解8.2
K8.2描述 AlphaFold 类方法的关键部件与评测口径(GDT/lDDT/RMSD 的差别)理解8.2
K8.3说明 PINN 的适用边界与失效原因理解/评价8.4
K8.4描述数据驱动天气预报的范式,并解释多步误差累积的来源理解8.5
S8.1把一个科学问题归入「预测 / 反演 / 发现」三类任务之一,并给出评测设计评价/创造8.1、8.6
A8.1区分「拟合得好」与「理解机制」,并给出外推验证计划评价/创造8.6

第 9 讲 · 大规模并行训练

编号目标(能……)层级依据
K9.1列出显存五账单,写出 16N16N 规则并说明各口径的差别记忆/理解9.1
K9.2说清 DP/TP/PP 的切分对象、通信模式与主要代价理解/分析9.2–9.4
K9.3说出 ZeRO 三个阶段各分片什么,以及为什么「越高不一定越快」记忆/评价9.2
K9.4说明 BF16 与 FP16 的差别,以及 fp16 为何需要 loss scaling理解9.5、附录 C.14
S9.1对给定模型与硬件算出显存需求并给出并行方案(含失败判据)应用/创造9.7
S9.2推导流水线气泡公式,并给出至少三种减小气泡的手段分析9.4
S9.3完成一次 LoRA/QLoRA 微调,并报告吞吐、显存与评测结果创造9.5、Lab 3
A9.1在「更省显存」与「更快」之间做取舍并说明验证方式评价9.6

综合目标(读完本书应能做到)

  • 说清一个范式:拿到任意一个新模型,能把它拆成「结构 + 损失 + 优化」三部分,并指出创新发生在哪一步。
  • 算清一次前向与一次显存:给定输入形状与模型配置,能推演每层形状、参数量与训练显存(这是排错与规划的第一技能)。
  • 查清一次不收敛:拿到训练曲线,能按「数据 → 损失 → 学习率 → 初始化 → 正则 → 数值稳定性」的顺序定位问题,且每步都有可证伪的判据。
  • 做一次取舍:在给定约束(数据量、算力、延迟、合规)下给出方案,并说明失败判据与验证计划。
  • 写清一份提案:按官方七要素写出可落地的课程项目提案(见项目指南),并通过答辩五问。
与考试/面试的对应

本页的目标体系与面试与答辩竞技场的 S/A/B 级考点、综合自测卷的四部分题目一一对应: 凡是目标里有「推导」的,竞技场第二轮必有白板题;凡是目标里有「取舍」的,竞技场第三轮必有系统设计题。目标 → 练习 → 检验闭环,是这本书的骨架。