本书的学习目标按 K(知识)/ S(技能)/ A(判断与素养) 三类列出,格式为「编号 · 可观察的行为 · 达标判据 · 认知层级」。
怎么用:把它当成一张能力对账表——读完一讲,逐条自问能否做到;做不到的那条,按最后一列回到对应小节或习题。每讲的自检表把这套目标拆成可打勾的清单。
约定:编号形如 K2.3(第 2 讲 · 第 3 条知识目标);认知层级用 Bloom 分类(记忆 / 理解 / 应用 / 分析 / 评价 / 创造);每条目标都对应至少一种考核方式(概念题 / 推导题 / 编程题 / 实验报告 / 开放设计 / 项目提案)。
| 编号 | 目标(能……) | 层级 | 依据 |
| K1.1 | 写出神经元与 MLP 的前向公式,并说明 w、b、ϕ 各自控制什么 | 记忆/理解 | 1.1、1.2 |
| K1.2 | 说明单层结构的能力边界(线性可分),并给出 XOR 反例的完整论证 | 理解/分析 | 1.1 |
| K1.3 | 区分交叉熵与 MSE 的适用任务,并从梯度角度说明分类为何不用 MSE | 分析 | 1.4 |
| K1.4 | 说出通用逼近定理的结论与三条边界(不求宽度、不保证可训、不保样本效率) | 理解/评价 | 1.2 |
| S1.1 | 独立推导两层网络的反向传播(含批维矩阵形式与参数梯度) | 应用/分析 | 1.5、附录 C.1 |
| S1.2 | 在不运行代码的前提下,推算给定网络每层的输出形状与参数量,误差为零 | 应用 | 1.2 |
| S1.3 | 实现一个含 AdamW、warmup、梯度裁剪的训练循环,并说明每个组件的必要性 | 创造 | 1.6 |
| S1.4 | 对一条异常训练曲线列出诊断顺序,并为每一步给出可证伪的判据 | 应用/分析 | 工具箱、1.7 |
| A1.1 | 判断一个给定任务该用多复杂的模型,并说明基线与验证设计 | 评价 | 1.7、习题 D 组 |
| A1.2 | 识别三类评估陷阱(验证集泄漏、拿验证集报结果、指标口径不一致) | 评价 | 1.7、6.7 |
| 编号 | 目标(能……) | 层级 | 依据 |
| K2.1 | 写出 RNN 递推式与 BPTT 的梯度连乘形式,解释梯度消失的机制与判据 | 理解/分析 | 2.2 |
| K2.2 | 写出 LSTM 的门公式,说明细胞状态为何能缓解梯度消失 | 理解 | 2.3 |
| K2.3 | 写出缩放点积注意力并给出 dk 的方差论证 | 理解/分析 | 2.4、附录 C.3 |
| K2.4 | 列举 Transformer 的组成部件,并说明 Pre-LN 相比 Post-LN 的优势 | 记忆/理解 | 2.5 |
| K2.5 | 分别说明 RoPE、GQA、FlashAttention 各解决什么问题、代价是什么 | 理解/评价 | 2.6 |
| S2.1 | 推导注意力输出的形状变化与复杂度(时间 O(T2d)、显存 O(T2)) | 应用/分析 | 2.4 |
| S2.2 | 实现一个最小自注意力模块,通过形状断言与因果掩码正确性检查 | 应用 | 2.5 |
| S2.3 | 估算给定配置的 KV cache 显存,并给出三种可行的优化手段与判据 | 应用/评价 | 2.6、附录 C.5 |
| A2.1 | 在给定序列长度与并行需求下,判断该选 RNN、注意力还是状态空间模型 | 评价 | 2.7 |
| 编号 | 目标(能……) | 层级 | 依据 |
| K3.1 | 写出卷积输出尺寸与单层参数量公式,并说明它们与输入分辨率的关系 | 记忆/应用 | 3.2 |
| K3.2 | 解释卷积的归纳偏置(局部性、权值共享、平移等变)及其代价 | 理解 | 3.1 |
| K3.3 | 从梯度角度说明残差连接为何让极深网络可训练 | 理解/分析 | 3.4 |
| K3.4 | 区分 BN / LN / RMSNorm 的统计维度与适用场景,并说明小批时为何换 LN | 分析 | 3.3、1.7 |
| S3.1 | 推算多层网络的感受野、参数量与 FLOPs | 应用 | 3.2 |
| S3.2 | 在千级样本上完成一次迁移学习,并设计防泄漏的验证方案 | 创造 | 3.6 |
| S3.3 | 解释 mAP 的计算口径(IoU 阈值、TP/FP、类别平均) | 理解/应用 | 3.7 |
| A3.1 | 识别数据集偏见可能导致的群体性误判,并给出缓解与评测清单 | 评价 | 3.9 |
| 编号 | 目标(能……) | 层级 | 依据 |
| K4.1 | 写出 ELBO 的两项,并说明各自的作用与间隙来源 | 理解 | 4.3 |
| K4.2 | 写出 GAN 的极小极大目标,并说明最优判别器下等价的距离 | 理解/分析 | 4.4 |
| K4.3 | 写出扩散的前向闭式与训练损失,解释「模型在学什么」 | 记忆/理解 | 4.5 |
| K4.4 | 说明流匹配与 DDPM 的差别(路径形状、训练目标、采样步数) | 理解/评价 | 4.6 |
| S4.1 | 推导重参数化技巧为何可导,并解释它在 VAE 中的作用 | 分析 | 4.3 |
| S4.2 | 实现一个最小 VAE 或扩散训练循环,并通过采样验证(含失败排查) | 创造 | 4.3、4.5 |
| S4.3 | 解释 CFG 的公式、作用与代价(多样性下降、两倍前向) | 理解/评价 | 4.5 |
| A4.1 | 按质量 / 速度 / 多样性 / 可控性 / 成本给一个生成任务选型 | 评价 | 4.8 |
| 编号 | 目标(能……) | 层级 | 依据 |
| K5.1 | 写出 MDP 五元组、贝尔曼期望方程与最优方程 | 记忆/理解 | 5.2 |
| K5.2 | 说明 DQN 的经验回放与目标网络各解决什么问题 | 理解 | 5.3 |
| K5.3 | 写出策略梯度定理与 PPO 的裁剪目标,解释 clip 如何替代 KL 约束 | 记忆/理解 | 5.4、5.5 |
| K5.4 | 写出 DPO 损失,说明它为何不需要奖励模型、β 控制什么 | 理解/分析 | 5.6 |
| S5.1 | 按轨迹展开推导策略梯度定理,并指出因果性与基线的作用 | 分析 | 5.4、附录 C.10 |
| S5.2 | 实现一个 PPO 训练循环,并以回报分布(多种子)验证改进 | 创造 | 5.7 |
| S5.3 | 分析一个奖励设计可能诱发的 hacking,并给出可测量的对策 | 分析/评价 | 5.6 |
| A5.1 | 在 PPO/DPO、online/offline 之间做取舍并说明判据 | 评价 | 5.6 |
| 编号 | 目标(能……) | 层级 | 依据 |
| K6.1 | 描述大模型的三段式流程(预训练 → SFT → 对齐)及各阶段的数据形态 | 记忆/理解 | 6.1 |
| K6.2 | 说出缩放律的关键结论,并并列呈现涌现能力的两种论证 | 理解/评价 | 6.2 |
| K6.3 | 列举测试时计算的三种形态及其成本边界 | 理解 | 6.3 |
| K6.4 | 描述 VLM 的三段式训练与 VLA 的两条动作生成路线 | 理解 | 6.4、6.5 |
| S6.1 | 为一类能力设计评测方案,并识别污染与效度风险 | 创造/评价 | 6.7 |
| S6.2 | 估算一次微调或推理的显存与成本,并给出优化选项 | 应用 | 9.5、工具箱 |
| A6.1 | 面对「某模型具备某能力」的说法,能追问评测口径与反例空间 | 评价 | 6.7 |
| 编号 | 目标(能……) | 层级 | 依据 |
| K7.1 | 列出对齐的三个层次(目标对齐、行为约束、可监控) | 记忆/理解 | 7.2 |
| K7.2 | 区分事后归因与机制可解释性,并说明各自的局限 | 理解/评价 | 7.3 |
| K7.3 | 解释公平性度量为何一般不能同时满足 | 理解/分析 | 7.4 |
| S7.1 | 为一个具体系统写出威胁模型(目标、能力假设、攻击面、残余风险) | 创造 | 7.5 |
| S7.2 | 设计红队流程与部署期监控/回滚方案(含指标与阈值) | 创造 | 7.6 |
| A7.1 | 在争议话题上并列证据与代价,不替读者下价值判断 | 评价 | 7.1、7.6 |
| 编号 | 目标(能……) | 层级 | 依据 |
| K8.1 | 区分等变与不变,并说明为何分子建模需要等变结构 | 理解 | 8.2 |
| K8.2 | 描述 AlphaFold 类方法的关键部件与评测口径(GDT/lDDT/RMSD 的差别) | 理解 | 8.2 |
| K8.3 | 说明 PINN 的适用边界与失效原因 | 理解/评价 | 8.4 |
| K8.4 | 描述数据驱动天气预报的范式,并解释多步误差累积的来源 | 理解 | 8.5 |
| S8.1 | 把一个科学问题归入「预测 / 反演 / 发现」三类任务之一,并给出评测设计 | 评价/创造 | 8.1、8.6 |
| A8.1 | 区分「拟合得好」与「理解机制」,并给出外推验证计划 | 评价/创造 | 8.6 |
| 编号 | 目标(能……) | 层级 | 依据 |
| K9.1 | 列出显存五账单,写出 16N 规则并说明各口径的差别 | 记忆/理解 | 9.1 |
| K9.2 | 说清 DP/TP/PP 的切分对象、通信模式与主要代价 | 理解/分析 | 9.2–9.4 |
| K9.3 | 说出 ZeRO 三个阶段各分片什么,以及为什么「越高不一定越快」 | 记忆/评价 | 9.2 |
| K9.4 | 说明 BF16 与 FP16 的差别,以及 fp16 为何需要 loss scaling | 理解 | 9.5、附录 C.14 |
| S9.1 | 对给定模型与硬件算出显存需求并给出并行方案(含失败判据) | 应用/创造 | 9.7 |
| S9.2 | 推导流水线气泡公式,并给出至少三种减小气泡的手段 | 分析 | 9.4 |
| S9.3 | 完成一次 LoRA/QLoRA 微调,并报告吞吐、显存与评测结果 | 创造 | 9.5、Lab 3 |
| A9.1 | 在「更省显存」与「更快」之间做取舍并说明验证方式 | 评价 | 9.6 |
- 说清一个范式:拿到任意一个新模型,能把它拆成「结构 + 损失 + 优化」三部分,并指出创新发生在哪一步。
- 算清一次前向与一次显存:给定输入形状与模型配置,能推演每层形状、参数量与训练显存(这是排错与规划的第一技能)。
- 查清一次不收敛:拿到训练曲线,能按「数据 → 损失 → 学习率 → 初始化 → 正则 → 数值稳定性」的顺序定位问题,且每步都有可证伪的判据。
- 做一次取舍:在给定约束(数据量、算力、延迟、合规)下给出方案,并说明失败判据与验证计划。
- 写清一份提案:按官方七要素写出可落地的课程项目提案(见项目指南),并通过答辩五问。
与考试/面试的对应
本页的目标体系与面试与答辩竞技场的 S/A/B 级考点、综合自测卷的四部分题目一一对应:
凡是目标里有「推导」的,竞技场第二轮必有白板题;凡是目标里有「取舍」的,竞技场第三轮必有系统设计题。目标 → 练习 → 检验闭环,是这本书的骨架。