Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

第 1 讲 · 学习目标自检表

目标原文来自学习目标(K / S / A)第 1 讲一节。用法:读完一讲,逐条自问能否做到;「半」或「不能」按最后两列回查。 打分口径:能不看书写出 / 算出并在白纸上说清理由,才算「能」;只能认出答案算「半」;想不起依据算「不能」。

编号目标(能……)自评依据对应习题
K1.1写出神经元与 MLP 的前向公式,并说明 w\boldsymbol w、bb、ϕ\phi 各自控制什么☐ 能 / ☐ 半 / ☐ 不能定义 1.1.1、定义 1.2.1、定义 1.2.1A1、B1
K1.2说明单层结构的能力边界(线性可分),并给出 XOR 反例的完整论证☐ 能 / ☐ 半 / ☐ 不能定义 1.1.2、例 1.1.1、例 1.1.1A1、A2
K1.3区分交叉熵与 MSE 的适用任务,并从梯度角度说明分类为何不用 MSE☐ 能 / ☐ 半 / ☐ 不能定义 1.4.2、定理 1.4.2、1.4.2、定理 1.4.2A6、B3、C3
K1.4说出通用逼近定理的结论与三条边界(不求宽度、不保证可训、不保样本效率)☐ 能 / ☐ 半 / ☐ 不能定理 1.2.2、1.2.3、定理 1.2.2A3、D1
S1.1独立推导两层网络的反向传播(含批维矩阵形式与参数梯度)☐ 能 / ☐ 半 / ☐ 不能定理 1.5.3、附录 C.1、定理 1.5.3B1、B2、C2
S1.2在不运行代码的前提下,推算给定网络每层的输出形状与参数量,误差为零☐ 能 / ☐ 半 / ☐ 不能方法 1.2.1、例 1.2.1、形状约定与逐层推演模板C1;例 1.2.1 后的即时自测 Q1
S1.3实现一个含 AdamW、warmup、梯度裁剪的训练循环,并说明每个组件的必要性☐ 能 / ☐ 半 / ☐ 不能定义 1.6.4、1.6.6、方法 1.6.1、优化器选择的决策清单C4、C5、Lab 1 第一部分
S1.4对一条异常训练曲线列出诊断顺序,并为每一步给出可证伪的判据☐ 能 / ☐ 半 / ☐ 不能1.4.9、定理 1.7.1、工程工具箱C6、D4;对照 综合自测卷 漏点定位表
A1.1判断一个给定任务该用多复杂的模型,并说明基线与验证设计☐ 能 / ☐ 半 / ☐ 不能1.2.4 的深度 vs 宽度表、推论 1.7.1、推论 1.7.1D1、D3
A1.2识别三类评估陷阱(验证集泄漏、拿验证集报结果、指标口径不一致)☐ 能 / ☐ 半 / ☐ 不能1.7.6 的数据泄漏清单、方法 1.7.2、验证集设计检查清单A8、C6、D4

附加核对(不计入上述十条,但「不能」就意味着训练会踩坑)

主题能……依据对应习题
激活与初始化配对说出 Sigmoid / tanh 配 Xavier、ReLU 族配 Kaiming,以及错配的症状推论 1.3.1、方法 1.2.2B6、A5
饱和 vs 死亡区分「导数为零」与「导数很小但有救」,并各给首选处置定理 1.3.1、1.3.4A6 的延伸讨论
梯度检查说出中心差分公式、相对误差公式与三档阈值定义 1.5.4、方法 1.5.1C2
优化器选型按「预算 / 稀疏特征 / 批大小 / 精度」四条问出结论方法 1.6.1C4、D3
正则化清单说出每种手段改的是哪一类误差(近似 / 估计 / 优化)推论 1.7.1、定义 1.7.2D1、D2

常见失败模式快速对照(自检时最容易自我误判的五处)

你以为的问题实际更可能是先做哪一件事
模型容量不够(想加宽加深)优化误差:学习率 / warmup / 初始化尺度不对打印各层梯度范数,再做一次梯度检查(方法 1.5.1)
过拟合(想加正则)学习率过大导致的曲线震荡,或验证集口径不同看训练损失的噪声幅度与间隙随时间的变化(定理 1.7.1 后的四行诊断表)
损失函数选错了输出层与损失配对重复(softmax 算两次)检查喂给损失的是 logits 还是概率(1.4.10 错误 1)
泛化异常好(想庆祝)数据泄漏或评估口径不一致打乱标签重训一次(1.7.7 的 leak_probe)
「换了 Adam 就不用调学习率」学习率与调度没配对优化器按方法 1.6.1 的四问走一遍,并看三条曲线

判定:

  • 十条全「能」 → 进入第 2 讲导览;建议先做一次综合自测卷确认整卷节奏。
  • 出现「半」 → 重做对应列的习题;若「半」集中在 B 组,说明推导还只停在「看得懂」,需要闭卷重推一遍。
  • 出现「不能」 → 回正文重读依据列指向的小节与盒子,并用回忆卡当天补一遍;连续两轮仍「不能」,把该条写进勘误与补注第四节的待核实条目,作为自己的薄弱点单独跟踪。