第 8 讲 · 闭卷回忆卡
用法:遮住答案,在空白纸上写;写完再展开对照。每张卡末尾标记号:✓ 能完整写出 / △ 有关键词但缺条件 / × 完全想不起,只重做 △ 与 ×。共 36 张卡(定义 9 / 结论 9 / 公式 9 / 陷阱 9),一轮约 40 分钟。 凡涉及数字的卡片,评分时必须连带写出确认口径(体系规模 / 精度 / 步长 / 数据库与判据版本),只写数字按 △ 计。 所有答案都能在导览与 8.1–8.6 定位;带「需核实」的量级同样要标出来。
A. 定义卡
A1. 科学数据与人造数据的三个差别是什么?各给一条方法上的直接后果。
解答
① 结构化先验(对称性 / 守恒律 / 控制方程 / 局部性)→ 可把约束写进结构或损失,等价于免费归纳偏置;② 可验证答案(结构、能量、未来状态可被独立测量或高精度计算复核)→ 标签可由物理或高保真计算自动生成,正确性不依赖标注者;③ 海量弱标注(样本极多但带答案的极少)→ 主要矛盾是标签稀缺,方法上优先自监督 / 物理标签 / 主动学习(定义 8.1.1)。(✓ / △ / ×)
A2. 写出不变与等变的定义式;说明用一个什么问题就能决定该用哪一个。
解答
A3. 什么是 MSA 与共进化?写出互信息的表达式,并说明 的含义。
解答
把同源序列按位置对齐得到 ( 深度、 位点数);共进化指两个位点的残基协同变化(定义 8.2.2)。; 当且仅当两位点在统计上独立。(✓ / △ / ×)
A4. 什么是配对表示?为什么它的更新需要用到第三个位点?
解答
配对表示 ,第 个切片编码「位点 与 之间关系」的隐向量;更新用第三方位点 :(三角乘法 / 三角自注意力)。合理性来自三维空间的三角不等式:– 的距离受 –– 折线制约,用见证人可以排除几何上不自洽的关系(定义 8.2.3)。(✓ / △ / ×)
A5. 什么是 FAPE?它与「先全局叠合再算 MSE」差在哪?
解答
FAPE(frame-aligned point error)在每个残基的局部刚体框架里度量预测与真值的差异:(可带截断与逐帧对齐)。差别:全局叠合后的 MSE 只消掉整体位姿,局部错误会被全局平均稀释(局部误差乘出错比例的平方根);FAPE 逐框架度量,使每个残基邻域的几何都被单独检查,同时框架来自预测结构自身,保留全局一致性要求(定义 8.2.4)。(✓ / △ / ×)
A6. 什么是势能面与局部能量分解?等变消息传递网络在其中的角色是什么?
解答
势能面是 (原子位置与元素类型的函数),力与动力学由它导出;局部能量分解把总能量写成每个原子贡献之和,且每项只依赖截断半径 内的局部环境:(定义 8.3.2)。等变消息传递网络是 的一类实现:在原子图上迭代汇总邻居信息,每轮保持旋转等变 / 平移不变,最后读出标量 ;代表工作为 NequIP(2022,Nature Communications;arXiv:2101.03164)与 MACE(2022,arXiv:2206.07697)。(✓ / △ / ×)
A7. 什么是 PINN?它与传统数值方法在「约束是硬还是软」上的差别是什么?
解答
PINN 用网络 逼近解,并把 PDE 残差作为损失的一项:,残差里的导数全部由自动微分对输入求导给出(定义 8.4.3)。差别:传统方法把方程离散化后硬性求解(离散方程被满足到求解器容差,误差可分析、可随网格细化系统下降);PINN 把「遵守方程」变成一条要尽量降低的软损失——违反就罚分,因此残差小只是「在采样点上小」,必须把残差水平与边条件满足度当验收指标报告。(✓ / △ / ×)
A8. 什么是暴露偏差?teacher forcing 与 rollout 的差别是什么?
解答
训练时输入用真值(teacher forcing: 都来自数据),推理时必须喂模型自己的输出(rollout:)。于是模型在训练时从未见过「含自己误差的输入」,推理时输入分布随步数逐渐偏离训练分布——这就是暴露偏差(定义 8.5.2)。(✓ / △ / ×)
A9. 外推能力的三条判据是什么?各检验什么?
解答
① 分布外(OOD):推到训练覆盖之外的同类型对象(新体系 / 新区域 / 更极端气候态)——检验内插之外的泛化;② 尺度外推:改变规模、时长或分辨率(更大体系、更长模拟、更细网格、更远时效)——检验规律是否具有尺度不变的形式;③ 干预外推:主动改动一个变量或施加新条件后预测后果——检验抓到的是因果机制还是统计相关。三条互相独立,第 ③ 条最强也最难(需要真正的实验或受控仿真)(定义 8.6.2)。(✓ / △ / ×)
B. 结论卡
B1. 为什么主要矛盾是「标签稀缺而非数据稀缺」?「免费标签」的主要代价是什么?
解答
B2. 为什么协同突变意味着空间相邻?为什么「互信息高」不能推出接触?
解答
空间上相互作用的位点若要维持结构稳定就得协同替换(一处换了、邻居的容忍范围跟着变),而相互作用随距离迅速衰减,所以共变信号携带接触信息。但互信息分不开直接与传递:、 的确定性链满足 bit 而 无直接作用(定理 8.2.1)。去伪靠全局模型(DCA 类)、结构监督或端到端输出坐标。(✓ / △ / ×)
B3. 等变性为什么带来样本效率?
解答
三维旋转群下每个构象有连续无穷多个等价朝向。不做等变处理时,这些等价样本被当成不同样本,模型要用容量去记住「朝向 ↔ 输出」的对应,而这对应是纯几何的、本该免费。写成等变结构后,一份数据等价于该构象在所有朝向上的版本,参数被约束、自由度被消掉——在数据昂贵的科学任务上,等变性往往比堆参数更划算(等变直觉框)。(✓ / △ / ×)
B4. 为什么 FAPE 要在每个残基的局部坐标系里度量误差?
解答
原始坐标 MSE 会让模型去猜训练数据的坐标系;全局叠合后的 RMSD 消除了整体位姿,但局部错误会被平均掉(少数残基错得离谱时,全局 RMSD 只按出错比例的平方根上升)。FAPE 以每一帧局部框架分别度量,于是局部错误难以被全局平均抵消;又因为框架取自预测结构自身,它同时保留了全局一致性要求。分工:等变解决整体位姿的表示,FAPE 解决局部几何的度量。(✓ / △ / ×)
B5. 机器学习势函数从哪两个来源获得数量级加速?它的能力上限由什么决定?
解答
B6. 为什么 PINN 在反问题上赢、在正向高精度上输?
解答
反问题赢在信息:观测只有几个点,方程把「点与点之间必须成立的关系」也变成信息,PINN 用一套自动微分流程把方程与数据放进同一个可微目标(传统伴随法要为每个新问题重写求解器与伴随代码)。正向输在结构与优化:传统求解器把方程结构与离散格式耦合设计(守恒可做到离散层面严格、误差可随网格细化系统下降),PINN 把方程降级成光滑软损失 → 无法保证离散守恒、多项约束的梯度尺度差若干数量级、没有「网格细化 → 误差下降」的可靠路径。一句话:优势在信息融合的便利,不在求解精度(方法 8.4.2)。(✓ / △ / ×)
B7. 为什么多步自回归预报会崩?给出三个机制。
解答
① 暴露偏差:训练喂真值、推理喂自身输出,输入分布随步数偏离训练分布;② 误差累积:,当 时误差被逐步放大(混沌系统的误差翻倍时间约 3.5 天量级);③ 损失口径:若训练只做单步平均误差最小化,最优策略就是给出条件均值——条件均值必然平滑、极值偏小,表现为预报随步数变平滑、方差收缩、小尺度被抹平。诊断关键实验:teacher forcing 与 free running 对照(例 8.5.2)。(✓ / △ / ×)
B8. 验证器的强度阶梯是什么?它为什么决定「发现」的可信度?
解答
阶梯(由硬到软):① 可执行复算(程序搜索:给出代码与输入任何人都能重跑)> ② 形式化证明检查(机器逐行核对)> ③ 拟合 + 物理检查(符号回归:能否成立仍需独立数据与干预实验)> ④ 人类偏好 / 主观评审。推论:AI 在数学与算法发现上更容易给出可接受成果,不是因为前者更难,而是验证器更硬——「物理规律」的最终验证只能靠实验(方法 8.6.2)。(✓ / △ / ×)
B9. GNoME 类工作(AI 提出大量「新稳定材料」)的争议,两方主张各是什么?
解答
支持方:流程是可复现的闭环(候选生成 → 代理筛选 → DFT 验证,判据通常是形成能相对凸包的高度);规模远超此前的枚举 / 人工研究,覆盖大量未被实验探索的成分与原型;论文给出部分候选的后续合成线索。质疑方:「新」依赖比对口径(相似性阈值与数据库覆盖一变结论就变);大规模搜索的产物常是已知原型的畸变、超胞重排或替代变体;热力学稳定 ≠ 动力学稳定或可合成;被 DFT 复核的只是先验筛选后的子集。本节读法(不站队):价值在于把搜索规模推进一个数量级并给出可复现流程,而「发现了多少新材料」这个数字必然依赖判据与验证覆盖——使用时必须写明判据与数据库版本,把「热力学稳定」与「可合成」分开表述(思考 8.3.1)。(✓ / △ / ×)
C. 公式卡
C1. 写出不变 / 等变的定义式、力的定义式,以及「只预测能量」为什么自动得到保守场。
解答
(不变);(等变);。保守性来自混合偏导可交换:,故力常数矩阵对称、闭合路径做功为零(例 8.3.1)。(✓ / △ / ×)
C2. 写出互信息式,并给出例 8.2.1 的三个数值(含位点 3 的熵)。
解答
。四条序列三位点: bit, bit; bit; bit; bit(与 相同,因为 )。(✓ / △ / ×)
C3. 写出 MSA 表示 / 配对表示 / 行注意力 / 列注意力矩阵的形状与显存(例 8.2.2 的四个数),并给出随 的增长律。
解答
、bf16:MSA 表示 元素 ≈ 67 MB;配对表示 ≈ 16.8 MB;行注意力 ≈ 67 MB;列注意力 ≈ 134 MB。增长律:MSA 表示 、配对表示与行注意力 、列注意力 ——长链的瓶颈是 项,深 MSA 的瓶颈是 项。 时配对表示 ≈268 MB、行注意力面 ≈1.07 GB。(✓ / △ / ×)
C4. 写出 FNO 一层谱卷积的参数量式与 DeepONet 的输出式,并给出例 8.4.1 的数值。
解答
FNO:复权重张量 ,实虚两份 ⇒ ;代入 (对照 卷积 ,32 层才凑到全局覆盖 )。DeepONet:(分支编码输入函数、主干编码查询点)。(✓ / △ / ×)
C5. 写出热方程的 PINN 残差损失,并给出「精确解族」。
解答
,两个导数都由对输入 的自动微分给出。精确解族: 对任意 成立(高频衰减更快)。两个手算例: 残差为 0; 残差 ,改成 即精确(例 8.4.2)。(✓ / △ / ×)
C6. 写出梯度校验的总误差与最优步长,并给出双精度下的数值与可达精度量级。
解答
(截断 + 舍入);,故 (、)。最优处截断项恰为舍入项的一半,(量级 )。结论:相对误差 可达合理, 不可达, 说明链路有问题(例 8.4.4)。(✓ / △ / ×)
C7. 写出误差累积的一阶传播式与翻倍步数,并给出 、、 三个结果。
解答
;标量模型 ,翻倍步数 。: 步 → 85 h 天;: 步 → 210 h 天;:无翻倍,半衰期 步 ≈8.5 天。含 时通解 , 的稳态为 (例 8.5.1)。(✓ / △ / ×)
C8. 写出 RMSE 与 ACC 的定义式,并给出例 8.5.3 的两组结果及读法。
解答
(尺度敏感,方向与幅度都罚);(先减气候态得异常,尺度不变——整场乘常数 ACC 不变)。手算例():预报 A 形态略偏、幅度接近 → ACC 0.996、RMSE 0.13;预报 B 形态完美、幅度放大 20% → ACC 1.000、RMSE 0.245。读法:单看 ACC 会判 B 更好,单看 RMSE 会忽略形态——两者必须并列,并写明业务关心形态还是幅度。(✓ / △ / ×)
C9. 有限差分与反向传播的梯度代价差多少?举一个可复算的例子。
解答
D. 陷阱卡(每题给一个错误说法,请指出错在哪)
D1. 「科学数据太少,所以第一步是把数据量堆上去。」
解答
错。矛盾在标签:样本极多而带答案的极少。堆无标签数据对监督目标无助;正确顺序是先问「这份任务里什么约束是免费的」,再问「要花多少实验才能得到一个标签」,据此选自监督预训练 / 物理标签 / 主动学习闭环(定义 8.1.1)。(✓ / △ / ×)
D2. 「旋转后能量差一点没关系,反正误差都比训练精度小。」
解答
错。能量是标量,必须严格不变;朝向敏感是建模方式缺陷(定义 8.1.2)。等价朝向是连续无穷多,靠数据学不完;不做等变会永久损失样本效率与分布外泛化——「误差小」只是还没遇到分布外的朝向。(✓ / △ / ×)
D3. 「只要 DFT 标签精度高,训出来的势函数就一定准。」
解答
错。高精度是必要不充分条件。误差还来自覆盖率(是否含相关构型)、能量与力的加权、截断半径与长程项、以及混用不同泛函导致的标签互相矛盾(8.3 陷阱框)。能力上限是训练分布覆盖,必须交付适用域声明。(✓ / △ / ×)
D4. 「MD 跑完没崩、轨迹也正常,说明这次模拟有效。」
解答
错,这正是最危险的形态。势函数常精确但静默地错:单步误差小却带系统性偏置,长时累积成漂移,而轨迹表面正常。先做不需要 DFT 的两项体检:能量—力一致性与 NVE 长时守恒性(方法 8.3.2)。(✓ / △ / ×)
D5. 「PINN 不需要网格也不需要解数据,所以它是通用求解器。」
解答
错。方程、边条件、采样、权重、优化预算都要人给;正向高精度求解上常不敌成熟求解器(梯度病态 + NTK 不平衡 + 谱偏差)。而且残差只在采样点上小——验收必须报告残差水平、边条件满足度与守恒性(方法 8.4.2)。(✓ / △ / ×)
D6. 「数据驱动模型秒级出报,所以它比数值模式更准。」
解答
错,把速度当成精度。优势首先在速度与集合规模;精度必须在同一初始场(同一分析场)、同一时效、同一变量与层次、同一评分定义下逐时效对照业务模式,并写明模式版本(方法 8.5.5)。(✓ / △ / ×)
D7. 「单步 6 小时 RMSE 很低,说明多步预报也没问题。」
解答
错。暴露偏差 + 误差累积 + 「条件均值必然平滑」会让 5 天预报过于平滑、极值偏小。必须做 rollout 评测与 teacher forcing / free running 对照,并把方差、极值分位数、功率谱单列(例 8.5.2)。(✓ / △ / ×)
D8. 「把测试集换成更难的样本就等于外推检验。」
解答
错。随机切分下的「难样本」仍属同分布;外推要改变切分维度(新体系 / 未来时段 / 新区域),并按三条判据(分布外 / 尺度 / 干预)分别设计测试;只做其中一条不足以支撑机制主张(定义 8.6.2)。(✓ / △ / ×)
D9. 「有了硬验证器(可执行评分 / 形式化检查)就不需要人盯着了。」
解答
错。验证器只验证它被设计来验证的东西:评分器写错目标时,系统会高效地优化出「错误目标下的强解」(与第 7 讲的奖励错设同构);形式化证明只保证「在该形式系统内可证」。因此「验证什么才算重要」的判断仍留在人这一侧(8.6 陷阱框)。(✓ / △ / ×)
导出到 Anki / CSV
- 打开 Anki → 新建卡组「DL-第 8 讲」(可按四组再建子卡组:定义 / 结论 / 公式 / 陷阱)。
- 用「问题 → 答案」逐条录入;也可在纯文本里用
Tab分隔「正面 / 反面」后导入(正面写卡片编号与问题,反面写折叠里的答案正文,保留出处链接如[定义 8.1.2](sec81.md#def-8.1.2))。 - 复习节点:当天 / 隔天 / 第 3 天 / 第 7 天(与 summary.md 的复习路线 对齐)。
- 每轮只重做标 △ 与 × 的卡;连续两轮仍 × 的条目,写进勘误与补注 第四节的待核实条目单独跟踪。
- 公式卡建议手写(不敲键盘):不变 / 等变式、 与 、、、 与 这五组各写三遍——本讲的推导题几乎都从这里出。