第 8 讲导览 · AI for Science
这一讲要解决的真实问题
前七讲的对象都是人自己造出来的数据:图像、文本、语音、序列、决策轨迹。这一讲换一个对象——自然本身。科学数据有三个特点,合在一起决定了它的方法与别处不同:第一,它带结构化的先验(对称性、守恒律、控制方程),这些先验不是从数据里学来的,而是一直摆在那里;第二,它有可验证的答案(一段序列对应的结构、一种成分对应的性质、一个初值对应的演化),对错由实验或高精度计算判定,而不是由标注者说了算;第三,它有海量弱标注(序列、结构、卫星观测、仿真轨迹堆在数据库里,样本极多但「答案」极少,湿实验与高精度量子化学的单价又极高)。
第三个特点最容易被人误读成「科学也只是数据不够多」。真正的问题是标签稀缺而不是数据稀缺:一次湿实验、一轮密度泛函理论(density functional theory, DFT)计算的成本是数量级意义上的高,能被贴标签的样本数永远远小于想探索的候选数。科学的妙处在于,它的数据自带结构:一个分子构型本身就带着能量与受力(物理可以算),一段同源序列本身就带着共进化的约束(统计可以挖),一段卫星观测本身就带着时空连续性(守恒律可以约束)。于是「免费标签」可以从结构、物理与方程里造出来。
这引向本讲的核心命题:把昂贵的实验试错,变成可微分的推断。传统科学工作流的核心环节是黑箱搜索——造一批候选、测一批、再根据结果猜下一批;你只拿到「好 / 坏」,拿不到「往哪个方向改会更好」。深度学习提供两层杠杆:网络本身可微,自动微分能把输出对输入的敏感度精确算出;如果连仿真器都可微,梯度就能穿过整个物理过程,一路回传到设计参数上。于是「盲目试错」变成「沿梯度的端到端优化」。把这句话拆开,就是两把反复出现的钥匙:把先验写进结构(对称性、守恒、局部性)与把过程变可微(端到端结构预测、可微分仿真、把方程写进损失)。
六个节沿这条线索推进。8.1 先把科学数据的特点与三类任务(预测 / 反演 / 发现)定义清楚,并说明它与通用大模型路线在数据条件与验收方式上的差别;8.2 用蛋白质结构预测把「结构化数据 + 几何先验」讲透,顺手把等变与不变建成可判断的工具;8.3 转到分子与材料设计,回答机器学习势函数凭什么快、快到哪里就不能信,以及主动学习闭环与新颖性争议;8.4 处理偏微分方程与仿真,把代理模型、降阶、神经算子、PINN 放进同一张对照表,并按公开的失败分析给出 PINN 的适用边界;8.5 用天气与气候预报展示最成功的落地方向,重点在多步误差累积、训练—推理分布差异与评测口径;8.6 收束到方法论:能预测不等于掌握机制,外推能力有三条判据,AI 在科学工作流里更适合当「假设生成器 + 快速筛选器」而不是「结论判定者」。
在九讲主线里,本讲是把第 1 讲的三件套(结构 + 损失 + 梯度下降)搬到自然数据上:结构里塞进物理对称性,损失里塞进方程残差,梯度则穿过网络与仿真。它向前依赖 第 3 讲 的几何先验与 第 4 讲 的生成模型,向后为 第 9 讲 留下工程问题:这些科学大模型的规模与并行训练开销,与语言模型是同一类战场。关于母本 MIT 6.S191:它以软件实验为主线,把科学应用分散在若干讲次里,没有把 AI for Science 组织成独立讲次——本讲属于本教程的扩展,凡是超出公开课程材料的内容,本教程都按「论文事实 / 工程惯例 / 本教程推理」三类分别标注(母本讲次与实验编号的对应关系需核实公开课表)。
一句诚实声明:本讲涉及的每一个模型输出——预测的结构、性质、预报、由 AI 提出的假设——都只是待验证的候选,最终以实验、观测或高精度计算与专业同行的复核为准;本教程讲的是方法、条件与失效边界,不把任何一次模型运行的结果当作科学结论。
六节一览
| 节 | 核心问题 | 关键结论 | 典型陷阱 |
|---|---|---|---|
| 8.1 为什么科学适合深度学习 | 科学数据的哪三个特点决定了它的方法?「可微分推断」到底指什么? | 科学的核心矛盾是标签稀缺而非数据稀缺;结构化先验(对称性 / 守恒律)与可验证答案让「免费标签」成为可能;三类任务(预测 / 反演 / 发现)的数据需求与失败模式不同;与通用大模型路线相比,科学模型的特点是数据稀缺且必须物理上立得住 | 把「科学 AI」当成「把大模型套到物理上」;把无梯度试错当成不可替代;以为堆数据能替代归纳偏置 |
| 8.2 蛋白质与分子结构预测 | 序列里的哪些信息能定出三维结构?端到端方法的关键部件是什么? | 共进化(同源序列的协同突变)给出残基间的接触信息,是端到端方法的信息源;AlphaFold2 式流水线的四个部件是 MSA / 配对表示、Evoformer 迭代更新、等变结构模块、FAPE 损失;等变()与不变()把几何先验写进结构,直接换样本效率;AF3 把结构模块换成扩散并扩展到复合物;评测口径(RMSD / GDT-TS / lDDT)互相不可替代,局限主要在动态构象与单点预测 | 以为「结构预测已经解决蛋白质折叠问题」;把 pLDDT 之类置信度当成功能正确性的证据;用静态单点结构讨论动态过程 |
| 8.3 分子与材料设计 | 为什么机器学习势函数能快数个数量级?快到哪里就不能信? | 等变消息传递 + 局部能量分解 把昂贵的一阶原理计算换成一次前向,代价从自洽场迭代降到线性;力的自洽性来自 (自动微分给出),但可信边界由训练覆盖的化学空间决定;GNoME 式主动学习闭环用图网络筛选 + DFT 验证扩展数据库,其新颖性结论存在学术争议(两方证据并列);生成式设计必须同时过有效性、可合成性、稳定性三关 | 把势函数当万能替身去做未覆盖元素 / 极端构型的模拟;把「生成得像分子」当成「能合成」;把论文报告的候选数量当成已验证的新材料 |
| 8.4 偏微分方程与仿真加速 | 代理模型、神经算子、PINN 各自在学什么、在什么条件下值得用? | 四类做法(代理模型 / 降阶模型 / 神经算子 / PINN)学的东西不同:前者学「某个参数下的解」,神经算子学函数到函数的解算子(与离散无关),PINN 把方程残差写进损失;PINN 在反问题与稀疏数据上有效,在正向高精度求解上常不敌成熟求解器,机制是损失项之间的梯度病态与谱偏差;可微分仿真的代价是显存、离散不可微点与「梯度可信度需校验」 | 以为 PINN 是「不需要数据的通用求解器」;把「能反传」当成「梯度可信」;忽略分辨率泛化与守恒律违反这两项评测 |
| 8.5 气候与地球科学 | 数据驱动预报与数值预报是什么关系?为什么多步预报会崩? | 数据驱动模型(GraphCast / Pangu-Weather / FourCastNet / Aurora)在再分析数据上学习多步自回归映射,与物理模式的关系分三类:替代、混合、加速;核心困难是多步误差累积与训练—推理分布差异(训练用真值喂入、推理用自身预测);评测必须写清口径(RMSE / ACC、与业务模式对照时同初始场同 lead time);极端事件与气候外推是尾部与分布漂移问题 | 拿单步误差代替多步表现;把「秒级出报」当成「预报更准」;用历史测试分数代替对极端事件与外推的评估 |
| 8.6 科学发现的范式:拟合与理解 | 能预测就等于掌握机制吗?AI 在科学工作流里该站哪个位置? | 拟合 ≠ 理解:训练分布内的高精度不保证机制正确;区分二者要靠外推,判据有三条(分布外、尺度外推、干预外推);AI 辅助理论(符号回归、程序搜索、形式化证明)的共同点是「搜索 + 可验证的评分」,验证器决定它能走多远;工作流上 AI 强于假设生成与快速筛选,结论判定仍需实验或高精度验证 | 把榜上分数当外推证据;把 AI 提出的表达式当定律;在「训练分布覆盖不到」的区间用模型输出做决策 |
本讲地图
[8.1 为什么科学适合深度学习]
三特点:结构化先验 / 可验证答案 / 海量弱标注
两类任务:前向预测 · 反演设计(+ 第三类:发现)
核心命题:实验试错 → 可微分推断;与通用大模型路线的差别
│
┌─────────────────────┴──────────────────────┐
▼ ▼
[8.2 蛋白质与分子结构预测] [8.4 偏微分方程与仿真加速]
共进化 → 接触 → 端到端 代理模型 / 降阶 / 神经算子 / PINN
MSA·配对表示·Evoformer·结构模块·FAPE FNO(频域截断)·DeepONet(分支-主干)
等变 vs 不变 → 样本效率 PINN 适用边界 · 可微分仿真的代价
评测口径:RMSD / GDT-TS / lDDT 评测:分辨率泛化 / 误差累积 / 守恒
│ │
▼ ▼
[8.3 分子与材料设计] [8.5 气候与地球科学]
机器学习势函数(等变 + 局部能量分解) 传统管线(同化 + 动力核心 + 参数化)
DFT 加速数量级与可信边界 GraphCast / Pangu / FourCastNet / Aurora
主动学习闭环 · GNoME 新颖性争议 替代 / 混合 / 加速 三类关系
生成式设计的有效性·可合成性·稳定性 多步误差累积 · 训练-推理分布差异
│ (两把钥匙贯穿全讲:
│ ① 把先验写进结构 ② 把过程变可微)
▼
[8.6 科学发现的范式:拟合与理解]
拟合 ≠ 理解;外推三判据(分布外 / 尺度 / 干预)
符号回归 · 程序搜索 · 数学证明:搜索 + 验证器
AI 在工作流的位置:假设生成 vs 结论判定 →「何时当计算器,何时必须做实验」
依赖关系:8.1 → 8.2–8.5 全部(先有任务分类与「免费标签」的观点,各节才落得下)
8.2 的等变 / 不变直接服务 8.3 的势函数与 8.4 的算子设计(共享几何先验)
8.4 的神经算子与 8.5 的预报模型共享同一件事:自回归 rollout 与误差累积
8.2–8.5 的具体案例 → 8.6(把「预测准」与「懂机制」分开,回收到方法论)
本讲新增的概念(相对旧版讲义)
| 组 | 概念 | 首次出现 |
|---|---|---|
| 任务与数据 | 科学数据三特点、结构化先验、可验证答案、弱标注、三类任务(预测 / 反演 / 发现) | 8.1 |
| 可微分 | 可微分推断、梯度端到端优化、有限差分与反向传播的代价对比 | 8.1 |
| 结构预测 | 多序列比对与共进化、直接耦合、配对表示、Evoformer 式迭代更新、等变结构模块、FAPE、扩散结构模块、pLDDT 类置信度 | 8.2 |
| 几何先验 | 不变与等变、原子置换与晶格对称、对称性换样本效率 | 8.2 |
| 材料与势函数 | 势能面、局部能量分解、等变消息传递、主动学习闭环、采集函数、新颖性判据 | 8.3 |
| 分子生成 | 有效性 / 唯一性 / 新颖性、可合成性、稳定性、条件生成与投影 | 8.3 |
| 仿真 | 解算子、神经算子、FNO 谱卷积与模式截断、DeepONet 分支-主干、降阶模型、PINN 残差损失、梯度病态与谱偏差 | 8.4 |
| 可微分仿真 | 伴随式梯度、显存代价、离散不可微点、梯度校验 | 8.4 |
| 地球科学 | 资料同化、动力核心、物理参数化、多步自回归 rollout、训练-推理分布差异、RMSE / ACC、集合预报 | 8.5 |
| 方法论 | 外推三判据、符号回归、程序搜索与形式化验证、假设生成 vs 结论判定 | 8.6 |
学习目标(K / S / A)
| 编号 | 目标(可观察、可测量) | 认知层级 |
|---|---|---|
| K8.1 | 能写出科学数据的三个特点(结构化先验 / 可验证答案 / 海量弱标注),并解释为什么主要矛盾是「标签稀缺而非数据稀缺」,各举一条方法上的后果 | 理解 |
| K8.2 | 能区分预测、反演、发现三类任务,对给定问题正确归类并指出它的典型失败模式 | 理解 / 分析 |
| K8.3 | 能写出不变与等变的定义式,并对能量、力、坐标、原子间距离四类输出各判断一次;能说明等变性为什么带来样本效率 | 记忆 / 理解 |
| K8.4 | 能复述共进化 → 接触信息 → 端到端结构预测的信息链,并列出 AlphaFold2 式流水线的四个部件与各自作用;能说明 FAPE 为什么在局部坐标系度量 | 理解 |
| K8.5 | 能说明机器学习势函数「比 DFT 快数个数量级」的来源(局部能量分解 + 一次前向替代自洽场迭代),并列出至少三条可信边界 | 理解 / 分析 |
| K8.6 | 能对比代理模型 / 神经算子 / PINN 在「学什么、需要什么数据、典型失效」上的差异;能陈述 PINN 在正问题与反问题上的适用性差异及其机制解释 | 分析 |
| S8.1 | 给定一个 PDE(如一维热方程或一维对流方程),能写出其 PINN 残差损失表达式并说明每个导数由哪一步自动微分给出;能给出一个残差不为零的具体函数作为反例 | 应用 |
| S8.2 | 给定残基数 、MSA 深度 、通道数 ,能手算 MSA 与配对表示的元素数与显存占用(精度指定位宽);给定通道数与模式数,能手算 FNO 一层的参数量 | 应用 |
| S8.3 | 能设计一个多步自回归误差累积实验:写出测量方案(同初始场、逐步对照真值)、误差指标与「误差随步数增长」的判据,并指出训练—推理分布差异如何体现在实验设计里 | 应用 / 创造 |
| A8.1 | 给定一个科学预测任务与模型说明,能判断它属于「可当计算器用于筛选」还是「必须实验 / 高精度计算验证」,写出判断依据与失败判据 | 评价 |
| A8.2 | 面对一个「模型发现了新规律 / 新候选」的声明,能按外推三判据设计检验方案,并指出最可能出现的两类伪发现 | 评价 / 分析 |
(本表与 学习目标自检表 逐条对应;上述编号是本讲的目标编号,与母本课程无编号继承关系。)
与实验和项目的关系
- 本讲没有专属 Lab:三个 Lab 分别对应 第 1–2 讲、第 3 讲、第 6 与 9 讲。本讲的动手内容以「小规模可复现实验」的形式给在习题 C 组与各节的即时自测里(例如:手写一个等变 / 不变的对照实验、用自动微分算 PDE 残差、检验自回归误差累积)。
- 期末项目:本讲最适合与 期末项目提案 结合——科学场景的选题天然具备「有对照基线、有可验证指标、有失败判据」三个条件。选题时可以只做其中一件小事:一个性质预测的代理模型、一个小规模的神经算子对照、一份气候预报数据的自回归误差分析。
- 工程工具对照:本讲提到的开源工具(
e3nn/mace/nequip/neuraloperator/DeepXDE/graphcast等)属于「论文随附的参考实现」,具体接口与版本以官方仓库为准(需核实版本与许可)。
第一遍(约 3 小时):读 8.1 → 8.6 的顺序不可颠倒(8.1 定义任务,8.6 收束方法)。intuition 框与 errata 框不许跳;proof 折叠框可以跳(本讲的推导集中在三处:8.1 的对称性与守恒、8.2 的 FAPE 与等变、8.4 的 PINN 残差与梯度校验),二刷再补。
必读、不许跳的框:
- 8.1 的三特点定义与三类任务表(后面五节都在用这套词汇);
- 8.2 的等变 / 不变定义框与「判断该用哪一种」的例题——这是本讲唯一一个可以直接迁移到任意科学任务的工具;
- 8.3 的势函数可信边界清单与新颖性争议的两方证据(教材价值高于任何单个数字);
- 8.4 的四类做法对照表与 PINN 失败分析——它示范了「给方法划边界」的写法;
- 8.5 的误差累积小节与评测口径表;
- 8.6 的外推三判据与「何时能当计算器、何时必须实验验证」的决策表。
二刷(约 3 小时):把所有 proof 过一遍,独立完成 8.2 的形状推演与 8.4 的分辨率泛化实验设计;把 8.6 的三判据套到本讲任意一个模型上,写下它「可能在哪里失效」的一段话。
本讲讨论的模型(结构预测、性质预测、势函数、预报、由 AI 提出的表达式)都在报出一项候选,而不是宣布一项事实。因此:
- 模型输出需以实验与专业验证为准:蛋白质结构要经实验解析或严格的独立评估,材料要经合成与表征,预报要与观测和业务模式对照,符号回归得到的表达式要经过量纲、守恒与独立数据检验。
- 引用只指向公开材料:有 arXiv 编号的给编号;素材中标注「无 arXiv」的(AlphaFold2 / AlphaFold3、GNoME、ESM3、FunSearch 等)按期刊或官方页面引用,本教程不编造编号;无法核实的量级数字一律标「需核实」。
- 争议并列:涉及真实分歧的题目(GNoME 候选的新颖性、PINN 的适用范围、数据驱动预报与数值模式的比较口径)本讲给两方证据与各自的判据,不替读者下结论。
本节小结:本讲把深度学习的对象从人造数据换成自然数据,方法上的差别不在网络结构,而在先验的来源(对称性、守恒律、方程)与梯度能走多远(能否穿透仿真器)。八个字记住主线:先验写进结构,过程变可微;而验收标准始终是同一句话——拿实验与独立验证说话。下一节从科学数据的三个特点开始,把这条主线的地基讲清楚。