Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

第 8 讲导览 · AI for Science

这一讲要解决的真实问题

前七讲的对象都是人自己造出来的数据:图像、文本、语音、序列、决策轨迹。这一讲换一个对象——自然本身。科学数据有三个特点,合在一起决定了它的方法与别处不同:第一,它带结构化的先验(对称性、守恒律、控制方程),这些先验不是从数据里学来的,而是一直摆在那里;第二,它有可验证的答案(一段序列对应的结构、一种成分对应的性质、一个初值对应的演化),对错由实验或高精度计算判定,而不是由标注者说了算;第三,它有海量弱标注(序列、结构、卫星观测、仿真轨迹堆在数据库里,样本极多但「答案」极少,湿实验与高精度量子化学的单价又极高)。

第三个特点最容易被人误读成「科学也只是数据不够多」。真正的问题是标签稀缺而不是数据稀缺:一次湿实验、一轮密度泛函理论(density functional theory, DFT)计算的成本是数量级意义上的高,能被贴标签的样本数永远远小于想探索的候选数。科学的妙处在于,它的数据自带结构:一个分子构型本身就带着能量与受力(物理可以算),一段同源序列本身就带着共进化的约束(统计可以挖),一段卫星观测本身就带着时空连续性(守恒律可以约束)。于是「免费标签」可以从结构、物理与方程里造出来。

这引向本讲的核心命题:把昂贵的实验试错,变成可微分的推断。传统科学工作流的核心环节是黑箱搜索——造一批候选、测一批、再根据结果猜下一批;你只拿到「好 / 坏」,拿不到「往哪个方向改会更好」。深度学习提供两层杠杆:网络本身可微,自动微分能把输出对输入的敏感度精确算出;如果连仿真器都可微,梯度就能穿过整个物理过程,一路回传到设计参数上。于是「盲目试错」变成「沿梯度的端到端优化」。把这句话拆开,就是两把反复出现的钥匙:把先验写进结构(对称性、守恒、局部性)与把过程变可微(端到端结构预测、可微分仿真、把方程写进损失)。

六个节沿这条线索推进。8.1 先把科学数据的特点与三类任务(预测 / 反演 / 发现)定义清楚,并说明它与通用大模型路线在数据条件与验收方式上的差别;8.2 用蛋白质结构预测把「结构化数据 + 几何先验」讲透,顺手把等变与不变建成可判断的工具;8.3 转到分子与材料设计,回答机器学习势函数凭什么快、快到哪里就不能信,以及主动学习闭环与新颖性争议;8.4 处理偏微分方程与仿真,把代理模型、降阶、神经算子、PINN 放进同一张对照表,并按公开的失败分析给出 PINN 的适用边界;8.5 用天气与气候预报展示最成功的落地方向,重点在多步误差累积、训练—推理分布差异与评测口径;8.6 收束到方法论:能预测不等于掌握机制,外推能力有三条判据,AI 在科学工作流里更适合当「假设生成器 + 快速筛选器」而不是「结论判定者」。

在九讲主线里,本讲是把第 1 讲的三件套(结构 + 损失 + 梯度下降)搬到自然数据上:结构里塞进物理对称性,损失里塞进方程残差,梯度则穿过网络与仿真。它向前依赖 第 3 讲 的几何先验与 第 4 讲 的生成模型,向后为 第 9 讲 留下工程问题:这些科学大模型的规模与并行训练开销,与语言模型是同一类战场。关于母本 MIT 6.S191:它以软件实验为主线,把科学应用分散在若干讲次里,没有把 AI for Science 组织成独立讲次——本讲属于本教程的扩展,凡是超出公开课程材料的内容,本教程都按「论文事实 / 工程惯例 / 本教程推理」三类分别标注(母本讲次与实验编号的对应关系需核实公开课表)。

一句诚实声明:本讲涉及的每一个模型输出——预测的结构、性质、预报、由 AI 提出的假设——都只是待验证的候选,最终以实验、观测或高精度计算与专业同行的复核为准;本教程讲的是方法、条件与失效边界,不把任何一次模型运行的结果当作科学结论。

六节一览

节核心问题关键结论典型陷阱
8.1 为什么科学适合深度学习科学数据的哪三个特点决定了它的方法?「可微分推断」到底指什么?科学的核心矛盾是标签稀缺而非数据稀缺;结构化先验(对称性 / 守恒律)与可验证答案让「免费标签」成为可能;三类任务(预测 / 反演 / 发现)的数据需求与失败模式不同;与通用大模型路线相比,科学模型的特点是数据稀缺且必须物理上立得住把「科学 AI」当成「把大模型套到物理上」;把无梯度试错当成不可替代;以为堆数据能替代归纳偏置
8.2 蛋白质与分子结构预测序列里的哪些信息能定出三维结构?端到端方法的关键部件是什么?共进化(同源序列的协同突变)给出残基间的接触信息,是端到端方法的信息源;AlphaFold2 式流水线的四个部件是 MSA / 配对表示、Evoformer 迭代更新、等变结构模块、FAPE 损失;等变(f(Rx)=Rf(x)f(R\boldsymbol x)=Rf(\boldsymbol x))与不变(f(Rx)=f(x)f(R\boldsymbol x)=f(\boldsymbol x))把几何先验写进结构,直接换样本效率;AF3 把结构模块换成扩散并扩展到复合物;评测口径(RMSD / GDT-TS / lDDT)互相不可替代,局限主要在动态构象与单点预测以为「结构预测已经解决蛋白质折叠问题」;把 pLDDT 之类置信度当成功能正确性的证据;用静态单点结构讨论动态过程
8.3 分子与材料设计为什么机器学习势函数能快数个数量级?快到哪里就不能信?等变消息传递 + 局部能量分解 E=∑iEiE=\sum_i E_i 把昂贵的一阶原理计算换成一次前向,代价从自洽场迭代降到线性;力的自洽性来自 F=−∇EF=-\nabla E(自动微分给出),但可信边界由训练覆盖的化学空间决定;GNoME 式主动学习闭环用图网络筛选 + DFT 验证扩展数据库,其新颖性结论存在学术争议(两方证据并列);生成式设计必须同时过有效性、可合成性、稳定性三关把势函数当万能替身去做未覆盖元素 / 极端构型的模拟;把「生成得像分子」当成「能合成」;把论文报告的候选数量当成已验证的新材料
8.4 偏微分方程与仿真加速代理模型、神经算子、PINN 各自在学什么、在什么条件下值得用?四类做法(代理模型 / 降阶模型 / 神经算子 / PINN)学的东西不同:前者学「某个参数下的解」,神经算子学函数到函数的解算子(与离散无关),PINN 把方程残差写进损失;PINN 在反问题与稀疏数据上有效,在正向高精度求解上常不敌成熟求解器,机制是损失项之间的梯度病态与谱偏差;可微分仿真的代价是显存、离散不可微点与「梯度可信度需校验」以为 PINN 是「不需要数据的通用求解器」;把「能反传」当成「梯度可信」;忽略分辨率泛化与守恒律违反这两项评测
8.5 气候与地球科学数据驱动预报与数值预报是什么关系?为什么多步预报会崩?数据驱动模型(GraphCast / Pangu-Weather / FourCastNet / Aurora)在再分析数据上学习多步自回归映射,与物理模式的关系分三类:替代、混合、加速;核心困难是多步误差累积与训练—推理分布差异(训练用真值喂入、推理用自身预测);评测必须写清口径(RMSE / ACC、与业务模式对照时同初始场同 lead time);极端事件与气候外推是尾部与分布漂移问题拿单步误差代替多步表现;把「秒级出报」当成「预报更准」;用历史测试分数代替对极端事件与外推的评估
8.6 科学发现的范式:拟合与理解能预测就等于掌握机制吗?AI 在科学工作流里该站哪个位置?拟合 ≠ 理解:训练分布内的高精度不保证机制正确;区分二者要靠外推,判据有三条(分布外、尺度外推、干预外推);AI 辅助理论(符号回归、程序搜索、形式化证明)的共同点是「搜索 + 可验证的评分」,验证器决定它能走多远;工作流上 AI 强于假设生成与快速筛选,结论判定仍需实验或高精度验证把榜上分数当外推证据;把 AI 提出的表达式当定律;在「训练分布覆盖不到」的区间用模型输出做决策

本讲地图

                    [8.1 为什么科学适合深度学习]
        三特点:结构化先验 / 可验证答案 / 海量弱标注
        两类任务:前向预测 · 反演设计(+ 第三类:发现)
        核心命题:实验试错 → 可微分推断;与通用大模型路线的差别
                              │
        ┌─────────────────────┴──────────────────────┐
        ▼                                            ▼
  [8.2 蛋白质与分子结构预测]                 [8.4 偏微分方程与仿真加速]
  共进化 → 接触 → 端到端                     代理模型 / 降阶 / 神经算子 / PINN
  MSA·配对表示·Evoformer·结构模块·FAPE        FNO(频域截断)·DeepONet(分支-主干)
  等变 vs 不变 → 样本效率                     PINN 适用边界 · 可微分仿真的代价
  评测口径:RMSD / GDT-TS / lDDT              评测:分辨率泛化 / 误差累积 / 守恒
        │                                            │
        ▼                                            ▼
  [8.3 分子与材料设计]                       [8.5 气候与地球科学]
  机器学习势函数(等变 + 局部能量分解)        传统管线(同化 + 动力核心 + 参数化)
  DFT 加速数量级与可信边界                     GraphCast / Pangu / FourCastNet / Aurora
  主动学习闭环 · GNoME 新颖性争议              替代 / 混合 / 加速 三类关系
  生成式设计的有效性·可合成性·稳定性           多步误差累积 · 训练-推理分布差异

                              │  (两把钥匙贯穿全讲:
                              │    ① 把先验写进结构  ② 把过程变可微)
                              ▼
              [8.6 科学发现的范式:拟合与理解]
        拟合 ≠ 理解;外推三判据(分布外 / 尺度 / 干预)
        符号回归 · 程序搜索 · 数学证明:搜索 + 验证器
        AI 在工作流的位置:假设生成 vs 结论判定 →「何时当计算器,何时必须做实验」

  依赖关系:8.1 → 8.2–8.5 全部(先有任务分类与「免费标签」的观点,各节才落得下)
            8.2 的等变 / 不变直接服务 8.3 的势函数与 8.4 的算子设计(共享几何先验)
            8.4 的神经算子与 8.5 的预报模型共享同一件事:自回归 rollout 与误差累积
            8.2–8.5 的具体案例 → 8.6(把「预测准」与「懂机制」分开,回收到方法论)

本讲新增的概念(相对旧版讲义)

组概念首次出现
任务与数据科学数据三特点、结构化先验、可验证答案、弱标注、三类任务(预测 / 反演 / 发现)8.1
可微分可微分推断、梯度端到端优化、有限差分与反向传播的代价对比8.1
结构预测多序列比对与共进化、直接耦合、配对表示、Evoformer 式迭代更新、等变结构模块、FAPE、扩散结构模块、pLDDT 类置信度8.2
几何先验不变与等变、原子置换与晶格对称、对称性换样本效率8.2
材料与势函数势能面、局部能量分解、等变消息传递、主动学习闭环、采集函数、新颖性判据8.3
分子生成有效性 / 唯一性 / 新颖性、可合成性、稳定性、条件生成与投影8.3
仿真解算子、神经算子、FNO 谱卷积与模式截断、DeepONet 分支-主干、降阶模型、PINN 残差损失、梯度病态与谱偏差8.4
可微分仿真伴随式梯度、显存代价、离散不可微点、梯度校验8.4
地球科学资料同化、动力核心、物理参数化、多步自回归 rollout、训练-推理分布差异、RMSE / ACC、集合预报8.5
方法论外推三判据、符号回归、程序搜索与形式化验证、假设生成 vs 结论判定8.6

学习目标(K / S / A)

编号目标(可观察、可测量)认知层级
K8.1能写出科学数据的三个特点(结构化先验 / 可验证答案 / 海量弱标注),并解释为什么主要矛盾是「标签稀缺而非数据稀缺」,各举一条方法上的后果理解
K8.2能区分预测、反演、发现三类任务,对给定问题正确归类并指出它的典型失败模式理解 / 分析
K8.3能写出不变与等变的定义式,并对能量、力、坐标、原子间距离四类输出各判断一次;能说明等变性为什么带来样本效率记忆 / 理解
K8.4能复述共进化 → 接触信息 → 端到端结构预测的信息链,并列出 AlphaFold2 式流水线的四个部件与各自作用;能说明 FAPE 为什么在局部坐标系度量理解
K8.5能说明机器学习势函数「比 DFT 快数个数量级」的来源(局部能量分解 + 一次前向替代自洽场迭代),并列出至少三条可信边界理解 / 分析
K8.6能对比代理模型 / 神经算子 / PINN 在「学什么、需要什么数据、典型失效」上的差异;能陈述 PINN 在正问题与反问题上的适用性差异及其机制解释分析
S8.1给定一个 PDE(如一维热方程或一维对流方程),能写出其 PINN 残差损失表达式并说明每个导数由哪一步自动微分给出;能给出一个残差不为零的具体函数作为反例应用
S8.2给定残基数 NN、MSA 深度 ss、通道数 cc,能手算 MSA 与配对表示的元素数与显存占用(精度指定位宽);给定通道数与模式数,能手算 FNO 一层的参数量应用
S8.3能设计一个多步自回归误差累积实验:写出测量方案(同初始场、逐步对照真值)、误差指标与「误差随步数增长」的判据,并指出训练—推理分布差异如何体现在实验设计里应用 / 创造
A8.1给定一个科学预测任务与模型说明,能判断它属于「可当计算器用于筛选」还是「必须实验 / 高精度计算验证」,写出判断依据与失败判据评价
A8.2面对一个「模型发现了新规律 / 新候选」的声明,能按外推三判据设计检验方案,并指出最可能出现的两类伪发现评价 / 分析

(本表与 学习目标自检表 逐条对应;上述编号是本讲的目标编号,与母本课程无编号继承关系。)

与实验和项目的关系

  • 本讲没有专属 Lab:三个 Lab 分别对应 第 1–2 讲、第 3 讲、第 6 与 9 讲。本讲的动手内容以「小规模可复现实验」的形式给在习题 C 组与各节的即时自测里(例如:手写一个等变 / 不变的对照实验、用自动微分算 PDE 残差、检验自回归误差累积)。
  • 期末项目:本讲最适合与 期末项目提案 结合——科学场景的选题天然具备「有对照基线、有可验证指标、有失败判据」三个条件。选题时可以只做其中一件小事:一个性质预测的代理模型、一个小规模的神经算子对照、一份气候预报数据的自回归误差分析。
  • 工程工具对照:本讲提到的开源工具(e3nn / mace / nequip / neuraloperator / DeepXDE / graphcast 等)属于「论文随附的参考实现」,具体接口与版本以官方仓库为准(需核实版本与许可)。
怎么用这一讲

第一遍(约 3 小时):读 8.1 → 8.6 的顺序不可颠倒(8.1 定义任务,8.6 收束方法)。intuition 框与 errata 框不许跳;proof 折叠框可以跳(本讲的推导集中在三处:8.1 的对称性与守恒、8.2 的 FAPE 与等变、8.4 的 PINN 残差与梯度校验),二刷再补。

必读、不许跳的框:

  • 8.1 的三特点定义与三类任务表(后面五节都在用这套词汇);
  • 8.2 的等变 / 不变定义框与「判断该用哪一种」的例题——这是本讲唯一一个可以直接迁移到任意科学任务的工具;
  • 8.3 的势函数可信边界清单与新颖性争议的两方证据(教材价值高于任何单个数字);
  • 8.4 的四类做法对照表与 PINN 失败分析——它示范了「给方法划边界」的写法;
  • 8.5 的误差累积小节与评测口径表;
  • 8.6 的外推三判据与「何时能当计算器、何时必须实验验证」的决策表。

二刷(约 3 小时):把所有 proof 过一遍,独立完成 8.2 的形状推演与 8.4 的分辨率泛化实验设计;把 8.6 的三判据套到本讲任意一个模型上,写下它「可能在哪里失效」的一段话。

自检路径:每节的「即时自测」→ 本讲 习题集(A/B/C/D 四组)→ 回忆卡 → 综合自测卷。

一条诚实声明(请先读这一条)

本讲讨论的模型(结构预测、性质预测、势函数、预报、由 AI 提出的表达式)都在报出一项候选,而不是宣布一项事实。因此:

  1. 模型输出需以实验与专业验证为准:蛋白质结构要经实验解析或严格的独立评估,材料要经合成与表征,预报要与观测和业务模式对照,符号回归得到的表达式要经过量纲、守恒与独立数据检验。
  2. 引用只指向公开材料:有 arXiv 编号的给编号;素材中标注「无 arXiv」的(AlphaFold2 / AlphaFold3、GNoME、ESM3、FunSearch 等)按期刊或官方页面引用,本教程不编造编号;无法核实的量级数字一律标「需核实」。
  3. 争议并列:涉及真实分歧的题目(GNoME 候选的新颖性、PINN 的适用范围、数据驱动预报与数值模式的比较口径)本讲给两方证据与各自的判据,不替读者下结论。

本节小结:本讲把深度学习的对象从人造数据换成自然数据,方法上的差别不在网络结构,而在先验的来源(对称性、守恒律、方程)与梯度能走多远(能否穿透仿真器)。八个字记住主线:先验写进结构,过程变可微;而验收标准始终是同一句话——拿实验与独立验证说话。下一节从科学数据的三个特点开始,把这条主线的地基讲清楚。