第 6 讲导览 · 新前沿

这一讲要解决的真实问题

前五讲已经把零件集齐了：第 2 讲的 Transformer 提供序列骨干，第 4 讲的生成模型给出采样框架与流匹配，第 5 讲的强化学习与偏好优化提供对齐工具。本讲把它们组装成今天最受关注的系统：大语言模型、多模态模型、具身智能体。

但这一讲与前五讲有一个本质差别，值得在开篇就讲清楚：前五讲的内容是收敛的，这一讲的内容是正在形成的。Transformer 的注意力公式十年后大概仍是这个样子；而「能力涌现是不是度量假象」「视频生成模型算不算世界模拟器」「合成数据能不能突破数据墙」这些问题，今天没有定论，且证据每月都在变。

所以本讲的教学目标不是给你一套结论，而是给你三样东西：

1. 可用的工程判断：哪些数字可以直接用（频率、延迟、token 预算、幂律形状），哪些必须条件化（缩放律常数、评测分数、成功率）。
2. 读取前沿主张的方法：看到一个「突破」时，知道该问哪四个问题（哪类基准、有没有污染、方差多大、部署代价多少）。
3. 对争议的中立呈现能力：本讲有三处并列两方证据、不站队的地方——能力涌现（6.2.4）、世界模拟器之争（6.6.8）、评测污染与刷榜（6.7.2）。你要学的不只是两方说了什么，还有怎样的实验能分辨它们。

七节一览

本讲地图

                    [6.1 大语言模型：自监督预训练 → SFT → 对齐]
                      预测下一个 token / tokenizer / 数据 / KV cache
                                      │
                  「继续变大还有用吗？」│
                                      ▼
                    [6.2 缩放律与「能力涌现」]
              幂律 · Chinchilla 的 D≈20N · 数据墙 · 涌现之争(并列)
                                      │
                     「不改参数还能提升吗？」
                                      ▼
                    [6.3 提示、思维链与推理模型]
          条件化 · CoT · 自洽性 · 测试时计算三形态 · RLVR/GRPO · 蒸馏
                                      │
        ┌─────────────────────────────┼─────────────────────────────┐
        ▼                             ▼                             ▼
  [6.4 多模态]                  [6.5 具身 / VLA]              [6.6 智能体 / 世界模型]
  CLIP 对齐 / VLM 三段式        动作 token 化 / 连续生成        ReAct / function calling
  视觉 token 预算 / 语音         数据三条来源 / 安全评测         工具协议 / 记忆规划反思
  扩散语言模型                                                 世界模型 / 模拟器之争(并列)
        └─────────────────────────────┼─────────────────────────────┘
                                      ▼
                    [6.7 评估、不确定性与可信部署]
        四类基准 · 污染对策 · 配对比较 · 校准与弃答 · 部署五件事 · 四道闸门

  依赖关系：6.1 → 6.2（缩放律是对「预训练为什么值得投入」的定量回答）
            6.1 → 6.3（提示发生在冻结的预训练模型上；对齐改的是倾向不是能力）
            6.3 → 6.6（推理模型的测试时计算，与智能体的多轮循环是同一「用算力换质量」思想）
            6.4 → 6.5（VLA 的视觉骨干与指令理解都来自 VLM）
            6.4 / 6.5 / 6.6 → 6.7（越贴近真实使用，评测与部署纪律越关键）
            6.2 ↔ 6.7（数据污染、合成数据塌缩、评测失效是同一结构性问题的三个侧面）

本讲新增的概念（相对旧版讲义）

时效声明：本讲的版本时点与来源纪律

这一节是本讲与其余各讲最大的体例差异，请务必读完。

与实验和项目的关系

• Lab 3 · 微调一个大语言模型 是本讲最直接的落地：加载预训练模型 → LoRA 微调 → 评估生成。它对应 6.1 的「预训练 + 后训练」最小工程化身。做 Lab 时请有意识地把三件事记录下来：用了什么分词器、SFT 数据有多少条且如何分布、评估用了什么指标与几次重复——这三项正是本讲反复强调的「报告纪律」（6.1.3、6.1.5、6.7.3）。
• Lab 1 · 音乐生成 的字符级序列生成是「下一个 token 预测」的最小版本：把温度调一调，你会亲手体会 6.1.1 里「似然与多样性」的取舍，以及 6.3.2 中「多采样 + 投票」的原始形态。
• Lab 2 · 人脸检测系统 提供视觉骨干与检测流程；6.4 的 VLM 是它的「语言侧延伸」——若你想做一个「用自然语言查询图像中的目标」的小系统，Lab 2 的检测模型可以直接当作工具接进 6.6 的 function calling 框架。
• 期末项目：本讲可选题面很宽，几个成本可控且能产出可验证结论的方向——① 在自建小测集上复现「涌现是否依赖度量」（固定模型族，画离散指标与连续指标两条曲线，见 例 6.2.3）；② 亲手跑一次评测并做污染检查（用 lm-evaluation-harness 在本地模型上跑一个基准，再与训练语料做 n-gram 比对）；③ 给一个多模态任务设计「错误归因探针集」（照 例 6.4.4 的六类探针改造到自己的任务上）；④ 搭一个最小 ReAct 智能体并测它的失败模式（统计循环次数、无效工具调用率、以及有没有出现「未确认的不可逆操作」）。选题时先把评价函数写清楚，再动手（6.7.6）。