Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

第 6 讲 · 综合自测卷(100 分 · 建议 60 分钟)

闭卷计时;做完先按文末评分标准自评,再按漏点定位表回查。 范围:本讲 6.1–6.7 与导览。题目与习题集尽量不重叠(个别概念在不同角度出现,已在答案里注明);凡概念判断题,只写对错不给分,必须给理由或反例。

时间分配建议:第一部分 1212 分钟(每题约 7070 秒)→ 第二部分 1010 分钟 → 第三部分 2525 分钟(推导题宁慢勿跳步)→ 第四部分 1212 分钟(每题 66 分钟,四项写全)。留最后 11 分钟只做一件事:回头检查第一部分的十道判断里有没有只写了对错的。

阅卷口径(先读,能省不少分)
  • 判断要带机制词:写「错」不给分;写「错,因为 PPL 只在同一 tokenizer 与同一去重程度下可比」才拿满。本讲的机制词有:压缩码长、去重、计算最优、量级锚点、度量不连续、错误相关性、可验证面、序列长度换计算深度、压缩率、动作分块、Observation 的外部性、复合误差、污染不可证明、配对比较、P95。
  • 前提不能省:说缩放律要跟上「经验拟合 / 固定算力」;说 KV cache 要跟上「精度、层数、KV 头数」;说「涌现」要跟上「在哪一种度量下」。
  • 公式要能自己推:推导题按步给分,只写结论最多 33 分。
  • 工程题给判据:凡涉及取舍,必须写失败判据与验证计划,否则第四部分上限 66 分。

第一部分 · 概念判断(10 题 × 3 分 = 30 分)

1. 同一段中文在词表 A 下被切成 600 个 token、在词表 B 下被切成 320 个 token,说明 B 的模型推理更快。

解答

答案:错。 变的只是编码粒度,参数量与每 token 计算量都没变——「每秒 token 数」在两个 tokenizer 之间不可比。改词表的真实收益是成本、有效窗口、小语种公平性(例 6.1.3)。给分:判断 1 分 + 理由 2 分(须区分「token 数」与「计算量」)。

2. 为了让模型更好地理解提问,SFT 时应把指令部分的 token 也计入损失。

解答

答案:错。 推理时指令由用户给定,无需模型预测;把指令计入损失会让模型学习「生成用户的问题」,浪费容量并诱发回答中复述指令。掩掉指令损失等于声明「输入是条件,输出才是建模的随机变量」(定义 6.1.3 后的解释)。给分:判断 1 分 + 理由 2 分。

3. 既然 Chinchilla 给出了 D≈20ND\approx20N,那么按这个配比堆规模就是「正确答案」,不必再讨论目标函数。

解答

答案:错。 D≈20ND\approx20N 是特定拟合下的量级锚点;「最优」永远相对于目标函数——最小化训练损失、最小化总拥有成本、最小化推理延迟给出三个不同答案。业界普遍主动超出该配比(把训练算力换成部署阶段的推理节省),这叫「推理最优」而非「训练最优」(6.2.2)。给分:判断 1 分 + 理由 2 分(须提到「相对于目标函数」或「推理最优」)。

4. 涌现既然可能只是度量造成的假象,就说明继续扩大模型规模没有意义。

解答

答案:错。 这是反向的过度解读:度量论证说的是曲线形状可以由不连续度量产生,不是「规模无用」。规模依然平滑地提升底层能力,只是「平滑」不等于「无用」;已被证伪的只是最激进的机制主张(6.2.4 的误读 2)。给分:判断 1 分 + 理由 2 分。

5. 推理 token 越多,答案越可能正确,因此长思维链应当对所有请求默认开启。

解答

答案:错。 长度与正确率不单调:超出能力边界的问题,思考再久也只会产出更长的错误论证(而且更不容易被察觉);对已接近天花板的任务没有增益;成本是线性以上的,交互式产品还会撞上延迟(6.3.6、例 6.3.4)。给分:判断 1 分 + 理由 2 分。

6. RLVR 让模型在数学与代码上大幅变强,说明它已经学会了「通用推理」,可以外推到法律判断。

解答

答案:错。 可验证奖励只在可验证面上提供梯度:「能验证什么,就能学什么;不能验证的,就学不到。」外推到不可验证任务需要证据,而不是期待;强行外推要么造出劣质代理奖励(然后被钻空子),要么退回人类偏好模型(6.3.5)。给分:判断 1 分 + 理由 2 分。

7. OCR 类任务上,把 VLM 的连接器加宽、或换一个更强的视觉编码器,一定能提升准确率。

解答

答案:错。 结论依赖瓶颈在哪一侧:如果视觉 token 的压缩率太高,编码器看清的细节根本传不进 LLM——此时提高分辨率或改用切片往往比换大模型更有效。连接器本身参数量极小(例 6.4.2 里约 4.24.2 M),加宽它不是主要矛盾(6.4.3 的「编码器看不清 vs 看清了没传进去」)。给分:判断 1 分 + 理由 2 分。

8. 动作分块只是把控制频率「降下来」的工程妥协,与动作精度无关。

解答

答案:错。 动作分块的作用是把模型前向(低频、慢)与控制执行(高频、快)分成两个时间尺度:单步闭环的决策频率被前向延迟锁死(1/0.15≈6.71/0.15\approx6.7 Hz),分块后执行侧仍是 5050 Hz、等效控制频率恢复(例 6.5.1)。它引入的新问题不是精度,而是块与块之间的接缝(不一致、抖动)。给分:判断 1 分 + 理由 2 分。

9. ReAct 循环里的 Thought 与 Observation 都是模型生成的文本,所以循环并没有带来新信息。

解答

答案:错。 Observation 不由模型生成,它由外部系统返回(工具返回值、报错、文件内容),是模型无法伪造的信息通道——这正是 ReAct 与「让模型自己编一整套推理」的实质差别,也是它能获取外部信息、拿到真实错误的前提(定义 6.6.1)。给分:判断 1 分 + 理由 2 分。

10. 用 LLM 当裁判(LLM-as-judge)比人工便宜好几个数量级,因此不需要做偏差校正与人工抽样校验。

解答

答案:错。 裁判模型本身有位置偏差、长度偏差与自我偏好,也会被被测模型「讨好」;它便宜但不能免检,必须做偏差校正与人工抽样校验(6.7.1、6.7.2 的误读 5)。给分:判断 1 分 + 理由 2 分。

第二部分 · 填空与简答(5 题 × 4 分 = 20 分)

11. 写出三段式流水线三个阶段各自的数据形态与损失/目标,并用一句话说明 SFT 为什么要 mask 指令 token。

解答

答案:① 预训练——原始文本 / 代码 / 文档(万亿级 token),目标为下一 token 交叉熵,算力占绝大多数;② SFT——「指令 → 期望回答」成对数据(百万级),同为交叉熵但只在回答 token 上回传损失;③ 偏好对齐——同一提示的多个回答及其偏好排序,用 RLHF(RM + PPO)或 DPO 类直接偏好损失(方法 6.1.1)。mask 的理由:指令是条件、回答才是被建模的随机变量;不 mask 会让模型学「生成用户提问」并诱发复述指令(定义 6.1.3)。给分:三阶段数据形态与目标 3 分(每阶段 1 分)+ mask 理由 1 分。

12. 某模型 N=13BN=13\text{B}、训练 token 数 D=400BD=400\text{B}。按 D≈20ND\approx20N 判断它处于什么状态?给出算式,并回答「数据是不是越多越好」。

解答

答案:20N=260B20N=260\text{B},实际 D=400B≈1.54×260BD=400\text{B}\approx1.54\times260\text{B}——已超出该配比下的「计算最优」数据量,按这个口径属「参数相对数据偏小」(与欠训练相反的一端)。但「更多数据一定更好」不成立:数据收益随重复与边际信息递减,是否继续加要由目标函数决定——若目标是最小化总拥有成本,超出该配比往往是理性选择(换更小模型、省推理成本);若是数据本身已近耗尽,则要转向数据管线与合成数据的筛选器(6.2.2、6.2.3)。给分:算式与判断 2 分 + 「不是越多越好」的论证 2 分。

13. 写出 KV cache 的显存公式并估算:L=105L=10^5、nlayer=80n_{\text{layer}}=80、nkv=8n_{\text{kv}}=8、dh=128d_h=128、BF16、单会话(B=1B=1)。再给两个把该数字压下来的手段。

解答

答案:bytes=2 B L nlayer nkv dh b=2×1×105×80×8×128×2≈3.3×1010 字节≈33\text{bytes}=2\,B\,L\,n_{\text{layer}}\,n_{\text{kv}}\,d_h\,b=2\times1\times10^5\times80\times8\times128\times2\approx3.3\times10^{10}\ \text{字节}\approx33 GB。手段(任两个):GQA / MQA 降 nkvn_{\text{kv}};分页 cache(PagedAttention 一类)与前缀缓存复用;KV 量化(比权重量化更敏感,需更保守);滑窗注意力 / 保留 sink token、丢弃中段;把长文档放进可检索的库而不是常驻上下文(定义 6.1.5、6.1.6)。给分:公式与数值 2 分(公式 1 + 数值 1)+ 手段 2 分。

14. 一张 1008×10081008\times1008 的图像按 14×1414\times14 的 patch 编码会占用多少视觉 token?若上下文预算只有 4000 token,给出两条可行手段并说明各自代价。

解答

答案:(1008/14)2=722=5184(1008/14)^2=72^2=5184 个 token,已超预算(例 6.4.2 的分辨率表)。两条手段(任选,须说代价):① 降低分辨率 / 只用缩略图——代价是小字与细纹理丢失;② 视觉 token 压缩 / 重采样(Q-Former 式查询、池化、token 合并)——压缩有损,细节任务受损;③ 切片只保留相关区域(先定位再高分辨率重看)——代价是要多一次定位调用与更复杂的流程;④ 动态分辨率 + 池化组合。注意:分辨率与压缩率是两个独立旋钮,选型应在自建小测集上画「token 成本—准确率」曲线取拐点(方法 6.4.2、例 6.4.3)。给分:token 数 2 分 + 两条手段与代价 2 分。

15. 用一句话各写出四类评测(知识多项选择 / 全景矩阵 / 真实任务执行 / 人类偏好)的主要失效方向,并说明「模型选型至少覆盖三类」的理由。

解答

答案:① 知识多项选择(MMLU / GPQA / HLE)——易被记住、易饱和、易污染(答案空间小、题面与答案在网上);② 全景矩阵(HELM / BIG-bench)——计算与维护成本高、每个场景覆盖浅,且容易被选择性报告;③ 真实任务执行(SWE-bench / WebArena / OSWorld)——测试覆盖不足可被绕过、环境依赖导致可复现性差、评测成本高;④ 人类偏好 / LLM 裁判(Arena / MT-Bench)——位置偏差、长度偏差、风格偏好,可被「讨喜」策略优化(方法 6.7.1)。必须看组合是因为它们失效方向不同、互为对照:只看一类会系统性高估某一侧面,且单一榜单的第一名不能作为选型依据。给分:四类各 0.75 分 + 组合理由 1 分。

第三部分 · 推导与计算(3 题 × 10 分 = 30 分)

16.(10 分) 某次预训练预算为 C=4.8×1022C=4.8\times10^{22} FLOPs(量级示意)。 (a) 按 C≈6NDC\approx6ND 与 D≈20ND\approx20N 反解 (N,D)(N,D); (b) 若改用 D=40ND=40N 的配比,同一算力下 (N,D)(N,D) 变成多少; (c) 说明两个解里哪个是「训练最优」、哪个更接近「推理最优」,并用一句话向非技术同事解释这种取舍。

解答

(a) D=20N⇒C≈6N⋅20N=120N2D=20N\Rightarrow C\approx6N\cdot20N=120N^2,故

N=4.8×1022120=4×1020=2.0×1010 (约 20B),D=20N=4.0×1011 (约 400B).N=\sqrt{\frac{4.8\times10^{22}}{120}}=\sqrt{4\times10^{20}}=2.0\times10^{10}\ (\text{约 }20\text{B}),\qquad D=20N=4.0\times10^{11}\ (\text{约 }400\text{B}).

(b) D=40N⇒C≈240N2D=40N\Rightarrow C\approx240N^2,故 N=2×1020≈1.41×1010N=\sqrt{2\times10^{20}}\approx1.41\times10^{10}(约 14.114.1B),D=40N≈5.66×1011D=40N\approx5.66\times10^{11}(约 566566B)。校验:6×1.41×1010×5.66×1011≈4.8×10226\times1.41\times10^{10}\times5.66\times10^{11}\approx4.8\times10^{22} ✓ 与 (a) 同算力。

读法:同样的算力下,配比越偏数据,就得到越小的模型与越多的 token——(a) 是「损失最小」意义上的计算最优,(b) 则用更多数据换更小参数。

(c) (a) 是训练最优(在固定训练算力下最小化损失);(b) 更接近推理最优——模型更小,部署阶段每次调用都更便宜、延迟更低。一句话解释:“多花一点训练的钱,换以后每一次调用都更便宜。”前提是训练算力可承受、数据可得,且部署侧的调用量足够大(6.2.2、6.1.7)。

评分:(a) 4 分(代入配比 2 分 + 数值 2 分);(b) 3 分(配比变形 1.5 + 数值 1.5);(c) 3 分(两个「最优」的区分 2 分 + 解释 1 分)。

17.(10 分) 某模型在数学题上的单链正确率 p=0.62p=0.62,现用 k=5k=5 的自洽性(多数投票)。 (a) 写出独立假设下多数投票成功率的求和式并算出数值; (b) 若存在 25% 的概率「5 条链会一起犯同一个错」(落入该模式时投票必然错),求期望成功率; (c) 与单链相比,收益如何变化? (d) 给出一句话的工程判据:什么时候该用自洽性。

解答

(a) 多数即至少 3 条正确:

P=∑j=35(5j)pj(1−p)5−j=(53)(0.62)3(0.38)2+(54)(0.62)4(0.38)+(0.62)5P=\sum_{j=3}^{5}\binom{5}{j}p^{j}(1-p)^{5-j}=\binom53(0.62)^3(0.38)^2+\binom54(0.62)^4(0.38)+(0.62)^5 =0.3441+0.2808+0.0916≈0.7165.=0.3441+0.2808+0.0916\approx0.7165 .

(b) 25%25\% 的概率落入共同错误模式(投票必错),其余 75%75\% 按 (a) 的 0.71650.7165:

Pcorr=0.75×0.7165+0.25×0≈0.5374.P_{\text{corr}}=0.75\times0.7165+0.25\times0\approx0.5374 .

(c) 独立情形的收益是 0.7165−0.62=+9.650.7165-0.62=+9.65 个百分点;考虑相关错误后变成 0.5374−0.62=−8.260.5374-0.62=\mathbf{-8.26} 个百分点——不仅收益被吃掉,投票反而劣于单链。这说明自洽性的价值几乎完全由错误相关性决定(例 6.3.2)。

(d) 判据:先估单链准确率与错误的分散程度——单链明显 >0.5>0.5 且不同采样的错误答案分散时才用;若单链 ≲0.5\lesssim0.5、或错误高度集中在同一个答案(系统性知识缺口),应改为「补信息」(检索 / 微调 / 换模型)而不是加采样;开放写作类任务没有「多数答案」,不适用(定义 6.3.3)。

评分:(a) 4 分(求和式 2 分 + 数值 2 分);(b) 3 分(0.75 权重的构造 2 分 + 数值 1 分);(c) 1 分(指出可转为负收益);(d) 2 分(须含「pp 与错误相关性」两个条件)。

18.(10 分) 某世界模型的单步预测相对误差为 ϵ=0.02\epsilon=0.02,要求 rollout 后状态相对误差不超过 8%8%。 (a) 分别按系统性偏差与独立随机误差两种累积模型求最大可用步数; (b) 若把容差放宽到 20%20%,两者各变成多少? (c) 若希望「线性假设下可用步数达到 40 步」,单步误差需降到多少? (d) 用一句话说明为什么这个数字必须连带误差模型一起报告。

解答

(a) 系统性:eH=ϵH≤0.08⇒H≤4e_H=\epsilon H\le0.08\Rightarrow H\le4 步;随机:eH=ϵH≤0.08⇒H≤4⇒H≤16e_H=\epsilon\sqrt H\le0.08\Rightarrow\sqrt H\le4\Rightarrow H\le16 步。两者相差 4 倍。

(b) 容差 20%20\%:系统性 H≤0.20/0.02=10H\le0.20/0.02=10 步;随机 H≤(10)2=100H\le(10)^2=100 步。

(c) 线性假设下 H=40H=40 要求 ϵ≤0.08/40=0.002\epsilon\le0.08/40=0.002,即单步误差降到 0.2%0.2\%(比原精度高 10 倍)。

(d) 因为「可以规划 25 步」与「可以规划 5 步」在正文的同一个 ϵ\epsilon 下都成立——没说误差模型的步数没有信息量;而实践中误差会从「像随机」转向「像系统」(轨迹偏离训练分布后同向叠加),所以必须按更保守的那一支做预算,这也是实践普遍采用「短 rollout + 频繁重规划 + 把模型当先验而非唯一依据」的原因(例 6.6.2)。

评分:(a) 4 分(两式各 1 分 + 两值各 1 分);(b) 2 分;(c) 2 分(须给出 0.2% 或 0.002);(d) 2 分(须提到「两个模型给出不同答案」或「必须保守」)。

第四部分 · 开放题(2 题 × 10 分 = 20 分)

19.(10 分) 你收到一份「新模型更强」的评审材料,全部内容只有五条:① 在公开榜单 X 上排名第一;② 分数为单次运行结果;③ 材料写「已确认无污染」;④ 没有成本与延迟数据;⑤ 没有回滚方案。 要求:(a) 按四道闸门逐条指出这份材料缺什么;(b) 写出你会要求补充的三份材料;(c) 给出你的决策与至少三条可测量的失败判据。

解答

(a) 逐条过闸门:

闸门 材料现状 缺什么
① 匹配性 只有公开榜单名次 榜单能力与我们的任务是否因果相关(例 6.7.1 的 (b):知识与偏好都更优的模型,在唯一与代码修复相关的指标上落后 11 个点,按平均分会选错)
② 污染 一句「已确认无污染」 污染的三条路径(直接 / 近似 / 间接)都无法用一句话排除;「无污染」是无法被证明的论断,需要时间切分 / 私有题集 / 扰动改写 / n-gram 比对记录(6.7.2)
③ 稳定性 单次分数 均值 ± 方差、多种提示、配对比较;两处独立方差各约 1.5 个点即可合成约 2.1 个点的标准差,名次差可能落在噪声里(6.7.3)
④ 可用性 什么都没有 成本与延迟的 P95、低置信时的行为(弃答通道与阈值)、版本化配置与回滚演练(6.7.5)

(b) 要求补充的三份材料(示例):① 在自建小测集上的逐题配对结果(含提示模板、采样次数、抽取规则、多种子);② 一份污染控制声明:训练/评测去重比对记录 + 时间切分或扰动版分数落差;③ 一份部署侧实测:P95 延迟、每千次调用成本(按 P95 token 数而非均值核算)、弃答策略与回滚演练耗时。

(c) 决策与失败判据:在补齐材料前,决策是不上线(材料不足以支撑任何能力主张)。三条可测量失败判据:① 自建集上优势 <&lt; 配对比较的置信区间半宽 → 判为「无差异」,按成本与延迟决策;② 扰动版分数落差 >10&gt;10 个百分点且超过区间宽度 → 按「记忆而非能力」处理;③ 影子流量中输入长度 P95 以上的样本错误率高于旧模型,或回滚演练 >10&gt;10 分钟 → 停止放量。

评分:(a) 4 分(四道闸门各 1 分);(b) 3 分(三份材料各 1 分,需具体可交付);(c) 3 分(决策 1 分 + 三条判据各约 0.67 分,判据须可测量)。

20.(10 分) 场景:要把在线的客服问答模型从旧版换到新版。约束:P95 端到端延迟 ≤1.5\le1.5 s、总成本不增、合规要求「低置信请求必须可转人工」、回滚必须在 5 分钟内完成。 要求:方案 + 理由 + 失败判据 + 验证计划(验证计划里须含版本化清单)。

解答

方案:① 评测与放量:先影子流量(新策略与旧策略并跑同批请求),再 5% → 25% → 100% 金丝雀;每档看四个指标(分数、P95 延迟、每千次成本、拒答率)。② 延迟与成本:稳定内容(系统提示、固定文档、工具 schema)放最前做前缀缓存,易变内容放最后——这是回报最高的两步之一;请求按难度分流(规则 → 小模型 → 大模型/长 CoT),只把难例送进贵的档位;输出上限与超时降级策略显式设定。③ 合规:保留弃答通道并在留出的、与真实流量一致的校准集上确定阈值(阈值选择是业务决策:把转人工比例当成人力成本预算)。④ 回滚:把提示模板、模型版本、检索库版本、阈值参数、工具 schema 全部版本化,演练一次 5 分钟回滚。

理由:延迟与成本主要来自长提示与长输出,而不是模型本身;缓存与分流是回报最高的两步。弃答率与阈值必须一起选,否则「合规」只是一句口号。回滚若只切模型权重而保留新提示,常常无法恢复旧行为——系统状态是多组件的。

失败判据(可测量):① 前缀缓存命中率 <50%&lt;50\% → 先修请求结构;② 新策略在长尾输入(长度 P95 以上)上的错误率高于旧模型 → 停止放量;③ 弃答率超过业务可承受的转人工预算,或低置信样本没有转人工路径 → 不满足合规,不得上线;④ 回滚演练 >5&gt;5 分钟 → 先修回滚;⑤ 成本按均值估算而上线后超支 → 说明核算口径错误(必须按 P95)。

验证计划(含版本化清单):① 上线前——影子流量一周,记录四项指标与输入分布;② 上线后——每日抽样人工评审 + 盯行为指标(拒答率、解析失败率、工具调用失败率、输入长度分布),因为准确率下降是结果、行为指标是早期信号;③ 版本化清单——提示模板、模型版本与参数、检索库快照、阈值、缓存策略、工具 schema,全部进变更日志;④ 异常处置——先回滚配置(而非只回滚权重),再定位(6.7.5、6.7.6)。

评分:方案 4 分(缓存与分流 2 分 + 弃答与合规 1 分 + 回滚 1 分);理由 2 分;失败判据 2 分(须可测量);验证计划 2 分(须含版本化清单)。

评分标准

部分题量分值给分要点
一 · 概念判断1030判断 1 分 + 理由 / 反例 2 分;只写对错得 1 分
二 · 填空简答520结果正确 2 分 + 关键说明 2 分;数错一处扣 1 分
三 · 推导计算330首行或公式 3 分 + 链条完整 4 分 + 前提与讨论 3 分;只写结论最多 3 分
四 · 开放题220方案具体 4 分 + 判据可测量 4 分 + 验证计划 2 分

段位换算:≥90\ge90 优秀(能给别人讲清争议的两方);75 ⁣− ⁣8975!-!89 良好(能独立设计一个小评测并做出部署判断);60 ⁣− ⁣7460!-!74 及格(概念清楚但推导与判据不牢);<60&lt;60 回到习题集对应组重做。

自评纪律:① 判断题的理由必须含机制词(PPL 不可比、量级锚点、度量不连续、错误相关性、可验证面、压缩率、接缝、Observation 的外部性、污染不可证明、P95 等),否则按半对给 1 分;② 推导题凡是跳过前提(如没写「固定训练算力下」)的,从「前提与讨论」里扣 1 分;③ 开放题只写方案不写失败判据的,第四部分上限 6 分。

漏点定位表

最后一句:这门课的前沿部分不承诺「今天对的明天还对」,它承诺的是读法——看到的每一个数字,先问它是在什么条件下、用什么口径得到的;看到的每一个「突破」,先过四道闸门。凡是「写得出来但讲不清机制」的地方,回到对应节的 intuition 与闭卷回忆卡当天再练一遍。