第 6 讲 · 综合自测卷(100 分 · 建议 60 分钟)
闭卷计时;做完先按文末评分标准自评,再按漏点定位表回查。 范围:本讲 6.1–6.7 与导览。题目与习题集尽量不重叠(个别概念在不同角度出现,已在答案里注明);凡概念判断题,只写对错不给分,必须给理由或反例。
时间分配建议:第一部分 分钟(每题约 秒)→ 第二部分 分钟 → 第三部分 分钟(推导题宁慢勿跳步)→ 第四部分 分钟(每题 分钟,四项写全)。留最后 分钟只做一件事:回头检查第一部分的十道判断里有没有只写了对错的。
- 判断要带机制词:写「错」不给分;写「错,因为 PPL 只在同一 tokenizer 与同一去重程度下可比」才拿满。本讲的机制词有:压缩码长、去重、计算最优、量级锚点、度量不连续、错误相关性、可验证面、序列长度换计算深度、压缩率、动作分块、Observation 的外部性、复合误差、污染不可证明、配对比较、P95。
- 前提不能省:说缩放律要跟上「经验拟合 / 固定算力」;说 KV cache 要跟上「精度、层数、KV 头数」;说「涌现」要跟上「在哪一种度量下」。
- 公式要能自己推:推导题按步给分,只写结论最多 分。
- 工程题给判据:凡涉及取舍,必须写失败判据与验证计划,否则第四部分上限 分。
第一部分 · 概念判断(10 题 × 3 分 = 30 分)
1. 同一段中文在词表 A 下被切成 600 个 token、在词表 B 下被切成 320 个 token,说明 B 的模型推理更快。
解答
答案:错。 变的只是编码粒度,参数量与每 token 计算量都没变——「每秒 token 数」在两个 tokenizer 之间不可比。改词表的真实收益是成本、有效窗口、小语种公平性(例 6.1.3)。给分:判断 1 分 + 理由 2 分(须区分「token 数」与「计算量」)。
2. 为了让模型更好地理解提问,SFT 时应把指令部分的 token 也计入损失。
解答
答案:错。 推理时指令由用户给定,无需模型预测;把指令计入损失会让模型学习「生成用户的问题」,浪费容量并诱发回答中复述指令。掩掉指令损失等于声明「输入是条件,输出才是建模的随机变量」(定义 6.1.3 后的解释)。给分:判断 1 分 + 理由 2 分。
3. 既然 Chinchilla 给出了 ,那么按这个配比堆规模就是「正确答案」,不必再讨论目标函数。
解答
答案:错。 是特定拟合下的量级锚点;「最优」永远相对于目标函数——最小化训练损失、最小化总拥有成本、最小化推理延迟给出三个不同答案。业界普遍主动超出该配比(把训练算力换成部署阶段的推理节省),这叫「推理最优」而非「训练最优」(6.2.2)。给分:判断 1 分 + 理由 2 分(须提到「相对于目标函数」或「推理最优」)。
4. 涌现既然可能只是度量造成的假象,就说明继续扩大模型规模没有意义。
解答
答案:错。 这是反向的过度解读:度量论证说的是曲线形状可以由不连续度量产生,不是「规模无用」。规模依然平滑地提升底层能力,只是「平滑」不等于「无用」;已被证伪的只是最激进的机制主张(6.2.4 的误读 2)。给分:判断 1 分 + 理由 2 分。
5. 推理 token 越多,答案越可能正确,因此长思维链应当对所有请求默认开启。
解答
6. RLVR 让模型在数学与代码上大幅变强,说明它已经学会了「通用推理」,可以外推到法律判断。
解答
答案:错。 可验证奖励只在可验证面上提供梯度:「能验证什么,就能学什么;不能验证的,就学不到。」外推到不可验证任务需要证据,而不是期待;强行外推要么造出劣质代理奖励(然后被钻空子),要么退回人类偏好模型(6.3.5)。给分:判断 1 分 + 理由 2 分。
7. OCR 类任务上,把 VLM 的连接器加宽、或换一个更强的视觉编码器,一定能提升准确率。
解答
8. 动作分块只是把控制频率「降下来」的工程妥协,与动作精度无关。
解答
答案:错。 动作分块的作用是把模型前向(低频、慢)与控制执行(高频、快)分成两个时间尺度:单步闭环的决策频率被前向延迟锁死( Hz),分块后执行侧仍是 Hz、等效控制频率恢复(例 6.5.1)。它引入的新问题不是精度,而是块与块之间的接缝(不一致、抖动)。给分:判断 1 分 + 理由 2 分。
9. ReAct 循环里的 Thought 与 Observation 都是模型生成的文本,所以循环并没有带来新信息。
解答
答案:错。 Observation 不由模型生成,它由外部系统返回(工具返回值、报错、文件内容),是模型无法伪造的信息通道——这正是 ReAct 与「让模型自己编一整套推理」的实质差别,也是它能获取外部信息、拿到真实错误的前提(定义 6.6.1)。给分:判断 1 分 + 理由 2 分。
10. 用 LLM 当裁判(LLM-as-judge)比人工便宜好几个数量级,因此不需要做偏差校正与人工抽样校验。
解答
第二部分 · 填空与简答(5 题 × 4 分 = 20 分)
11. 写出三段式流水线三个阶段各自的数据形态与损失/目标,并用一句话说明 SFT 为什么要 mask 指令 token。
解答
12. 某模型 、训练 token 数 。按 判断它处于什么状态?给出算式,并回答「数据是不是越多越好」。
解答
13. 写出 KV cache 的显存公式并估算:、、、、BF16、单会话()。再给两个把该数字压下来的手段。
解答
14. 一张 的图像按 的 patch 编码会占用多少视觉 token?若上下文预算只有 4000 token,给出两条可行手段并说明各自代价。
解答
15. 用一句话各写出四类评测(知识多项选择 / 全景矩阵 / 真实任务执行 / 人类偏好)的主要失效方向,并说明「模型选型至少覆盖三类」的理由。
解答
答案:① 知识多项选择(MMLU / GPQA / HLE)——易被记住、易饱和、易污染(答案空间小、题面与答案在网上);② 全景矩阵(HELM / BIG-bench)——计算与维护成本高、每个场景覆盖浅,且容易被选择性报告;③ 真实任务执行(SWE-bench / WebArena / OSWorld)——测试覆盖不足可被绕过、环境依赖导致可复现性差、评测成本高;④ 人类偏好 / LLM 裁判(Arena / MT-Bench)——位置偏差、长度偏差、风格偏好,可被「讨喜」策略优化(方法 6.7.1)。必须看组合是因为它们失效方向不同、互为对照:只看一类会系统性高估某一侧面,且单一榜单的第一名不能作为选型依据。给分:四类各 0.75 分 + 组合理由 1 分。
第三部分 · 推导与计算(3 题 × 10 分 = 30 分)
16.(10 分) 某次预训练预算为 FLOPs(量级示意)。 (a) 按 与 反解 ; (b) 若改用 的配比,同一算力下 变成多少; (c) 说明两个解里哪个是「训练最优」、哪个更接近「推理最优」,并用一句话向非技术同事解释这种取舍。
解答
(a) ,故
(b) ,故 (约 B),(约 B)。校验: ✓ 与 (a) 同算力。
读法:同样的算力下,配比越偏数据,就得到越小的模型与越多的 token——(a) 是「损失最小」意义上的计算最优,(b) 则用更多数据换更小参数。
(c) (a) 是训练最优(在固定训练算力下最小化损失);(b) 更接近推理最优——模型更小,部署阶段每次调用都更便宜、延迟更低。一句话解释:“多花一点训练的钱,换以后每一次调用都更便宜。”前提是训练算力可承受、数据可得,且部署侧的调用量足够大(6.2.2、6.1.7)。
评分:(a) 4 分(代入配比 2 分 + 数值 2 分);(b) 3 分(配比变形 1.5 + 数值 1.5);(c) 3 分(两个「最优」的区分 2 分 + 解释 1 分)。
17.(10 分) 某模型在数学题上的单链正确率 ,现用 的自洽性(多数投票)。 (a) 写出独立假设下多数投票成功率的求和式并算出数值; (b) 若存在 25% 的概率「5 条链会一起犯同一个错」(落入该模式时投票必然错),求期望成功率; (c) 与单链相比,收益如何变化? (d) 给出一句话的工程判据:什么时候该用自洽性。
解答
(a) 多数即至少 3 条正确:
(b) 的概率落入共同错误模式(投票必错),其余 按 (a) 的 :
(c) 独立情形的收益是 个百分点;考虑相关错误后变成 个百分点——不仅收益被吃掉,投票反而劣于单链。这说明自洽性的价值几乎完全由错误相关性决定(例 6.3.2)。
(d) 判据:先估单链准确率与错误的分散程度——单链明显 且不同采样的错误答案分散时才用;若单链 、或错误高度集中在同一个答案(系统性知识缺口),应改为「补信息」(检索 / 微调 / 换模型)而不是加采样;开放写作类任务没有「多数答案」,不适用(定义 6.3.3)。
评分:(a) 4 分(求和式 2 分 + 数值 2 分);(b) 3 分(0.75 权重的构造 2 分 + 数值 1 分);(c) 1 分(指出可转为负收益);(d) 2 分(须含「 与错误相关性」两个条件)。
18.(10 分) 某世界模型的单步预测相对误差为 ,要求 rollout 后状态相对误差不超过 。 (a) 分别按系统性偏差与独立随机误差两种累积模型求最大可用步数; (b) 若把容差放宽到 ,两者各变成多少? (c) 若希望「线性假设下可用步数达到 40 步」,单步误差需降到多少? (d) 用一句话说明为什么这个数字必须连带误差模型一起报告。
解答
(a) 系统性: 步;随机: 步。两者相差 4 倍。
(b) 容差 :系统性 步;随机 步。
(c) 线性假设下 要求 ,即单步误差降到 (比原精度高 10 倍)。
(d) 因为「可以规划 25 步」与「可以规划 5 步」在正文的同一个 下都成立——没说误差模型的步数没有信息量;而实践中误差会从「像随机」转向「像系统」(轨迹偏离训练分布后同向叠加),所以必须按更保守的那一支做预算,这也是实践普遍采用「短 rollout + 频繁重规划 + 把模型当先验而非唯一依据」的原因(例 6.6.2)。
评分:(a) 4 分(两式各 1 分 + 两值各 1 分);(b) 2 分;(c) 2 分(须给出 0.2% 或 0.002);(d) 2 分(须提到「两个模型给出不同答案」或「必须保守」)。
第四部分 · 开放题(2 题 × 10 分 = 20 分)
19.(10 分) 你收到一份「新模型更强」的评审材料,全部内容只有五条:① 在公开榜单 X 上排名第一;② 分数为单次运行结果;③ 材料写「已确认无污染」;④ 没有成本与延迟数据;⑤ 没有回滚方案。 要求:(a) 按四道闸门逐条指出这份材料缺什么;(b) 写出你会要求补充的三份材料;(c) 给出你的决策与至少三条可测量的失败判据。
解答
(a) 逐条过闸门:
| 闸门 | 材料现状 | 缺什么 |
|---|---|---|
| ① 匹配性 | 只有公开榜单名次 | 榜单能力与我们的任务是否因果相关(例 6.7.1 的 (b):知识与偏好都更优的模型,在唯一与代码修复相关的指标上落后 11 个点,按平均分会选错) |
| ② 污染 | 一句「已确认无污染」 | 污染的三条路径(直接 / 近似 / 间接)都无法用一句话排除;「无污染」是无法被证明的论断,需要时间切分 / 私有题集 / 扰动改写 / n-gram 比对记录(6.7.2) |
| ③ 稳定性 | 单次分数 | 均值 ± 方差、多种提示、配对比较;两处独立方差各约 1.5 个点即可合成约 2.1 个点的标准差,名次差可能落在噪声里(6.7.3) |
| ④ 可用性 | 什么都没有 | 成本与延迟的 P95、低置信时的行为(弃答通道与阈值)、版本化配置与回滚演练(6.7.5) |
(b) 要求补充的三份材料(示例):① 在自建小测集上的逐题配对结果(含提示模板、采样次数、抽取规则、多种子);② 一份污染控制声明:训练/评测去重比对记录 + 时间切分或扰动版分数落差;③ 一份部署侧实测:P95 延迟、每千次调用成本(按 P95 token 数而非均值核算)、弃答策略与回滚演练耗时。
(c) 决策与失败判据:在补齐材料前,决策是不上线(材料不足以支撑任何能力主张)。三条可测量失败判据:① 自建集上优势 配对比较的置信区间半宽 → 判为「无差异」,按成本与延迟决策;② 扰动版分数落差 个百分点且超过区间宽度 → 按「记忆而非能力」处理;③ 影子流量中输入长度 P95 以上的样本错误率高于旧模型,或回滚演练 分钟 → 停止放量。
评分:(a) 4 分(四道闸门各 1 分);(b) 3 分(三份材料各 1 分,需具体可交付);(c) 3 分(决策 1 分 + 三条判据各约 0.67 分,判据须可测量)。
20.(10 分) 场景:要把在线的客服问答模型从旧版换到新版。约束:P95 端到端延迟 s、总成本不增、合规要求「低置信请求必须可转人工」、回滚必须在 5 分钟内完成。 要求:方案 + 理由 + 失败判据 + 验证计划(验证计划里须含版本化清单)。
解答
方案:① 评测与放量:先影子流量(新策略与旧策略并跑同批请求),再 5% → 25% → 100% 金丝雀;每档看四个指标(分数、P95 延迟、每千次成本、拒答率)。② 延迟与成本:稳定内容(系统提示、固定文档、工具 schema)放最前做前缀缓存,易变内容放最后——这是回报最高的两步之一;请求按难度分流(规则 → 小模型 → 大模型/长 CoT),只把难例送进贵的档位;输出上限与超时降级策略显式设定。③ 合规:保留弃答通道并在留出的、与真实流量一致的校准集上确定阈值(阈值选择是业务决策:把转人工比例当成人力成本预算)。④ 回滚:把提示模板、模型版本、检索库版本、阈值参数、工具 schema 全部版本化,演练一次 5 分钟回滚。
理由:延迟与成本主要来自长提示与长输出,而不是模型本身;缓存与分流是回报最高的两步。弃答率与阈值必须一起选,否则「合规」只是一句口号。回滚若只切模型权重而保留新提示,常常无法恢复旧行为——系统状态是多组件的。
失败判据(可测量):① 前缀缓存命中率 → 先修请求结构;② 新策略在长尾输入(长度 P95 以上)上的错误率高于旧模型 → 停止放量;③ 弃答率超过业务可承受的转人工预算,或低置信样本没有转人工路径 → 不满足合规,不得上线;④ 回滚演练 分钟 → 先修回滚;⑤ 成本按均值估算而上线后超支 → 说明核算口径错误(必须按 P95)。
验证计划(含版本化清单):① 上线前——影子流量一周,记录四项指标与输入分布;② 上线后——每日抽样人工评审 + 盯行为指标(拒答率、解析失败率、工具调用失败率、输入长度分布),因为准确率下降是结果、行为指标是早期信号;③ 版本化清单——提示模板、模型版本与参数、检索库快照、阈值、缓存策略、工具 schema,全部进变更日志;④ 异常处置——先回滚配置(而非只回滚权重),再定位(6.7.5、6.7.6)。
评分:方案 4 分(缓存与分流 2 分 + 弃答与合规 1 分 + 回滚 1 分);理由 2 分;失败判据 2 分(须可测量);验证计划 2 分(须含版本化清单)。
评分标准
| 部分 | 题量 | 分值 | 给分要点 |
|---|---|---|---|
| 一 · 概念判断 | 10 | 30 | 判断 1 分 + 理由 / 反例 2 分;只写对错得 1 分 |
| 二 · 填空简答 | 5 | 20 | 结果正确 2 分 + 关键说明 2 分;数错一处扣 1 分 |
| 三 · 推导计算 | 3 | 30 | 首行或公式 3 分 + 链条完整 4 分 + 前提与讨论 3 分;只写结论最多 3 分 |
| 四 · 开放题 | 2 | 20 | 方案具体 4 分 + 判据可测量 4 分 + 验证计划 2 分 |
段位换算: 优秀(能给别人讲清争议的两方); 良好(能独立设计一个小评测并做出部署判断); 及格(概念清楚但推导与判据不牢); 回到习题集对应组重做。
自评纪律:① 判断题的理由必须含机制词(PPL 不可比、量级锚点、度量不连续、错误相关性、可验证面、压缩率、接缝、Observation 的外部性、污染不可证明、P95 等),否则按半对给 1 分;② 推导题凡是跳过前提(如没写「固定训练算力下」)的,从「前提与讨论」里扣 1 分;③ 开放题只写方案不写失败判据的,第四部分上限 6 分。
漏点定位表
| 错题 | 回去读 | 立刻补做 |
|---|---|---|
| 1、2、13 | 6.1.3、定义 6.1.3、定义 6.1.5 | 习题 A1、习题 C4;6.1 的即时自测 Q3、Q5 |
| 3、12、16 | 6.2.2、例 6.2.2、方法 6.2.5 | 习题 B2、习题 D2 |
| 4 | 6.2.4、例 6.2.3 | 习题 A3、习题 B3 |
| 5、6、17 | 6.3.2、6.3.3、6.3.5 | 习题 A4、习题 C1、习题 D2 |
| 7、14 | 6.4.2、6.4.3、例 6.4.3 | 习题 C5;6.4 的即时自测 Q3 |
| 8、18 | 例 6.5.1、例 6.6.2、6.6.7 | 习题 B4、习题 C6 |
| 9 | 定义 6.6.1、例 6.6.1 | 习题 A7、习题 D3 |
| 10、15、19 | 6.7.1–6.7.3 | 习题 B6、习题 C2、习题 D1 |
| 20 | 6.7.4–6.7.6 | 习题 C3、习题 D4 |
最后一句:这门课的前沿部分不承诺「今天对的明天还对」,它承诺的是读法——看到的每一个数字,先问它是在什么条件下、用什么口径得到的;看到的每一个「突破」,先过四道闸门。凡是「写得出来但讲不清机制」的地方,回到对应节的 intuition 与闭卷回忆卡当天再练一遍。