$p_\theta(\boldsymbol x)=\prod_{t=1}^{T}p_\theta(x_t\mid x_{\lt t})$，训练目标为平均负对数似然 $\mathcal L(\theta)=-\frac1T\sum_t\log p_\theta(x_t\mid x_{\lt t})$（即词表上的交叉熵）。「自监督」指监督信号来自数据本身：第 $t$ 个位置的标签就是文本中真实出现的第 $t$ 个 token，因此任何网页 / 书籍 / 代码 / 对话都能变成样本，不需要人工标注（定义 6.1.1）。（✓ / △ / ×）

$\mathrm{PPL}=\exp\bigl(-\frac1T\sum_t\log p_\theta(x_t\mid x_{\lt t})\bigr)=e^{\mathcal L}$：读作「模型每一步平均在多少个等可能的 token 之间犹豫」（$1$ 是完全确定、$V$ 是均匀乱猜）。由命题 6.1.1，$\mathrm{PPL}=2^{H_2(q)}$，底‑2 对数就是每 token 的比特数；$\mathcal L=0.693$ nat $\Rightarrow \mathrm{PPL}\approx2$、每 token 约 1 比特（定义 6.1.2）。（✓ / △ / ×）

从 256 个 UTF-8 字节出发，反复执行贪心合并 $(a,b)^\star=\arg\max \mathrm{count}_\mathcal C(ab)$ 直到词表达目标规模（现代 LLM 常取 $V\in[3\times10^4,2\times10^5]$）。字节级意味着词表建立在字节上，任意字符串都可编码，故无 UNK。编码时按学到的合并规则顺序贪心切分，不再全局最优，因此同一文本在不同实现下可能切分不同（定义 6.1.4）。（✓ / △ / ×）

$\text{bytes}=2\,B\,L\,n_{\text{layer}}\,n_{\text{kv}}\,d_h\,b$：系数 $2$ 是 K 与 V，$B$ 批大小、$L$ 序列长度、$b$ 每元素字节数。随 $L$ 线性增长（而算长上下文的代价随 $L$ 平方增长）。手段：GQA/MQA 降 $n_{\text{kv}}$、分页 cache + 前缀缓存复用、KV 量化、滑窗 / sink token、把长文档改为检索（定义 6.1.5）。（✓ / △ / ×）

$L(N,D)\approx L_\infty+\bigl(\frac{N_c}{N}\bigr)^{\alpha_N}+\bigl(\frac{D_c}{D}\bigr)^{\alpha_D}$。$L_\infty$ 是不可约损失：即使 $N,D\to\infty$，损失也不会低于数据本身的熵（自然语言的固有不确定性）。它是经验拟合、不是推导：指数与常数随架构、优化器、数据分布变化，MoE / 合成数据等都会移动指数——记趋势，不背数字（定义 6.2.1）。（✓ / △ / ×）

数据墙：按计算最优配比扩张时，所需高质量自然文本量将超出可获得存量（各类估算差异很大，引用必须注明口径）。合成数据：用模型自身或更强模型生成训练数据。净收益的条件是「有外部信息注入 + 有验证器」——真实数据锚点（改写已有文档）、可执行检查（跑测试）、检索核对事实；此时它扮演形态转换器。无筛选地递归自产自收则放大偏差、塌缩多样性（定义 6.2.2）。（✓ / △ / ×）

ICL 不更新任何参数，只在输入前缀里给出 $k$ 个示范，让模型在一次前向中依据前缀改变行为（$k=0$ 为零样本、$k$ 不大为少样本）；形式上是 $\arg\max_y p_\theta(y\mid\text{前缀})$。差别：ICL 的「学习」发生在前向条件化里（权重冻结，本质是定位并调用预训练已装的子程序），微调发生在参数更新里。因此 ICL 不能凭空创造预训练里没有的知识（定义 6.3.1）。（✓ / △ / ×）

对同一问题采样 $k$ 条带温度的完整推理路径，对最终答案做统计取出现次数最多者：$\hat y=\arg\max_a\sum_i\mathbf 1[y^{(i)}=a]$。它把「一条长链一路正确」（要求极高、容错极差）替换为「多条链中多数落到同一答案」（多数表决）。前提是错误在链之间不相关；且只对有确定答案的任务成立（定义 6.3.3）。（✓ / △ / ×）

$\mathcal L_{i\to t}=-\log\frac{\exp(\mathrm{sim}(\boldsymbol u_i,\boldsymbol w_i)/\tau)}{\sum_{j=1}^{B}\exp(\mathrm{sim}(\boldsymbol u_i,\boldsymbol w_j)/\tau)}$，再对称做一遍 $t\to i$（两者相加除以 2）；$\tau$ 是可学习温度。把 $B$ 个配对排成 $B\times B$ 相似度矩阵，对角线是正例、其余全是负例，因此 $B$ 越大负例越多、任务越难、表征越好——有效批大小可用负例缓存与跨卡交换扩大（定义 6.4.1）。（✓ / △ / ×）

VLA 以视觉观测与语言指令为输入，直接输出低层动作（常是一段动作块 $a_{t:t+H}$），站在大模型语义骨干上。动作分块：一次前向输出 $H$ 步动作，执行时按控制频率依次下发。必需性来自频率算术：单步闭环下两次决策至少间隔一次前向时间（$0.15$ s $\Rightarrow 6.7$ Hz），远低于控制回路要求的 50 Hz；分块后执行侧仍是 50 Hz、等效控制频率恢复，代价是块间接缝（定义 6.5.1、例 6.5.1）。（✓ / △ / ×）

预训练学全部人类文本的概率分布（含「怎么流畅地说错话」）；SFT 教照做（只对回答 token 算损失）；偏好对齐移动概率质量（把有用且守规的抬上去、把有害或敷衍的压下去），改的是倾向而非注入知识。跳过 SFT 不成立，是因为 DPO 类方法的参考模型默认是 SFT 后的模型——没有它就没有可锚定的起点（方法 6.1.1、6.1.2）。（✓ / △ / ×）

① 成本：按 token 计费、注意力按 token 平方增长（同一段中文在不同分词器下 token 数可相差近一倍）；② 有效长度：窗口按 token 计，所以「容量」随语言不同而不同；③ 多语言公平：英文主导的词表使稀有语言要更多 token 表达同一意思，等于被收更高费用、拿更短窗口。因此改词表能降低服务成本、扩大有效窗口、改善小语种可用性而不改模型能力——但它不改变推理速度（参数量与每 token 计算量未变）（6.1.3）。（✓ / △ / ×）

① 架构改动的影响是全局的（要重训才能验证），数据改动的验证成本低（小规模消融可先看方向）；② 历史经验显示数据侧的收益常常更大（质量过滤与去重通常比换架构微调的一次性收益更大）；③ 更关键的是数据问题会伪装成架构问题——「模型学不会多步推理」可能只是训练集里没有足够的分布中样例，「代码能力差」可能只是代码占比太低或去重过度。先诊断数据，再改模型（6.2.5）。（✓ / △ / ×）

Kaplan：固定算力下大部分算力应投入参数，数据可相对少（$N^\star\propto C^{0.73}$）；Chinchilla：参数与数据等比例扩张，此前的模型普遍参数过大、数据不足（$N^\star\propto D^\star\propto C^{0.5}$，等价于 $D\approx20N$）。方法差异：Chinchilla 在同一批学习率调度下把每个点训到近乎收敛再比较，而 Kaplan 未把所有训练跑到各自的损失平台。再次修改的原因：① 目标函数变了（工业界最小化总拥有成本而非训练损失，多花训练算力换更小模型更划算）；② 数据管线进步改变了最优点；③ 评测导向——下游表现并不与训练损失严格共变（方法 6.2.1、6.2.2）。（✓ / △ / ×）

① 长思维链——花在序列长度（自回归解码步数），适合单题深推理、形式化推导；② 多采样投票——花在采样条数 $k$，适合有确定答案且 $p\gt0.5$ 的任务；③ 搜索 + 验证器重排——花在验证器调用次数 + 搜索宽度，适合可分步验证的结构化任务。共同点是「用推理期算力换准确率」，区别是维度不同；第 ③ 条的命门是要有可靠验证器（没有它就退回不可靠的自我打分）（定义 6.3.4、6.3.3）。（✓ / △ / ×）

突破：奖励来自可判定的检验（答案比对、测试用例、形式化检查器），$r\in\{0,1\}$ 或分段值，不需要训练奖励模型——大规模 RL 第一次有了稳定目标。天花板：能验证什么就能学什么，可验证面之外的能力不涨；且存在奖励可钻性（规格博弈：写死期望值、跳过边界用例）。蒸馏用强模型的推理轨迹 + 普通 SFT 把小模型教会，不需要 RL、不需要验证器，工程上便宜稳定，但学生的上限由教师水平与轨迹数据量共同决定——它没有产生新能力，且会让小模型继承教师的「啰嗦」（评估时必须同时报平均 token 消耗）（定义 6.3.6、6.3.5）。（✓ / △ / ×）

连接器往往只是一个 MLP 或一组查询向量（336² 图、$d_v=1024\to d=4096$ 时约 $4.2$ M 参数，仅 7B 的 $0.06\%$ 量级）；视觉 token 才是大头：336² 一张图 $=576$ 个 token，是文本提示的 2.9 倍，提到 1008² 就到 $5184$。分辨率决定「看得到多细」，压缩率决定「细粒度信息能带进 LLM 多少」——编码器看清楚了却在压缩时扔掉，等于没看清。所以「换个更强编码器」不一定提升 VLM，先要找到瓶颈在哪一侧（例 6.4.2、6.4.3）。（✓ / △ / ×）

四重错配：输出空间（词表离散分布 vs 连续有量纲多自由度向量）、速度（控制回路 10–100 Hz vs 模型前向 100 ms 量级）、时间尺度（一个语义步骤 = 数百个控制步）、错误代价（物理动作不可撤销）。两条路线：动作离散化（RT-1 → RT-2 → OpenVLA）换来语义迁移与指令泛化，代价是精度上限 + 序列长度；连续生成（Diffusion Policy → π0 流匹配）换来多峰动作分布与精细操作，代价是采样步数与实时性。粗动作（导航）用离散更划算，精细操作（插拔、装配）用连续更合适（6.5.2、方法 6.5.3）。（✓ / △ / ×）

更难：判定依赖真实执行——补丁必须让仓库的隐藏测试通过，你没法「记住」一个补丁能否通过，因为那取决于真实代码库状态；造假成本高。仍有的漏洞：① 测试覆盖不足时可写「让测试通过但不修根因」的补丁（规格博弈）；② 任务来自公开仓库，题目与修复可能已出现在训练数据里（污染）；③ 环境依赖使分数不稳、可复现性成本极高。所以判据应落到任务是否真的完成，而不是「测试是否通过」（6.6.6）。（✓ / △ / ×）

缓存与分流。缓存同时改善成本（不重复计算）、首 token 延迟（跳过 prefill）与吞吐（共享前缀可批处理），唯一实现纪律是顺序：稳定内容放前面、易变内容放后面（把用户问题放在系统提示之前会让命中率掉到接近零）。分流把请求按难度分层（规则 / 小模型先判 / 置信度阈值），只把难例送进大模型或长思维链——与「按难度分配测试时算力」是同一策略，只是决策点放到了系统层（6.7.5）。（✓ / △ / ×）

$p_\theta(\boldsymbol x)=\prod_{t=1}^{T}p_\theta(x_t\mid x_{\lt t})$，$\mathcal L(\theta)=-\frac1T\sum_{t=1}^{T}\log p_\theta(x_t\mid x_{\lt t})$（词表 softmax + 交叉熵）。SFT 版本只累加回答位置：$\mathcal L_{\mathrm{SFT}}=-\frac1{|\mathcal A|}\sum_{t\in\mathcal A}\log p_\theta(y_t\mid\text{指令},y_{\lt t})$（定义 6.1.1、定义 6.1.3）。（✓ / △ / ×）

$\mathbb E_p[-\log_2 q]=H(p)+D_{\mathrm{KL}}(p\lVert q)\ \text{比特}$（$q$ 为模型、$p$ 为真实分布；$D_{\mathrm{KL}}\ge0$，$q=p$ 取等）；$\mathrm{PPL}=e^{\mathcal L}=2^{H_2(q)}$（命题 6.1.1）。（✓ / △ / ×）

$\text{bytes}=2\,B\,L\,n_{\text{layer}}\,n_{\text{kv}}\,d_h\,b$（随 $L$ 线性）；注意力计算量每层 $\mathcal O(L^2d)$（随 $L$ 平方）。10 万 token、80 层、$n_{\text{kv}}=8$、$d_h=128$、BF16、$B=1$ $\Rightarrow\approx33$ GB（定义 6.1.5）。（✓ / △ / ×）

$L(N,D)\approx L_\infty+(N_c/N)^{\alpha_N}+(D_c/D)^{\alpha_D}$；$C\approx6ND$（前向 $2ND$ + 反向 $4ND$）；$D\approx20N$；代入后 $C\approx120N^2$ 可反解：$N=\sqrt{C/120}$、$D=20N$。例：$C=2.4\times10^{22}\Rightarrow N\approx14.1$B、$D\approx283$B（定义 6.2.1、例 6.2.2）。（✓ / △ / ×）

多步全对：$\mathrm{Acc}=p^{k}$（$p$ 平滑上升也会造出台阶）。多数投票（$k$ 条链、至少 $\lfloor k/2\rfloor+1$ 条正确）：$P=\sum_{j\gt k/2}\binom{k}{j}p^{j}(1-p)^{k-j}$；$p=0.4,k=5\Rightarrow0.317\lt0.4$（投票更差），$p=0.6\Rightarrow0.683$（例 6.2.3、例 6.3.2）。（✓ / △ / ×）

$\hat A_i=\dfrac{r_i-\operatorname{mean}(r_1,\dots,r_G)}{\operatorname{std}(r_1,\dots,r_G)}$，$i=1,\dots,G$；其余仍是带裁剪的重要性采样目标并保留对参考模型的 KL 惩罚。省掉的是与策略同规模的价值网络（critic），代价是用一组采样来估计基线（定义 6.3.6）。（✓ / △ / ×）

$N_v=\dfrac{H}{p}\times\dfrac{W}{p}$（$p$ 为 patch 边长）：$336^2/p{=}14\Rightarrow576$；$672^2\Rightarrow2304$；$1008^2\Rightarrow5184$（随边长平方增长）。单层线性连接器参数量 $=d_v\times d$（$1024\times4096\approx4.19$ M）（例 6.4.2）。（✓ / △ / ×）

$\boldsymbol a_t=(1-t)\boldsymbol\varepsilon+t\boldsymbol a$，$\mathcal L=\mathbb E_{t,\boldsymbol\varepsilon}\lVert v_\theta(\boldsymbol a_t,\boldsymbol o_t,\ell,t)-(\boldsymbol a-\boldsymbol\varepsilon)\rVert^2$，采样时解 ODE 从 $t=0$ 积到 $t=1$。它用多步生成过程表示多峰动作分布，避免单峰（高斯）策略把双峰最优解平均成「撞向障碍」（定义 6.5.2）。（✓ / △ / ×）

独立随机误差：$e_H\approx\epsilon\sqrt H$；系统性偏差：$e_H\approx\epsilon H$。$\epsilon=0.02$、容差 $10\%$ 时分别给出 $5$ 步与 $25$ 步；$\epsilon=0.005$ 时给出 $20$ 步与 $400$ 步。任何「可规划 $H$ 步」都必须连带报告误差模型（例 6.6.2）。（✓ / △ / ×）

$\mathrm{ECE}=\sum_{b}\frac{n_b}{n}\bigl|\mathrm{acc}(b)-\mathrm{conf}(b)\bigr|$（按置信度分箱、样本数加权）；风险—覆盖曲线：阈值 $\tau$ 越高 → 覆盖率越低、作答子集错误率越低。正文例：三箱（$40/100/60$、conf $0.60/0.80/0.95$、acc $0.45/0.72/0.90$）$\Rightarrow\mathrm{ECE}=0.085$；$\tau=0.9$ 时覆盖 $30\%$、错误率 $10\%$；$\tau=0.7$ 时覆盖 $80\%$、错误率 $21.25\%$（定义 6.7.3、例 6.7.4）。（✓ / △ / ×）

两处都错。① PPL 只在同一 tokenizer、同一去重程度下可比，且重复数据可人为压低它（$2.0\to1.33$）——跨分词器比较要改用每字节比特数（BPB）（6.1.1、例 6.1.1）。② 上下文学习不改参数：它是把预训练已有的子程序调出来（条件化 / 检索），不是监督学习；对词表外的新概念没有任何通道（定义 6.3.1）。（✓ / △ / ×）

两处都错。① 缩放律是经验拟合：常数与指数随架构、数据、优化器变化，旧曲线不能搬；能外推的只有趋势（6.2.1）。② 反向过度解读：度量论证说明的是曲线形状可以由不连续度量产生，不是「规模无用」；规模依然平滑提升底层能力，被证伪的只是最激进的机制主张（6.2.4）。（✓ / △ / ×）

两处都错。① CoT 不保证忠实：模型可能先「倾向」某答案、再组织理由；审计要靠外部信号（6.3.2）。② 长度与正确率不单调：超纲题只会产出更长的错误论证（且更不易察觉），已会做的题无增益，成本线性以上（6.3.6）。（✓ / △ / ×）

两处都错。① $p\lt0.5$ 时多数投票劣于单链（$0.317\lt0.4$）；错误相关时收益被吃掉甚至转负（$0.683\to0.478$）；$k$ 越大收益递减（例 6.3.2）。② 训练奖励是代理：奖励上升而真实质量先升后降是结构性现象（奖励模型是有损压缩）；必须看独立于奖励模型的评测，并把优化强度当超参（定义 6.3.7）。（✓ / △ / ×）

两处都错。① 它对齐的是表示，可能大量依赖文本先验与共现统计；细粒度空间关系、计数、小字、罕见组合上常出错，幻觉的四个来源（语言先验、信息损失、数据偏差、解码目标）里有两个与「看见」无关（6.4.6）。② 若压缩率过高，编码器看清的细节传不进 LLM——先判断瓶颈在「看不清」还是「没传进去」（6.4.3）。（✓ / △ / ×）

两处都错。① 分箱给动作精度设了不可逾越的上限，且按维度依次预测引入顺序依赖（6.5.2）。② 模仿学习对动力学失配极其敏感，域随机化能缓解但不能消除；仿真应作为放大器而非替代品（6.5.5）。（✓ / △ / ×）

两处都错。① 框架解决的是管道（重试、超时、并发、可观测性），不解决能力；要问「我缺的是能力还是管道」（6.6.5）。② 同源自评（评价者=被评价者）会放大偏差，给错误结论盖「已验证」的章；只有当依据来自模型之外（测试、检索、人工确认）时反思才有修正力（6.6.4）。（✓ / △ / ×）

两处都错。① 污染的主要来源是近似泄漏、间接泄漏与输出回流，都不需要「主动放入」；「无污染」无法被证明，只能降低风险（6.7.2）。② 榜单排名会因提示格式、few-shot 数、采样策略剧烈变化，且被刷榜的概率最高；在自己任务上的小规模对照实验比榜单可靠（6.7.2 的误读 3）。（✓ / △ / ×）