设一个系统 $S$ 由开发方 $D$ 构建、由部署方 $P$ 上线、作用于人群 $\mathcal U$。后果外化指：$S$ 的失效成本 $C_{\text{fail}}$ 主要由 $\mathcal U$（以及在链条上无决策权的第三方）承担，而不由 $D$ 或 $P$ 的决策目标承担。形式化地说，$D,P$ 实际优化的目标 $g$ 中不含 $C_{\text{fail}}$ 的项：

$$g_{D}(S)\ \text{或}\ g_{P}(S)\ \not\ni\ \alpha\,C_{\text{fail}}(S,\mathcal U),\qquad \alpha\gt0 .$$

外化不必是恶意的：它常常只是目标函数里没有这一项，而优化器只优化写进去的东西（这一点与 7.2 的对齐缺口是同一个机制在不同层级的表现）。

一段技术工作可以被称为「中立」，当且仅当同时满足：

1. 可替代性：如果我不做，别人能用同样的资源与知识做出等价的东西——即我的工作不是某个特定后果的必要条件；
2. 用途不可预知：下游用途在合理的专业判断下不可预知，而不是「我不去了解」；
3. 影响不集中在特定人群：失效成本不由特定弱势群体不成比例地承担。

三条中任意一条不成立，「中立」的说法就失去了它赖以成立的前提，此时「我只负责实现」在事实上等于把判断义务转移给没有决策权的人。

一条典型的系统链条包含五个角色，每个角色的义务由它所独有的事实性优势决定：

关键点：义务的分配依据是信息与权力的分布，不是「谁离得近谁负责」。每一环都有别人做不到的那件事——数据提供方查不了训练逻辑，模型开发者看不见部署流程，部署者读不懂特征工程。因此责任不能被集中，也不能被平摊。

设系统的真实目标为 $u$，实际被优化的目标为 $g$：

1. 意外失效（accidental failure）：$g$ 与 $u$ 一致，但系统在未覆盖的输入或环境下行为错误。典型成因：分布偏移、分布外样本、对抗扰动、少见组合、传感器或数据管线故障。责任主体多为模型开发者与部署者，对策以评估与监测为主。
2. 滥用（misuse）：系统按设计正常工作，但被用于设计目标之外的目的，包括规避既有约束、放大伤害规模、绕过人工环节。典型成因：能力可被自由调用、权限过大、缺少用途约束与身份核验。对策以访问控制与能力设计为主，评估的作用是估计可被滥用的程度。
3. 系统性偏差（systematic bias）：$g$ 与 $u$ 在人群维度上系统性偏离，且这种偏离在平均指标上不可见。典型成因：数据代表性、标注不一致、代理指标、反馈回路。对策以数据治理与分群度量为主，靠单次评估无法发现。

三者的关系不是并列清单，而是交叠的：一次事故往往同时包含两种（例如被滥用的能力恰好作用在分布外样本上，而被影响的又是一个历史样本稀少的群体）。用这张表的价值是保证三类都至少被检查过一次，而不是把每个失效强行归入一类。