Agent 系统工程 · 定制教程
Agent 系统工程
把 agent 当成一个有状态、有工具、有预算、可审计的系统来造:从循环与协议,到沙箱、上下文、评估、安全与治理,最后用两个可运行项目压成工程能力。
4 篇 · 14 章
2 个可运行项目
163 个母本单元逐节覆盖
机制图 / trace / 实验 / 红队
查看依据、边界与前置
CONTENTS / 目录
这本书解决什么问题
一个 agent 出事故,通常不是因为模型「不会」,而是因为系统缺了一层:
- 循环没有预算,跑到天亮;
- 工具没有契约,模型把「读取」当成「修改」;
- 沙箱只做了文件只读,网络却全开;
- 上下文把约束摘要掉了,模型「合理地」违反要求;
- 评估只看最终答案,看不到工具调用错误;
- trace 只有日志,没有 span,出事无法回放;
- 安全靠提示词,治理靠文档。
本书按「机制 → 上下文 → 评估 → 治理」的顺序,把这些层逐一补上。每一章都给出可运行的实验、失败复盘与观测命令;两个项目把所有层拼成一个能跑、能测、能审计的系统。
怎么读
| 你的背景 | 建议路线 | 可以跳过 |
|---|---|---|
| 写过 LLM 应用,没做过平台 | 1–2 → 5–7 → 9–10 → 项目二 → 3–4 → 11–12 | 7.4 的搜索证明细节 |
| 系统/后端工程师 | 1 → 3–4 → 2 → 9–12 → 项目一 | 5.2 的位置偏差实验 |
| 安全/合规工程师 | 1–4 → 11–12 → 项目一 → 9–10 | 6.4 的重排实现 |
| 学生/研究者 | 按章顺序;每章先读定义与失败案例 | 项目二的部署细节 |
三条路线的共同点是:先建立边界,再谈能力。没有边界的 agent,能力越强,事故越大。
两个项目
| 项目 | 你会造什么 | 验收 |
|---|---|---|
| 项目一 · 可沙箱执行的代码 agent | 一个能读文件、改文件、跑测试、受限执行的 agent;带进程组收尸、文件根、egress 拒绝、trace 与红队用例 | 超时能杀干净;越界写入被拒;红队用例全过;trace 可回放 |
| 项目二 · 带评估集的工具调用平台 | 工具注册表、执行器、版本化评估集、多次采样、置信区间、回归门禁与成本/延迟仪表 | 同一评估集可复现;门禁能拦截回归;报告含 CI 与成本 |
两个项目共享同一套 trace 字段与工具契约;项目二可以直接评估项目一的 agent。先做哪个都行,但建议至少把项目一的沙箱 runner 跑通,再做项目二的评估。
与另外两本书的边界
| 主题 | 去哪读 | 本书只做什么 |
|---|---|---|
| 进程、信号、IPC、socket、epoll | 《Linux 系统与内核》第 2 篇 | 在沙箱边界引用;写清 wait status、进程组、超时 |
| namespace、cgroup、seccomp、容器 | 同书第 3/5 篇 | 组合成 agent 沙箱;补 capability/landlock 的次序 |
| TCP/IP、DNS、HTTP | 同书第 4 篇 | 只写 egress 策略、DNS 重绑定、代理边界 |
| 神经网络、注意力、训练 | 《深度学习导论》 | 只引用 token、上下文、成本等工程含义 |
如果你在这本书里看到大段 fork/信号/反向传播的教科书讲解,那是缺陷,不是覆盖。请按 附录 A 覆盖矩阵 回查落点。