这套书记录的是一类具体的争论:一个团队已经有了模型、有了接口、也有了一个能跑的 Demo,接下来该不该信它、该把它放到什么位置、坏了怎么办。
这些问题在工程书里通常被一句话带过——“根据业务需要设计”。但实际做的时候会发现,“业务需要"正是最难的部分:业务方说要自动化,法务说要留痕,客服主管说不能没有人工确认,财务问一次调用多少钱。每句话都对,合在一起就互相矛盾。
本书试图把这些矛盾拆成可以逐个回答的问题。
一、本书怎么来的
写这套书的直接原因,是站内已经有几套与 Agent 相关的书,但没有一套从"原理"的视角回答"为什么这样做才成立”。
- 《AI Agent 开发》三卷从零写一个 Agent 引擎,再把它生产化,最后对比主流框架;
- 《互联网产品的 AI 架构》四卷处理网关、路由、编排、治理这些后端问题;
- 《AI Agent 产品开发》三卷处理任务选型、自主度、放量这些产品问题;
- 《AI Agent 游戏产品开发》一卷处理游戏垂直的实时、公平与玩家信任。
四套书各自完整,但它们之间的接缝正好是工程负责人每天要回答的问题:这个模型能做什么、不能做什么、边界在哪里。这个接缝没有人写,于是有了本书。
写作过程中反复出现的一个困难是:原理很难被验证。所以本书做了一个取舍——每个结论都必须能挂到一条主线上,并且有出处或实验。这就带来了三条工作负载和一套实验工程。
二、写给谁
| 读者 | 建议从哪里开始 | 你能得到什么 |
|---|---|---|
| 技术负责人 / 架构师 | 卷一第 1–3 章、卷三第 1–3 章 | 判断一个 Agent 方案在什么条件下成立的判据 |
| Agent 工程师 | 卷一第 4–9 章、卷二第 1–5 章 | 理解为什么有的写法会失效、边界在哪 |
| 模型平台 / MLOps | 卷一第 4、11–12 章 | 延迟、成本、回放、路由的量化模型 |
| 研究者 / 进阶读者 | 卷二第 5–11 章 | 决策、记忆、学习的理论化处理 |
| 安全 / 治理工程师 | 卷三第 4、11–13 章 | 隔离、容错、安全、决策记录的架构依据 |
不需要先读《AI Agent 开发》。本书只在必要处引用它的结论,不依赖其中的代码。
三、三卷的分工
| 卷 | 卷名 | 回答的问题 | 交付物 |
|---|---|---|---|
| 一 | 模型、推理与能力边界 | 模型能做什么、不能做什么、如何证明 | 能力卡 + 边界清单 + 评测集 |
| 二 | 决策、记忆与学习 | Agent 如何选择动作、如何记住、如何学习 | POMDP/策略/终止条件 + 反事实实验 |
| 三 | 运行时、协议与系统架构 | 动作如何被可靠执行、恢复与治理 | 状态机/事件日志/幂等键 + 故障注入 |
三卷可以按顺序读,也可以只读一卷。但卷三的很多结论依赖卷一的边界与卷二的决策,跳读时建议至少先看 1.1、2.1、9.1、13.1 四节。
四、三条工作负载
全书只用三条工作负载做实验载体,它们是三类约束的代表,不是真实客户:
| 编号 | 名称 | 任务定义 | 时间跨度 | 可逆性 | 可验证性 |
|---|---|---|---|---|---|
| W1 | 检索问答 | 从内部文档回答事实问题并给出引用 | 3–8 步 | 只读,可重试 | 引用与原文可核对 |
| W2 | 代码修复 | 修复可复现 bug 并跑通指定测试 | 10–40 步 | 写分支,可回滚 | 测试通过/失败可判定 |
| W3 | 运维处置 | 根据告警执行一次重启或扩容 | 2–6 步 | 不可逆,需审批 | 健康检查可判定 |
三条负载的设定是教学假设,不是实测数据,也不对应任何真实公司。它们的作用是让同一套原理在三种约束下都能被算一遍:如果一条原理只对一种负载成立,它就不是原理,是特例。
所有数字集中在每卷的附录 B。正文引用的任何参数、阈值、成本,都能在附录 B 找到原值或由它的公式算出。三卷之间不另设第二套数字。
五、数字与代码口径
数字口径
- 卷一的延迟、显存、成本模型使用教学参数(见附录 B),不是供应商实测;
- 卷二的 POMDP、MDP 实验使用教学设定值,可复现;
- 卷三的故障注入使用确定性脚本,可重跑;
- 所有"p95 ≤ X"这类预算都是任务级约束,不是全系统承诺;
- 百分比保留一位小数,金额整数或一位小数。
代码口径
正文的 python 代码块来自实验工程 agp-lab,与源文件逐字节一致:
- Python 3.9+,零第三方依赖,只用标准库;
- 每个代码块前三行固定为
# file:、# tier:、# verify:,分别指明源文件、可运行层级、验证命令; - 测试用
unittest,不引入任何测试框架; - 实验工程位于
private/labs/agp-lab/,每个模块可独立运行。
代码的职责不是实现 Agent,而是把原理变成可验证的判断:给定负载,算出这个设计在什么条件下成立、在哪里会坏。
六、不在本书范围内
为了避免重复,以下内容本书只给结论并链接,不展开:
- Agent 引擎的消息协议、循环、工具注册实现 —— 见《AI Agent 开发》卷一;
- 生产化的 API、队列、数据库、评测流水线 —— 见《AI Agent 开发》卷二;
- 框架选型、durable execution、A2A —— 见《AI Agent 开发》卷三;
- 模型网关、多模型路由、编排执行图、治理与配额 —— 见《互联网产品的 AI 架构》四卷;
- 任务规格、自主度、人机分工、放量 —— 见《AI Agent 产品开发》三卷。
七、怎么读
如果只有两个小时,读这三节:
- 1.1 原理地图:四层技术栈与三条主线 —— 知道这套书在讲什么、怎么组织;
- 2.1 自回归生成:条件概率、采样与停止 —— 知道模型输出的本质是采样,而不是"思考";
- 13.3 卷一收口:能力模型评审 —— 知道能力边界怎么被检查。
如果要做一次完整的能力模型评审,按卷一的 13 章顺序走一遍,用附录 C 的清单打分。阻断项优先于总分——任何一项阻断项未满足,无论总分多高都不能通过。
现在从第 1 章开始。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。