《AI Agent 技术原理与架构·模型、推理与能力边界》前言

本书怎么来的、写给谁、三卷如何分工、三条工作负载是什么、数字与代码口径是什么、哪些内容不在本书范围内——读正文之前需要先知道的六件事都在这一篇里,另附最短阅读路线与一次能力模型评审的走法;最后说明每节代码块与实验工程 agp-lab 的对应关系,以及如何自己重跑每个实验。

这套书记录的是一类具体的争论:一个团队已经有了模型、有了接口、也有了一个能跑的 Demo,接下来该不该信它、该把它放到什么位置、坏了怎么办。

这些问题在工程书里通常被一句话带过——“根据业务需要设计”。但实际做的时候会发现,“业务需要"正是最难的部分:业务方说要自动化,法务说要留痕,客服主管说不能没有人工确认,财务问一次调用多少钱。每句话都对,合在一起就互相矛盾。

本书试图把这些矛盾拆成可以逐个回答的问题。

一、本书怎么来的

写这套书的直接原因,是站内已经有几套与 Agent 相关的书,但没有一套从"原理"的视角回答"为什么这样做才成立”。

  • 《AI Agent 开发》三卷从零写一个 Agent 引擎,再把它生产化,最后对比主流框架;
  • 《互联网产品的 AI 架构》四卷处理网关、路由、编排、治理这些后端问题;
  • 《AI Agent 产品开发》三卷处理任务选型、自主度、放量这些产品问题;
  • 《AI Agent 游戏产品开发》一卷处理游戏垂直的实时、公平与玩家信任。

四套书各自完整,但它们之间的接缝正好是工程负责人每天要回答的问题:这个模型能做什么、不能做什么、边界在哪里。这个接缝没有人写,于是有了本书。

写作过程中反复出现的一个困难是:原理很难被验证。所以本书做了一个取舍——每个结论都必须能挂到一条主线上,并且有出处或实验。这就带来了三条工作负载和一套实验工程。

二、写给谁

读者建议从哪里开始你能得到什么
技术负责人 / 架构师卷一第 1–3 章、卷三第 1–3 章判断一个 Agent 方案在什么条件下成立的判据
Agent 工程师卷一第 4–9 章、卷二第 1–5 章理解为什么有的写法会失效、边界在哪
模型平台 / MLOps卷一第 4、11–12 章延迟、成本、回放、路由的量化模型
研究者 / 进阶读者卷二第 5–11 章决策、记忆、学习的理论化处理
安全 / 治理工程师卷三第 4、11–13 章隔离、容错、安全、决策记录的架构依据

不需要先读《AI Agent 开发》。本书只在必要处引用它的结论,不依赖其中的代码。

三、三卷的分工

卷卷名回答的问题交付物
一模型、推理与能力边界模型能做什么、不能做什么、如何证明能力卡 + 边界清单 + 评测集
二决策、记忆与学习Agent 如何选择动作、如何记住、如何学习POMDP/策略/终止条件 + 反事实实验
三运行时、协议与系统架构动作如何被可靠执行、恢复与治理状态机/事件日志/幂等键 + 故障注入

三卷可以按顺序读,也可以只读一卷。但卷三的很多结论依赖卷一的边界与卷二的决策,跳读时建议至少先看 1.1、2.1、9.1、13.1 四节。

四、三条工作负载

全书只用三条工作负载做实验载体,它们是三类约束的代表,不是真实客户:

编号名称任务定义时间跨度可逆性可验证性
W1检索问答从内部文档回答事实问题并给出引用3–8 步只读,可重试引用与原文可核对
W2代码修复修复可复现 bug 并跑通指定测试10–40 步写分支,可回滚测试通过/失败可判定
W3运维处置根据告警执行一次重启或扩容2–6 步不可逆,需审批健康检查可判定

三条负载的设定是教学假设,不是实测数据,也不对应任何真实公司。它们的作用是让同一套原理在三种约束下都能被算一遍:如果一条原理只对一种负载成立,它就不是原理,是特例。

所有数字集中在每卷的附录 B。正文引用的任何参数、阈值、成本,都能在附录 B 找到原值或由它的公式算出。三卷之间不另设第二套数字。

五、数字与代码口径

数字口径

  • 卷一的延迟、显存、成本模型使用教学参数(见附录 B),不是供应商实测;
  • 卷二的 POMDP、MDP 实验使用教学设定值,可复现;
  • 卷三的故障注入使用确定性脚本,可重跑;
  • 所有"p95 ≤ X"这类预算都是任务级约束,不是全系统承诺;
  • 百分比保留一位小数,金额整数或一位小数。

代码口径

正文的 python 代码块来自实验工程 agp-lab,与源文件逐字节一致:

  • Python 3.9+,零第三方依赖,只用标准库;
  • 每个代码块前三行固定为 # file:、# tier:、# verify:,分别指明源文件、可运行层级、验证命令;
  • 测试用 unittest,不引入任何测试框架;
  • 实验工程位于 private/labs/agp-lab/,每个模块可独立运行。

代码的职责不是实现 Agent,而是把原理变成可验证的判断:给定负载,算出这个设计在什么条件下成立、在哪里会坏。

六、不在本书范围内

为了避免重复,以下内容本书只给结论并链接,不展开:

  • Agent 引擎的消息协议、循环、工具注册实现 —— 见《AI Agent 开发》卷一;
  • 生产化的 API、队列、数据库、评测流水线 —— 见《AI Agent 开发》卷二;
  • 框架选型、durable execution、A2A —— 见《AI Agent 开发》卷三;
  • 模型网关、多模型路由、编排执行图、治理与配额 —— 见《互联网产品的 AI 架构》四卷;
  • 任务规格、自主度、人机分工、放量 —— 见《AI Agent 产品开发》三卷。

七、怎么读

如果只有两个小时,读这三节:

  1. 1.1 原理地图:四层技术栈与三条主线 —— 知道这套书在讲什么、怎么组织;
  2. 2.1 自回归生成:条件概率、采样与停止 —— 知道模型输出的本质是采样,而不是"思考";
  3. 13.3 卷一收口:能力模型评审 —— 知道能力边界怎么被检查。

如果要做一次完整的能力模型评审,按卷一的 13 章顺序走一遍,用附录 C 的清单打分。阻断项优先于总分——任何一项阻断项未满足,无论总分多高都不能通过。

现在从第 1 章开始。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图