《AI Agent 技术原理与架构·模型、推理与能力边界》序

为什么 Agent 需要一套讲原理的书:站内的工程书回答怎么做、产品书回答该不该做,但没回答为什么这样做才成立、以及不成立时会在哪里坏。序里给出本书的三条主线、三条工作负载与判据格式的由来,以及它和《AI Agent 开发》《互联网产品的 AI 架构》的分工;读完能判断这本书应该怎么读、能回答哪类问题。

过去两年,Agent 相关的书稿在站内已经积累了好几套:有的从零写一个引擎,有的讲怎么接进后端,有的讲产品怎么做。每套都回答一个问题,但有一个问题始终空着:为什么这样做才成立,以及不成立时会在哪里坏。

这套书想回答的就是这个问题。

一、缺的是"为什么"

工程书回答"怎么做"——循环怎么写、工具怎么接、框架怎么用。产品书回答"该不该做"——任务选不选、自主度定哪档、放量到多少。但"怎么做"和"该不该"之间隔着一层:为什么这个做法在大多数情况下成立,又在哪些条件下失效。

比如 ReAct。工程书会告诉你循环的三段式怎么写,产品书会告诉你它承担到哪一步。但没人正面回答:ReAct 在什么条件下会退化成重复试错?为什么有时候多一步推理反而更差?这层"为什么"不写清楚,换一个场景就不知道怎么判断。

现有四套书稿回答了四个问题:

书稿回答的问题本书不重复的部分
《AI Agent 开发》三卷怎么把引擎写出来、跑在生产上引擎实现、服务代码、框架用法
《互联网产品的 AI 架构》四卷怎么接进后端、编排与治理网关实现、推理服务运维、治理流程
《AI Agent 产品开发》三卷该不该做、交多少权、怎么证明做好了产品方法、组织流程、商业化
《AI Agent 游戏产品开发》一卷实时、公平、玩家信任怎么保证游戏垂直约束与案例

四套加起来,能造、能接、能卖、能用在游戏里。但"为什么这个设计成立、在哪里会坏"仍然空着。这套书补的就是这一段。

二、三条主线

全书由三条主线组织,分别对应三卷:

主线核心问题主要落在判据形式
能力线模型到底能做什么、不能做什么卷一《模型、推理与能力边界》能力卡 + 边界清单 + 评测
决策线Agent 如何根据观测选择动作卷二《决策、记忆与学习》POMDP/策略/终止条件 + 反事实实验
执行线动作如何被可靠执行、恢复与终止卷三《运行时、协议与系统架构》状态机/事件日志/幂等键 + 故障注入

三条主线不是三种写法,是三个必须分开回答的问题。能力回答"它能不能",决策回答"它该选什么",执行回答"选了之后怎么落"。把三个问题混在一个话题里讲,是最常见的架构病。

三、三条工作负载

全书用三条工作负载贯穿实验,它们是三类约束的代表,不是真实客户:

编号名称时间跨度可逆性失败影响
W1检索问答3–8 步只读,可重试低
W2代码修复10–40 步写分支,可回滚中
W3运维处置2–6 步不可逆,需审批高

三条负载压的是同一个问题的五个轴:时间跨度、可逆性、可验证性、延迟成本与失败影响。同一套原理要在三种约束下都能成立,才值得写进书里;只对一种负载成立的结论,是故事不是原理。

四、判据格式

每一节的结论都写成同一种格式:层 + 问题 + 判据 + 证据 + 负载。缺一个字段,就还不叫原理。

  • 层:这条结论属于哪一层(模型、决策、运行时、系统);
  • 问题:它在回答什么;
  • 判据:什么条件下成立;
  • 证据:用什么验证(论文、实验或可运行模型);
  • 负载:它对哪类工作负载成立。

这个格式是刻意选的。它逼每一节说清楚"在什么条件下成立",而不是给一个放之四海而皆准的漂亮句子。漂亮句子没有负载,不可证伪,也不是原理。

五、一个判断

如果这套书只能留下一句话,我希望是这一句:

每个 Agent 结论都要能回答:在什么条件下成立,不成立时会在哪里坏。

更聪明的模型每年都会有,但"什么时候该信它、什么时候它会坏、坏了怎么办"的判断,不会因为模型变强而自动出现。它需要被拆成机制、边界、判据三层,才能在不同的任务、模型、架构之间迁移。

三卷分别处理这三个阶段:能力(它能做什么)、决策(它该选什么)、执行(选了之后怎么落)。从卷一的能力边界开始。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图