《AI Agent 技术原理与架构·决策、记忆与学习》2.3 预算、超时与强制终止
预算不是提示词里的提醒,而是运行时的强制约束。本节把 token、金额、时间、步数四类预算放进统一的使用统计,比较无预算、到限硬停与越过软阈值降级三种策略,说明强制终止必须留下部分结果与原因,并给出预算分配、超限降级与结果保留的设计判据,让超限行为有明确默认处置。
category
预算不是提示词里的提醒,而是运行时的强制约束。本节把 token、金额、时间、步数四类预算放进统一的使用统计,比较无预算、到限硬停与越过软阈值降级三种策略,说明强制终止必须留下部分结果与原因,并给出预算分配、超限降级与结果保留的设计判据,让超限行为有明确默认处置。
“看起来在动”不等于“在进展”。本节把进展拆成四个可计算信号:状态差分、目标距离、动作指纹与状态哈希,用两条确定性轨迹演示停滞、重复动作与状态复现的判定,说明死循环检测必须基于状态哈希而不是人类对日志的直觉,并给出进展信号与循环检测的工程判据。
Agent 循环不是 while True 加一句“完成后停止”,而是一个带显式停止条件的控制循环。本节把停止条件拆成任务、步数、时间、资源四层,用脚本化实验比较只靠任务条件与四层全开时的漏停与早停,并给出循环设计的三个不变量与常见失败模式。
Agent 的一次运行是跨越崩溃、重试与人工审批的长事务,“再跑一遍循环”不是恢复策略。本节把执行语义拆成状态机、事件溯源与持久化执行,区分 at-most-once/at-least-once/exactly-once 的真实边界,并用一个可运行的 W3 重启实验验证 CAS、幂等键与崩溃重试只执行一次副作用。
提示不是历史的副本,而是有损压缩。本节把压缩损失分成事实、不确定性与时间三类,用十项任务历史比较四种压缩策略的关键约束保留率与字符代价,说明为什么“只留事实”或“只留最近”都会丢掉决策所必需的约束,并给出以“决策所需约束是否保住”为准的提示组装判据。
轨迹不是日志的附属品,而是决策系统的证据。本节把一次运行拆成观测、动作、奖励与停止原因,解释折扣回报怎么算、哪些字段缺失会让轨迹从精确重放降为只能审计,并用三条确定性 rollout 展示回报、缺失字段与可重放等级的对应关系,给出可检查的记录 schema 判据与副作用标记的建模要求。
“LLM + 循环”不是模型,只是实现。本节用 POMDP 把 Agent 拆成状态、观测、动作、转移、奖励与信念,解释提示词为什么只是历史的有损压缩,并用老虎问题的有限时域价值实验展示观测噪声、听声预算与决策质量的关系,最后给出五条可检查的架构判据。
Agent 的故障常被归因到模型,但同一症状可能来自模型、决策、运行时或系统层。本节给出四层技术栈、能力/决策/执行三条主线与 W1/W2/W3 三条工作负载,定义“层+问题+判据+证据+负载”的原理条目格式,并用一个可运行的覆盖矩阵把这本书的全部结论组织成可评审的地图。
《AI Agent 技术原理与架构·运行时、协议与系统架构》的目录与学习路径:45 篇逐节索引、三条阅读路线、十三章依赖关系,以及本卷与卷二决策线的交接,与站内既有 Agent 运行时/后端书稿的分工;读完能判断执行线哪些章节必须先读、哪些可以跳读。
《AI Agent 技术原理与架构·决策、记忆与学习》的目录与学习路径:45 篇逐节索引、三条阅读路线、十三章依赖关系,以及本卷与卷一能力线、卷三执行线的交接,与站内既有 Agent 书稿的分工;读完能判断决策线哪些章节必须先读、哪些可以跳读。
本书怎么来的、写给谁、与卷二决策线的交接、运行时语义/协议/治理如何拆成可验证的结构、数字与代码口径是什么、哪些内容不在范围内——读正文之前需要先知道的七件事都在这一篇里,另附最短阅读路线;最后说明每节代码块与实验工程 agp-lab 的对应关系,以及故障注入实验怎么做。
本书怎么来的、写给谁、与卷一的交接、决策线如何拆成形式模型、记忆与学习如何落到实验、数字与代码口径是什么、哪些内容不在范围内——读正文之前需要先知道的七件事都在这一篇里,另附最短阅读路线;最后说明每节代码块与实验工程 agp-lab 的对应关系,以及反事实实验怎么做。
为什么运行时值得单独一卷:决策线回答选什么,执行线回答怎么可靠地执行。序里给出卷三的三块核心——运行时语义、协议、治理——如何落到状态机、幂等键与故障注入上,以及它和卷二决策线、卷一能力线的交接;读完能判断一个 Agent 运行时算不算可靠。
为什么决策、记忆与学习需要单独一卷:模型能力回答能不能,决策线回答该选什么。序里给出卷二的三块核心——形式模型、决策机制、记忆与学习——如何落到 POMDP、终止条件与反事实实验上,以及它和卷一能力线、卷三执行线的交接;读完能判断 Agent 的决策质量该用什么标准衡量。
全 45 篇的章节索引:从原理地图与判据格式出发,依次处理自回归与采样、注意力与位置、延迟与 KV Cache、对齐、Function Calling、测试时计算、幻觉与校准、上下文与 RAG、多模态、非确定性与回放、路由与级联,最后合成为能力卡与卷一评审;附录 B 是全书数字的唯一来源。
卷一讨论模型能做什么、不能做什么、边界在哪里。收口时需要的不是再讲一个概念,而是一张评审清单:能力卡、失败模式、评测集、成本模型、回放计划、人工升级。本节用清单评分、阻断项和结论实验,说明为什么阻断项优先于总分、卷一如何走向卷二,以及评审记录应该留下什么。
选型不是挑一个总分最高的模型,而是先排除不满足硬约束的候选,再在质量、成本、风险和延迟之间加权。本节用加权评分与权重敏感度实验,演示默认权重下谁胜出、权重微调后结论是否翻转,并说明为什么硬约束不能进加权公式,以及如何用总拥有成本修正 token 单价。
选模型时,厂商参数表往往只给上下文长度和价格,缺少工具成功率、接地率、拒答率和尾延迟。能力卡用固定字段和测量条件,把模型边界写成可比较、可复验的一页文档。本节用字段校验与阈值判定实验,演示一张能力卡如何被验证和拒绝,并说明缺项与尾延迟应该如何处理。
新模型更好,不能只看平均分。配对评测、置信区间、样本量和护栏指标,决定结论是否可信。本节用配对差值实验演示均值差、标准差、置信区间与所需样本量,并讨论离线评测与线上 A/B 的差异,以及多次比较、提前偷看、分流污染与护栏指标等常见陷阱与偏差。
级联先让小模型作答,不可靠时再升级大模型;集成让多个模型或多个采样投票。两者都用额外调用换质量,但成本结构不同。本节用期望成本与期望质量实验,演示接受率、验证器质量如何决定级联是否划算,并讨论错误相关性、验证器局限、延迟代价与具体的不适用场景。