《AI Agent 技术原理与架构·决策、记忆与学习》9.2 摘要与压缩:损失、可逆性与风险
长上下文塞不下时,压缩是必然选择,但压缩不是免费的:保留什么、丢失什么,取决于截断策略而不取决于“关键”。本节用固定事实表演示压缩率与整体保留率、关键事实保留率的关系,说明截断位置决定损失分布、压缩不可逆,并给出摘要丢失审计与关键事实保护的判据。
category
长上下文塞不下时,压缩是必然选择,但压缩不是免费的:保留什么、丢失什么,取决于截断策略而不取决于“关键”。本节用固定事实表演示压缩率与整体保留率、关键事实保留率的关系,说明截断位置决定损失分布、压缩不可逆,并给出摘要丢失审计与关键事实保护的判据。
检索不是一次查询,而是两阶段分工:第一阶段用词重叠把相关文档捞进候选池,第二阶段加标题权重把正确文档排到最前。本节用固定小语料演示召回与 top-1 精度的差异、重排的价值,以及注入位置如何衰减证据权重,并给出三阶段检索与注入位置的架构判据。
把遗忘当作记忆系统的一等功能:用 TTL 把陈旧答案换成“不知道”,用 source_rank 与写入时间消解同键冲突;通过一个版本时间线实验比较无 TTL、长 TTL 与短 TTL 下的正确率、陈旧率与缺失率,说明过期、覆盖与审计为什么必须一起设计,最后给出可检查的判据表。
把 Agent 的“该不该记”拆成值判断与时机判断:用重要性、置信度、新颖度加权成写入分数,用任务边界决定何时提交;通过扫描阈值观察召回率、噪声率与 token 成本如何一起变化,说明缓冲写入在崩溃时为什么会丢数据,并区分排练式写入与持久写入,最后给出按负载配置的读写判据。
把 Agent 记忆拆成工作、情景、语义、程序四层,逐层说明每层该存什么、由谁写入、保留多久、检索时按什么优先级进入上下文,并说明 token 成本从哪来;再用一个容量受限的分层实验展示工作记忆淘汰、情景记忆的重复携带与语义去重的收益,最后给出可检查的记忆架构判据与按层核算成本的判据表。
验证器看到的不是真实质量,而是代理指标;优化代理指标会压垮真实质量。本节用“真实质量 + 漏洞利用度”的候选池实验展示:检查的候选越多,代理分单调上升,但选中答案的真实质量在某一点急剧下降。并说明独立证据门能挡住漏洞候选,却恢复不了被放弃的高质量答案。
让模型批评自己的输出看起来免费,实际有结构性的失效模式。本节用缺陷分层模型比较四种策略:不改进、同源自我批评、独立验证、先自我批评再独立验证。实验展示同源批评的收益集中在表层缺陷、会在正确输出上造成回退,并解释为什么独立验证通常优于自我批评。
Reflexion 让 Agent 在失败后回看轨迹、写反思并注入下一次尝试。本节把失败模式、轨迹可诊断性与修正率显式建模,比较不反思、通用提醒、针对性反思与错误归因四种策略的重试成功率,说明反思的价值来自证据定位,并给出反思存储、注入范围与防过拟合的架构判据。
延迟、质量与成本很少能同时最优。本节用“单次成功率、单次延迟、单次成本、最大尝试次数”四个参数描述 Agent 配置,精确计算串行重试下的期望延迟与成本,比较快路径、均衡、彻底与只重试四种方案,给出 Pareto 前沿、W1 预算占用与逐负载的选型判据。
元推理不是“想得越多越好”,而是在不确定性、风险与难度信号下决定何时值得慢想。本节用十个小任务比较全快、全慢、不确定度门、风险门与事后最优的期望成本,拆解信号噪声、阈值误判与失败代价如何改变结论,并给出可落地的路由判据、审计要求与六条常见错误检查。
同一个 Agent 不该用同一套模型处理所有任务:简单的用快路径,难的用慢路径。本节把任务按难度分档,用阈值路由实验比较全快、全慢与按阈值路由的成功率、成本、延迟与期望效用,说明快慢路径的切换点取决于难度信号的质量,并给出元推理之外的架构判据。
前两节讲了搜索怎么做,这一节讲什么时候根本不该搜。搜索用预算换成功率,但成功率提升递减、成本线性增长。本节用期望效用把成功率、失败代价与搜索成本折成一个数字,演示为每条任务算出最优预算,并给出“边际增益为负就不搜”的判据与适用边界,避免为低概率高成本任务过度搜索。
蒙特卡洛树搜索把“多试几次”变成可控的探索:价值估计来自采样,探索用置信上界引导。本节用三个动作的确定性奖励序列演示 UCT 在不同探索系数下的访问分布与最终选择,解释 c=0 的纯利用陷阱与 c 过大的探索浪费,并给出搜索预算与探索系数的调参判据。
Beam Search 的宽度是一个成本旋钮。本节用带噪声启发式的完整树做确定性实验,比较宽度 1 到 64 的节点评估次数与命中率:窄束便宜但容易剪掉最优分支,宽束接近穷举。实验给出命中率随宽度上升、成本线性上升的曲线,并讨论 Agent 计划搜索中宽度、评分与剪枝依据的选择,以及 W1/W2/W3 的取舍。
失效范围决定重规划策略。本节把计划看成带依赖的步骤图,用失效闭包界定局部修复的边界,并用规划成本、二次失败风险与回退成本计算局部修复和全盘重来的期望成本。实验显示小范围局部修复更优,范围扩大后全盘重来同时赢回成本与可靠性,最后在 W1/W2/W3 上给出不同策略与五条架构判据。
上一节说了依赖图,这一节说计划本身:分解用什么表示、校验怎么进行。HTN 负责把复合任务递归拆成原始动作,PDDL 式的动作模型负责判断一串动作在给定状态下能否执行、执行后是否达到目标。实验用发布流程演示完整计划、漏测计划与未知动作三种校验结果。
把任务拆成子任务不难,难的是把“谁依赖谁”说清楚。本节用有向无环图建模任务分解:依赖必须构成 DAG,才能做拓扑排序与关键路径计算;有环说明计划自相矛盾。实验给出七节点修复计划的拓扑序、最早开始/完成时间与关键路径,并解释为什么“检测到环”比“猜一个顺序”更安全。
一次失败运行往往同时留下多个症状:解析失败、工具报错、任务没完成。本节把轨迹失败拆成解析、工具、推理、终止四个阶段,用八条手工轨迹比较“首个失败”和“任一失败”两种归因口径,说明为什么按症状统计会把终止问题放大,并给出按阶段归因的评测判据。
ReAct 不是一个提示词模板,而是一个带解析、执行与终止约束的运行时循环。本节用脚本化的模型输出实现最小执行器,分别注入解析失败、未知工具、工具异常和死循环,观察四种中断分别在哪一层被捕获,并给出把解析、工具与终止分开统计的循环设计判据。
CoT 的价值不在于把思考写成散文,而在于留下可重放、可追溯的轨迹。本节定义步骤、动作、观测与证据引用四类字段,用一个校验器检查三条手工轨迹的完整性与证据覆盖率,解释缺证据与悬空引用两种失败,并给出把 trace 变成可评测、可回归资产的六条架构判据。