posts

《AI Agent 技术原理与架构·模型、推理与能力边界》 · 全书目录与章节索引(45 篇)

全 45 篇的章节索引:从原理地图与判据格式出发,依次处理自回归与采样、注意力与位置、延迟与 KV Cache、对齐、Function Calling、测试时计算、幻觉与校准、上下文与 RAG、多模态、非确定性与回放、路由与级联,最后合成为能力卡与卷一评审;附录 B 是全书数字的唯一来源。

《AI Agent 技术原理与架构·模型、推理与能力边界》全 45 篇,是《AI Agent 技术原理与架构》三卷本的卷一。三条工作负载 W1/W2/W3 贯穿三卷,全部数字见本卷附录 B。模型到底能做什么、不能做什么、如何证明。

本页是《AI Agent 技术原理与架构·模型、推理与能力边界》的全书目录:按章节顺序列出全部 45 篇,点击标题直达正文。也可以从目录与学习路径 进入按顺序通读。

全书概览

项目内容
书稿《AI Agent 技术原理与架构·模型、推理与能力边界》
篇数45 篇(正文 13 章 39 节 + 序 + 前言 + 目录 + 附录 A–C)
领域AI Agent 技术原理(能力线)
贯穿负载W1 检索问答、W2 代码修复、W3 运维处置
实验工程agp-lab,Python 3.9+ 标准库零依赖
上级专题书稿专题

全书目录

前置与附录

节文章
—序:为什么 Agent 需要一套讲原理的书
—前言:这本书怎么读
—目录与学习路径
附 A附录 A 术语与指标
附 B附录 B 三工作负载事实表
附 C附录 C 能力模型评审清单

第 1 章 原理地图与判据格式

节文章
1.11.1 原理地图:四层技术栈与三条主线
1.21.2 三条主线:能力线、决策线、执行线
1.31.3 三条工作负载与本书的判据格式

第 2 章 自回归、采样与策略多样性

节文章
2.12.1 自回归生成:条件概率、采样与停止
2.22.2 温度、top-p 与策略多样性
2.32.3 供应商非确定性与可重放边界

第 3 章 注意力、位置与信息流

节文章
3.13.1 注意力:上下文如何被读取
3.23.2 位置编码与长度外推
3.33.3 残差、归一化与深层信息流

第 4 章 延迟、KV Cache 与成本

节文章
4.14.1 Prefill/Decode:TTFT 与 TPOT 的来源
4.24.2 KV Cache:显存、批处理与并发上限
4.34.3 上下文长度、注意力复杂度与成本曲线

第 5 章 对齐:SFT、RLHF/DPO

节文章
5.15.1 SFT:指令跟随能力从哪来
5.25.2 RLHF/DPO:偏好、拒绝与谄媚
5.35.3 对齐给了什么、没给什么

第 6 章 Function Calling 与工具调用

节文章
6.16.1 Function Calling:训练与推理路径
6.26.2 Schema、约束解码与结构化输出
6.36.3 工具选择错误的分类与评测

第 7 章 推理与测试时计算

节文章
7.17.1 CoT:显式推理的收益与代价
7.27.2 推理模型:RLVR、GRPO 与可验证奖励
7.37.3 测试时计算:何时更多 token 有用

第 8 章 幻觉、校准与知识

节文章
8.18.1 幻觉分类:事实、引用、执行
8.28.2 校准与不确定性表达
8.38.3 参数知识 vs 检索知识

第 9 章 上下文与 RAG

节文章
9.19.1 Lost in the Middle 与上下文腐化
9.29.2 长上下文与 RAG 的成本/质量边界
9.39.3 上下文预算分配:什么该放前面

第 10 章 多模态与计算机使用

节文章
10.110.1 视觉/语音输入的感知误差
10.210.2 坐标 Grounding 与动作空间
10.310.3 计算机使用的安全边界

第 11 章 非确定性与回放

节文章
11.111.1 采样、批处理与浮点非确定性
11.211.2 Record/Replay:记录什么、重放什么
11.311.3 可重放架构的适用边界

第 12 章 路由、级联与选型

节文章
12.112.1 路由:按能力/成本/风险分流
12.212.2 级联与集成:什么时候值得
12.312.3 模型间差异的量化与 A/B

第 13 章 能力卡与评审

节文章
13.113.1 一页能力卡
13.213.2 选型矩阵与敏感度
13.313.3 卷一收口:能力模型评审

相关阅读

全部文章 Books game Java Indie golang 客户端开发 Minigame Saas rust Python
books

《AI Agent 技术原理与架构·模型、推理与能力边界》附录 C 评审清单

卷一使用的能力模型评审清单:六项(能力卡、失败模式、评测集、成本模型、回放计划、人工升级)每项给出 0/1/2 三档的判断锚点,三项阻断项单独判定,并给出 W1/W2/W3 三条负载的逐项得分与共同短板;0 分项必须在上线前解决,阻断项优先于总分,可直接拿来做一次能力评审。

4 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》附录 A 术语与口径

卷一用到的术语与指标定义:条件概率、温度、top-p、KV Cache、TTFT/TPOT、SFT、RLHF/DPO、对齐、Function Calling、约束解码、CoT、RLVR/GRPO、幻觉、校准、RAG、路由与级联,逐条给出定义、计算口径与易混淆点;正文出现这些词时以本表为准,三卷共用同一套口径,可在附录 B 找到参数复算路径。

4 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》1.1 原理地图:四层技术栈与三条主线

Agent 的故障常被归因到模型,但同一症状可能来自模型、决策、运行时或系统层。本节给出四层技术栈、能力/决策/执行三条主线与 W1/W2/W3 三条工作负载,定义“层+问题+判据+证据+负载”的原理条目格式,并用一个可运行的覆盖矩阵把这本书的全部结论组织成可评审的地图。

12 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》13.3 卷一收口:能力模型评审

卷一讨论模型能做什么、不能做什么、边界在哪里。收口时需要的不是再讲一个概念,而是一张评审清单:能力卡、失败模式、评测集、成本模型、回放计划、人工升级。本节用清单评分、阻断项和结论实验,说明为什么阻断项优先于总分、卷一如何走向卷二,以及评审记录应该留下什么。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》13.2 选型矩阵与敏感度

选型不是挑一个总分最高的模型,而是先排除不满足硬约束的候选,再在质量、成本、风险和延迟之间加权。本节用加权评分与权重敏感度实验,演示默认权重下谁胜出、权重微调后结论是否翻转,并说明为什么硬约束不能进加权公式,以及如何用总拥有成本修正 token 单价。

6 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》13.1 一页能力卡

选模型时,厂商参数表往往只给上下文长度和价格,缺少工具成功率、接地率、拒答率和尾延迟。能力卡用固定字段和测量条件,把模型边界写成可比较、可复验的一页文档。本节用字段校验与阈值判定实验,演示一张能力卡如何被验证和拒绝,并说明缺项与尾延迟应该如何处理。

6 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》12.3 模型间差异的量化与 A/B

新模型更好,不能只看平均分。配对评测、置信区间、样本量和护栏指标,决定结论是否可信。本节用配对差值实验演示均值差、标准差、置信区间与所需样本量,并讨论离线评测与线上 A/B 的差异,以及多次比较、提前偷看、分流污染与护栏指标等常见陷阱与偏差。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》12.2 级联与集成:什么时候值得

级联先让小模型作答,不可靠时再升级大模型;集成让多个模型或多个采样投票。两者都用额外调用换质量,但成本结构不同。本节用期望成本与期望质量实验,演示接受率、验证器质量如何决定级联是否划算,并讨论错误相关性、验证器局限、延迟代价与具体的不适用场景。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》12.1 路由:按能力/成本/风险分流

不是每个请求都值得用最大的模型。路由先按能力与风险过滤候选,再按成本、延迟和风险打分,把简单任务交给小模型、困难任务交给大模型。本节用可行性过滤加打分的实验,演示能力阈值、风险上限和成本权重如何改变选择,并讨论路由误判后的升级、降级与澄清兜底。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》11.3 可重放架构的适用边界

回放不是万能的:外部副作用、实时数据、人工审批和第三方服务变化,都会让“重演一次”变成不可能或没有意义。本节把请求分成精确、统计、不可重放三档,用四个请求演示分档与记录成本,并说明审计与复现的区别、以及如何为不同任务设定合理的回放目标与工程取舍。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》11.2 Record/Replay:记录什么、重放什么

Agent 出错时,团队最想知道的是“它当时看到了什么、做了什么”。记录与回放把一次运行拆成请求、模型、检索、工具、输出五类事件,用摘要逐步骤比对。本节用最小事件集实验演示完整性检查、首个差异定位和回放状态,并讨论隐私、副作用隔离与回归测试的边界。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》11.1 采样、批处理与浮点非确定性

同一个提示跑两次,结果可能不同。原因不只是温度:批处理形状、GPU 归约顺序、并发调度、检索快照和模型版本都会引入差异。本节把非确定性来源分成可控与不可控两类,用浮点求和顺序实验演示批处理漂移,并给出请求签名、可复现性等级与排障路径的设计。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》10.2 坐标 Grounding 与动作空间

Grounding 是把“点击提交按钮”变成一组可执行坐标或元素引用的过程。它看起来只是坐标换算,实际包含分辨率缩放、裁剪偏移、元素歧义和落点容差。本节用归一化、IoU 和网格吸附实验,演示如何度量定位误差,并讨论为什么元素引用通常比像素坐标更可靠。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》10.1 视觉/语音输入的感知误差

Agent 看到的往往不是干净的文本:截图、扫描件、语音、表格混在一起。多模态感知的难点不只是识别,而是知道每个模态何时不可靠、置信度能否互相比较、冲突时该信谁。本节用单模态误差与融合决策实验,演示一致采纳、置信度比较和冲突升级这三种策略。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》9.3 上下文预算分配:什么该放前面

上下文窗口是一个有限预算,系统提示、工具定义、对话历史、检索片段和输出都要从里面分。没有预算就会互相挤占:检索塞满导致输出被截断,历史无限增长挤掉工具结果。本节用保底加优先级的分配实验,演示压缩、丢弃与输出预留的工程方法,并把每次截断记录成可观测的日志。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》9.2 长上下文与 RAG 的成本/质量边界

长上下文和 RAG 经常被当成二选一,其实它们解决的是不同问题。长上下文省掉索引,但每次请求都付全量 token;RAG 只送相关片段,却要维护检索质量与权限。本节用成本模型和盈亏平衡点,比较两条路线的质量、延迟与运维代价,并给出混合架构的选择框架。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》9.1 Lost in the Middle 与上下文腐化

把证据塞进上下文不等于模型会用证据。Lost in the Middle 现象表明,模型对上下文首尾的信息利用更好,中间位置容易被忽略;输入变长变杂还会带来上下文腐化。本节用一个位置—召回曲线演示首尾偏好,计算有效上下文比例,并给出证据重排、分段检索和压缩的架构策略。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》8.3 参数知识 vs 检索知识

参数知识便宜、稳定、覆盖广,但会过期且无法追溯;检索知识新鲜、可引用,但依赖检索质量并增加延迟。本节用覆盖度、波动性和更新天数三个维度,演示一个知识来源选择器如何把问题路由到参数记忆或外部检索,并讨论混合策略、降级路径与过期风险的度量方式。

8 分钟阅读
书稿 AI Agent Agent 原理