posts

《AI Agent 技术原理与架构·模型、推理与能力边界》 · 全书目录与章节索引(45 篇)

全 45 篇的章节索引:从原理地图与判据格式出发,依次处理自回归与采样、注意力与位置、延迟与 KV Cache、对齐、Function Calling、测试时计算、幻觉与校准、上下文与 RAG、多模态、非确定性与回放、路由与级联,最后合成为能力卡与卷一评审;附录 B 是全书数字的唯一来源。

《AI Agent 技术原理与架构·模型、推理与能力边界》全 45 篇,是《AI Agent 技术原理与架构》三卷本的卷一。三条工作负载 W1/W2/W3 贯穿三卷,全部数字见本卷附录 B。模型到底能做什么、不能做什么、如何证明。

本页是《AI Agent 技术原理与架构·模型、推理与能力边界》的全书目录:按章节顺序列出全部 45 篇,点击标题直达正文。也可以从目录与学习路径 进入按顺序通读。

全书概览

项目内容
书稿《AI Agent 技术原理与架构·模型、推理与能力边界》
篇数45 篇(正文 13 章 39 节 + 序 + 前言 + 目录 + 附录 A–C)
领域AI Agent 技术原理(能力线)
贯穿负载W1 检索问答、W2 代码修复、W3 运维处置
实验工程agp-lab,Python 3.9+ 标准库零依赖
上级专题书稿专题

全书目录

前置与附录

节文章
—序:为什么 Agent 需要一套讲原理的书
—前言:这本书怎么读
—目录与学习路径
附 A附录 A 术语与指标
附 B附录 B 三工作负载事实表
附 C附录 C 能力模型评审清单

第 1 章 原理地图与判据格式

节文章
1.11.1 原理地图:四层技术栈与三条主线
1.21.2 三条主线:能力线、决策线、执行线
1.31.3 三条工作负载与本书的判据格式

第 2 章 自回归、采样与策略多样性

节文章
2.12.1 自回归生成:条件概率、采样与停止
2.22.2 温度、top-p 与策略多样性
2.32.3 供应商非确定性与可重放边界

第 3 章 注意力、位置与信息流

节文章
3.13.1 注意力:上下文如何被读取
3.23.2 位置编码与长度外推
3.33.3 残差、归一化与深层信息流

第 4 章 延迟、KV Cache 与成本

节文章
4.14.1 Prefill/Decode:TTFT 与 TPOT 的来源
4.24.2 KV Cache:显存、批处理与并发上限
4.34.3 上下文长度、注意力复杂度与成本曲线

第 5 章 对齐:SFT、RLHF/DPO

节文章
5.15.1 SFT:指令跟随能力从哪来
5.25.2 RLHF/DPO:偏好、拒绝与谄媚
5.35.3 对齐给了什么、没给什么

第 6 章 Function Calling 与工具调用

节文章
6.16.1 Function Calling:训练与推理路径
6.26.2 Schema、约束解码与结构化输出
6.36.3 工具选择错误的分类与评测

第 7 章 推理与测试时计算

节文章
7.17.1 CoT:显式推理的收益与代价
7.27.2 推理模型:RLVR、GRPO 与可验证奖励
7.37.3 测试时计算:何时更多 token 有用

第 8 章 幻觉、校准与知识

节文章
8.18.1 幻觉分类:事实、引用、执行
8.28.2 校准与不确定性表达
8.38.3 参数知识 vs 检索知识

第 9 章 上下文与 RAG

节文章
9.19.1 Lost in the Middle 与上下文腐化
9.29.2 长上下文与 RAG 的成本/质量边界
9.39.3 上下文预算分配:什么该放前面

第 10 章 多模态与计算机使用

节文章
10.110.1 视觉/语音输入的感知误差
10.210.2 坐标 Grounding 与动作空间
10.310.3 计算机使用的安全边界

第 11 章 非确定性与回放

节文章
11.111.1 采样、批处理与浮点非确定性
11.211.2 Record/Replay:记录什么、重放什么
11.311.3 可重放架构的适用边界

第 12 章 路由、级联与选型

节文章
12.112.1 路由:按能力/成本/风险分流
12.212.2 级联与集成:什么时候值得
12.312.3 模型间差异的量化与 A/B

第 13 章 能力卡与评审

节文章
13.113.1 一页能力卡
13.213.2 选型矩阵与敏感度
13.313.3 卷一收口:能力模型评审

相关阅读

全部文章 Books game Java Indie golang 客户端开发 Minigame Saas rust Python
books

《AI Agent 技术原理与架构·模型、推理与能力边界》8.2 校准与不确定性表达

模型说“90% 确定”不等于 90% 正确。校准衡量置信度与实际正确率是否一致,Brier 和 ECE 是两个常用指标;选择性预测则用阈值决定什么时候回答、什么时候弃权。本节用最小实验演示校准指标、弃权覆盖率与准确率的权衡,并给出分层阈值与漂移监控的架构判据。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》8.1 幻觉分类:事实、引用、执行

幻觉不是一个单一问题:事实说错、引用编造、执行结果谎报,需要完全不同的防线。本节把幻觉拆成事实、引用、执行三类,用最小审计实验演示分类与未接地率,并说明每一类应该绑定检索、引用核对还是外部验证,以及为什么执行声明必须由外部系统状态与调用记录确认。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》7.3 测试时计算:何时更多 token 有用

加 token、多采样、投票、搜索,都是测试时计算的不同形式;它们不是同一件事,收益条件也不同。本节用 pass@k 与多数投票的对比实验说明:没有验证器时,多采样只提高“至少有一次正确”的概率;多数投票则要求单次正确率过半且错误相互独立。

9 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》7.2 推理模型:RLVR、GRPO 与可验证奖励

推理模型的关键不是“想得更久”,而是用可验证结果做强化学习:答案对错、测试是否通过、引用是否命中,都能变成奖励。本节用组相对优势和标量策略梯度演示 GRPO 的核心,说明它为什么不需要奖励模型,讨论奖励粒度与组大小,以及可验证奖励的覆盖边界与奖励黑客风险。

9 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》7.1 CoT:显式推理的收益与代价

思维链把一次生成拆成多步显式推理,可能提高复杂任务的成功率,也把 token、延迟和错误累积一起放大。本节用“直接作答”和“三步/六步/十二步 CoT”的对比实验,说明收益何时为正、何时为负,讨论自一致性与推理忠实性,并给出推理长度预算与验证点的架构判据。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》6.3 工具选择错误的分类与评测

工具调用失败不能只报一个总成功率:选错工具、漏参数、多参数和危险调用是不同的问题,需要不同的防线。本节给出一个可操作的错误分类、混淆矩阵和按工具的精确率/召回率,说明为什么安全类错误不能和普通准确率混在一起平均,并给出按风险分层的评测口径。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》5.3 对齐给了什么、没给什么

对齐训练能改变模型的行为倾向:更愿意拒答、更少谄媚、更符合格式。但它不会自动增加模型的知识和推理能力,也可能带来对齐税与规格博弈。本节用能力、拒答、谄媚三个轴和一个“声明成功 vs 实际成功”的差距指标,说明对齐评测为什么必须与能力评测分开。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》5.1 SFT:指令跟随能力从哪来

监督微调把“补全文本”变成“按指令行动”,但它学的是示范轨迹上的行为,不是任务规则本身。本节用走廊环境的行为克隆实验说明 SFT 的分布偏移:专家没走过的状态,策略不会处理;并给出示范覆盖、轨迹记录、DAgger 式纠偏的架构判据,最后给出可执行的示范数据检查表。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》4.3 上下文长度、注意力复杂度与成本曲线

长上下文的成本不是一条曲线,而是两条:注意力的计算随长度二次增长,KV Cache 的读取随长度线性增长。本节用缩放关系与一个 64K token 的算例,说明什么时候二次项主导、什么时候线性项主导,以及为什么 FlashAttention 降低的是显存访问而不是计算量。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》4.1 Prefill/Decode:TTFT 与 TPOT 的来源

一次大模型调用分两个阶段:prefill 并行读入上下文,decode 逐个生成 token。前者决定首 token 延迟 TTFT,后者决定每 token 延迟 TPOT。本节用一个可计算的延迟分解模型,说明两条负载预算如何分开设定,以及为什么“平均延迟达标”仍然可能在 p95 上失败。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》3.3 残差、归一化与深层信息流

残差连接让信息跨层直达,归一化让每层输入保持可控尺度;两者缺一不可。本节用一个小型残差流实验,对比“有残差无归一化”“有归一化无残差”“两者都有”三种情况下的范数增长,说明深层模型为什么需要这个组合,以及深度、精度和量化之间的架构约束,并给出工程检查表。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》3.2 位置编码与长度外推

注意力本身不知道 token 的先后顺序,位置编码把顺序注入表示。绝对位置编码与 RoPE 的差别不只是实现细节:前者让分数随绝对位置漂移,后者让分数只依赖相对偏移。本节用旋转位置编码的最小实验说明这种相对性、长度外推的边界,以及长上下文声明为什么必须在训练长度之外单独评测。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》3.1 注意力:上下文如何被读取

注意力不是“模型在看哪里”的解释,而是上下文信息按权重混合的机制。本节用缩放点积注意力和因果掩码的最小实现,说明 token 如何读取前文、掩码如何约束信息流、为什么注意力权重不能直接当解释,以及这些性质如何变成上下文顺序与前缀缓存的架构约束。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》2.3 供应商非确定性与可重放边界

即使温度设为 0,同一个请求也可能得到不同输出:批处理形状、浮点归约顺序、模型版本和检索快照都会改变结果。本节把非确定性来源分成五类,定义审计、重跑与反事实三种重放目标,给出每种目标必须记录的最小字段集,讨论记录成本与数据质量的边界,最后给出排查顺序。

9 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》2.1 自回归生成:条件概率、采样与停止

自回归模型只做一件事:给定前文,输出下一个 token 的分布。这个局部机制如何变成一次工具调用、一条多步轨迹,又在哪里失效?本节用链式法则和最小 bigram 实验说明条件概率、采样与停止条件,并给出 Agent 架构必须记录的 logprob、停止原因与预算字段。

8 分钟阅读
书稿 AI Agent Agent 原理