category

Books

共 3674 篇文章。
全部文章BooksgameJavaIndiegolang客户端开发MinigameSaasrustPythoncgTypescriptengineCocos
books

《AI Agent 技术原理与架构·模型、推理与能力边界》12.1 路由:按能力/成本/风险分流

不是每个请求都值得用最大的模型。路由先按能力与风险过滤候选,再按成本、延迟和风险打分,把简单任务交给小模型、困难任务交给大模型。本节用可行性过滤加打分的实验,演示能力阈值、风险上限和成本权重如何改变选择,并讨论路由误判后的升级、降级与澄清兜底。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》11.3 可重放架构的适用边界

回放不是万能的:外部副作用、实时数据、人工审批和第三方服务变化,都会让“重演一次”变成不可能或没有意义。本节把请求分成精确、统计、不可重放三档,用四个请求演示分档与记录成本,并说明审计与复现的区别、以及如何为不同任务设定合理的回放目标与工程取舍。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》11.2 Record/Replay:记录什么、重放什么

Agent 出错时,团队最想知道的是“它当时看到了什么、做了什么”。记录与回放把一次运行拆成请求、模型、检索、工具、输出五类事件,用摘要逐步骤比对。本节用最小事件集实验演示完整性检查、首个差异定位和回放状态,并讨论隐私、副作用隔离与回归测试的边界。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》11.1 采样、批处理与浮点非确定性

同一个提示跑两次,结果可能不同。原因不只是温度:批处理形状、GPU 归约顺序、并发调度、检索快照和模型版本都会引入差异。本节把非确定性来源分成可控与不可控两类,用浮点求和顺序实验演示批处理漂移,并给出请求签名、可复现性等级与排障路径的设计。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》10.2 坐标 Grounding 与动作空间

Grounding 是把“点击提交按钮”变成一组可执行坐标或元素引用的过程。它看起来只是坐标换算,实际包含分辨率缩放、裁剪偏移、元素歧义和落点容差。本节用归一化、IoU 和网格吸附实验,演示如何度量定位误差,并讨论为什么元素引用通常比像素坐标更可靠。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》10.1 视觉/语音输入的感知误差

Agent 看到的往往不是干净的文本:截图、扫描件、语音、表格混在一起。多模态感知的难点不只是识别,而是知道每个模态何时不可靠、置信度能否互相比较、冲突时该信谁。本节用单模态误差与融合决策实验,演示一致采纳、置信度比较和冲突升级这三种策略。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》9.3 上下文预算分配:什么该放前面

上下文窗口是一个有限预算,系统提示、工具定义、对话历史、检索片段和输出都要从里面分。没有预算就会互相挤占:检索塞满导致输出被截断,历史无限增长挤掉工具结果。本节用保底加优先级的分配实验,演示压缩、丢弃与输出预留的工程方法,并把每次截断记录成可观测的日志。

7 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》9.2 长上下文与 RAG 的成本/质量边界

长上下文和 RAG 经常被当成二选一,其实它们解决的是不同问题。长上下文省掉索引,但每次请求都付全量 token;RAG 只送相关片段,却要维护检索质量与权限。本节用成本模型和盈亏平衡点,比较两条路线的质量、延迟与运维代价,并给出混合架构的选择框架。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》9.1 Lost in the Middle 与上下文腐化

把证据塞进上下文不等于模型会用证据。Lost in the Middle 现象表明,模型对上下文首尾的信息利用更好,中间位置容易被忽略;输入变长变杂还会带来上下文腐化。本节用一个位置—召回曲线演示首尾偏好,计算有效上下文比例,并给出证据重排、分段检索和压缩的架构策略。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》8.3 参数知识 vs 检索知识

参数知识便宜、稳定、覆盖广,但会过期且无法追溯;检索知识新鲜、可引用,但依赖检索质量并增加延迟。本节用覆盖度、波动性和更新天数三个维度,演示一个知识来源选择器如何把问题路由到参数记忆或外部检索,并讨论混合策略、降级路径与过期风险的度量方式。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》8.2 校准与不确定性表达

模型说“90% 确定”不等于 90% 正确。校准衡量置信度与实际正确率是否一致,Brier 和 ECE 是两个常用指标;选择性预测则用阈值决定什么时候回答、什么时候弃权。本节用最小实验演示校准指标、弃权覆盖率与准确率的权衡,并给出分层阈值与漂移监控的架构判据。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》8.1 幻觉分类:事实、引用、执行

幻觉不是一个单一问题:事实说错、引用编造、执行结果谎报,需要完全不同的防线。本节把幻觉拆成事实、引用、执行三类,用最小审计实验演示分类与未接地率,并说明每一类应该绑定检索、引用核对还是外部验证,以及为什么执行声明必须由外部系统状态与调用记录确认。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》7.3 测试时计算:何时更多 token 有用

加 token、多采样、投票、搜索,都是测试时计算的不同形式;它们不是同一件事,收益条件也不同。本节用 pass@k 与多数投票的对比实验说明:没有验证器时,多采样只提高“至少有一次正确”的概率;多数投票则要求单次正确率过半且错误相互独立。

9 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》7.2 推理模型:RLVR、GRPO 与可验证奖励

推理模型的关键不是“想得更久”,而是用可验证结果做强化学习:答案对错、测试是否通过、引用是否命中,都能变成奖励。本节用组相对优势和标量策略梯度演示 GRPO 的核心,说明它为什么不需要奖励模型,讨论奖励粒度与组大小,以及可验证奖励的覆盖边界与奖励黑客风险。

9 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》7.1 CoT:显式推理的收益与代价

思维链把一次生成拆成多步显式推理,可能提高复杂任务的成功率,也把 token、延迟和错误累积一起放大。本节用“直接作答”和“三步/六步/十二步 CoT”的对比实验,说明收益何时为正、何时为负,讨论自一致性与推理忠实性,并给出推理长度预算与验证点的架构判据。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》6.3 工具选择错误的分类与评测

工具调用失败不能只报一个总成功率:选错工具、漏参数、多参数和危险调用是不同的问题,需要不同的防线。本节给出一个可操作的错误分类、混淆矩阵和按工具的精确率/召回率,说明为什么安全类错误不能和普通准确率混在一起平均,并给出按风险分层的评测口径。

8 分钟阅读
书稿 AI Agent Agent 原理
books

《AI Agent 技术原理与架构·模型、推理与能力边界》5.3 对齐给了什么、没给什么

对齐训练能改变模型的行为倾向:更愿意拒答、更少谄媚、更符合格式。但它不会自动增加模型的知识和推理能力,也可能带来对齐税与规格博弈。本节用能力、拒答、谄媚三个轴和一个“声明成功 vs 实际成功”的差距指标,说明对齐评测为什么必须与能力评测分开。

8 分钟阅读
书稿 AI Agent Agent 原理