posts
《互联网产品的 AI 架构·多能力编排与任务闭环》 · 已发布章节索引(45 篇)
《互联网产品的 AI 架构·多能力编排与任务闭环》全 45 篇:13 章正文覆盖编排结构、节点间契约、执行图与恢复、上下文与状态、失败传播、人工与异步、端到端评测、节点预算、权限传播、观测运维、平台化与演进;附序、前言、目录与三篇附录,配可运行的 TypeScript 实验工程。
全书 45 篇:13 章正文 + 序、前言、目录 + 附录 A/B/C。每节配可运行的 TypeScript 代码,代码块用 // file: / // tier: / // verify: 标注,可在实验工程中逐字节还原。
本页是卷三的完整索引。可以从目录与学习路径
按顺序通读,也可以按问题跳读。
全书概览
| 项目 | 内容 |
|---|
| 书稿 | 《互联网产品的 AI 架构》卷三 |
| 已发布篇数 | 45 篇(含目录与附录) |
| 主线语言 | TypeScript(Node 26 原生类型剥离,零第三方依赖) |
| 贯穿案例 | 内容社区 + IM + 轻交易「回声」 |
| 阅读方式 | 目录篇顺序通读,或按章节表跳读 |
| 上级专题 | 书稿专题 |
前置
| 篇 | 文章 | 核心内容 |
|---|
| 序 | 序 | 从一次跨能力请求讲起,拆解编排带来的四类新成本与三个待答问题。 |
| 前言 | 前言 | 13 章结构、src/orch 模块地图、三级可运行性、代码块约定与阅读节奏。 |
| 目录 | 目录 | 13 章 39 节、三条阅读路径、十二个问题、每章产出物与实验工程说明。 |
第 1 章 编排问题与结构
第 2 章 编排契约与数据流
| 节 | 文章 | 核心内容 |
|---|
| 2.1 | 2.1 能力之间的数据契约 | 卷三要回答的第一个问题是跨能力调用到底该传什么。本节把节点间上下文分成携带数据、传引用、传摘要、传游… |
| 2.2 | 2.2 交接成本与复用回本线 | 编排省下 454 微元,却多花 69ms,这笔账到底怎么算。本节把交接 token 拆成增量上下文与… |
| 2.3 | 2.3 编排层的输入输出与版本 | 编排层对外只暴露一个入口,但输入字段、状态码、错误语义与契约版本任何一个没定清,接入方就会各自猜。本… |
第 3 章 执行图与调度
| 节 | 文章 | 核心内容 |
|---|
| 3.1 | 3.1 把编排写成图 | 把回声的三条链路从三段 await 改写成可校验的执行图:区分能力、人工与动作节点,用边表达数据依赖… |
| 3.2 | 3.2 拓扑执行与并行汇合 | 拓扑序只给约束,不给调度。本节把回声的三条链路按层执行:层内并行、层间交接,用 all、any、qu… |
| 3.3 | 3.3 检查点、恢复与幂等 | 人工复核要等几小时,发布动作又不能重放。本节定义回声可恢复执行图的检查点结构、只信任 succeed… |
第 4 章 上下文与状态
第 5 章 失败传播与部分结果
| 节 | 文章 | 核心内容 |
|---|
| 5.1 | 5.1 失败分类与处理策略 | 上游失败后,下游该跳过、重试、降级还是中止?本节把失败分成可重试、可跳过、可降级、必须中止四类,给出… |
| 5.2 | 5.2 部分可用的验收标准 | 上游只交回半份结果时,什么算可用、什么必须拒绝?本节为「回声」三条链定义字段契约:哪些字段必须有、哪… |
| 5.3 | 5.3 编排级重试预算与熔断 | 单步 13.02% 的失败上限落到编排层,就变成全局重试预算与节点熔断。本节给出按成功率增量分配预算… |
第 6 章 并发、人工与异步
| 节 | 文章 | 核心内容 |
|---|
| 6.1 | 6.1 并行分支的收益与竞争 | 并行分支不是免费的加速器:它把延迟压到临界路径,却把共享上下文复制到每个分支,还要和同一配额下的其他… |
| 6.2 | 6.2 人工介入节点 | 内容发布链上的人工复核既是延迟大头,也是审计责任点。本节把等待、领取、升级、批准、驳回与超时路由写成… |
| 6.3 | 6.3 长任务与异步交付 | 长文档摘要与批量审核无法在一次请求里交付,异步任务因此需要自己的状态机、通知去重、回调幂等与断线重连… |
第 7 章 编排的质量验收
| 节 | 文章 | 核心内容 |
|---|
| 7.1 | 7.1 端到端评测集 | 节点测试全绿,用户任务仍然失败,因为评测单位选错了。本节把一条用户任务作为样本单位,定义成功、部分成… |
| 7.2 | 7.2 失败归因:哪个节点造成的 | 端到端失败率 1.88%,面板只写「工作流失败」,值班同学无法修复一个叫「工作流」的东西。本节把失败… |
| 7.3 | 7.3 回放与可复现调试 | 同一条失败记录,重跑三次得到三个不同结果,日志却只有一句「answer failed」。本节给出一次… |
第 8 章 编排的成本与预算
| 节 | 文章 | 核心内容 |
|---|
| 8.1 | 8.1 把预算分到节点 | 整链预算要同时管 token、成本、延迟与重试四条线。本节用三节点样本把 4,000 微元拆成保底、… |
| 8.2 | 8.2 超支时的裁剪顺序 | 超支时最怕临时拍脑袋。本节给出缓存、裁剪上下文、降档、跳过可选节点、拒绝五步裁剪顺序,逐项标出节省、… |
| 8.3 | 8.3 编排经济性复核 | 编排是否划算要持续复核,不是上线前算一次。本节用卷二 28.47% 的回本线与 13.02% 的失败… |
第 9 章 编排的权限与安全
| 节 | 文章 | 核心内容 |
|---|
| 9.1 | 9.1 跨能力的权限传播 | 跨能力调用时,权限最容易在节点之间被悄悄放大:节点代理身份比用户更宽、租户范围在交接时丢失、数据标签… |
| 9.2 | 9.2 外部动作的授权边界 | 外部动作一旦落地就不可逆:下单、发消息、退款不能只靠模型「觉得可以」。本节把授权拆成主体策略、一次性… |
| 9.3 | 9.3 注入在多能力间的传播 | 检索文档里的一句话、工具返回的一段 JSON,都会在下一个节点变成「上文」。注入因此不是单节点问题,… |
第 10 章 编排的观测与运维
第 11 章 编排平台化
第 12 章 演进与边界
第 13 章 卷三收口
| 节 | 文章 | 核心内容 |
|---|
| 13.1 | 13.1 回声的编排基线 | 三条业务链路各跑 240 条确定性样本:A 内容审核 96.25% 通过,B 会话回复 239/24… |
| 13.2 | 13.2 一次编排方案评审 | C 链路 95.00% 的成功率没到 97% 目标,团队提出给下单动作补幂等键与一次补偿重试。本节给… |
| 13.3 | 13.3 进入卷四:平台化与治理 | 卷三用三条链路、五个门禁与一次评审回答了多能力怎么协同。本节把结论压缩成五条交接输入,并把卷四要处理… |
附录
实验工程
ai-lab 在卷一、卷二基础上新增 src/orch/:workflow-shape、handoff、graph、context-budget、failure、human、eval、budget、permission、observability、platform、evolution、baseline 等模块。全部零第三方依赖,每个模块配 node --test 用例;书稿代码块与源文件逐字节一致。
上一卷与下一卷
上一卷《推理性能与成本工程》回答“同样边界下怎样更快更省”:度量、调度、缓存、压缩替代、容量、归因与联合门禁。
卷四将讨论平台化与治理:多团队共享能力、多租户配额、评测平台、合规与长期运营。卷三建立的编排契约与观测字段,是卷四治理对象的输入。