posts

《互联网产品的 AI 架构·多能力编排与任务闭环》 · 已发布章节索引(45 篇)

《互联网产品的 AI 架构·多能力编排与任务闭环》全 45 篇:13 章正文覆盖编排结构、节点间契约、执行图与恢复、上下文与状态、失败传播、人工与异步、端到端评测、节点预算、权限传播、观测运维、平台化与演进;附序、前言、目录与三篇附录,配可运行的 TypeScript 实验工程。

全书 45 篇:13 章正文 + 序、前言、目录 + 附录 A/B/C。每节配可运行的 TypeScript 代码,代码块用 // file: / // tier: / // verify: 标注,可在实验工程中逐字节还原。

本页是卷三的完整索引。可以从目录与学习路径 按顺序通读,也可以按问题跳读。

全书概览

项目内容
书稿《互联网产品的 AI 架构》卷三
已发布篇数45 篇(含目录与附录)
主线语言TypeScript(Node 26 原生类型剥离,零第三方依赖)
贯穿案例内容社区 + IM + 轻交易「回声」
阅读方式目录篇顺序通读,或按章节表跳读
上级专题书稿专题

前置

篇文章核心内容
序序从一次跨能力请求讲起,拆解编排带来的四类新成本与三个待答问题。
前言前言13 章结构、src/orch 模块地图、三级可运行性、代码块约定与阅读节奏。
目录目录13 章 39 节、三条阅读路径、十二个问题、每章产出物与实验工程说明。

第 1 章 编排问题与结构

节文章核心内容
1.11.1 一个请求要几个能力:回声的三条真实链路同一个用户请求在回声会穿过不同能力:内容发布、私信客服、站内下单三条链路的节点、成本、延迟与成功率都…
1.21.2 串行、并行与条件分支两条检索串行还是并行、人工复核是否每次都跑,是编排里最先遇到的结构选择。本节把串行、并行与条件分支放…
1.31.3 什么该编排,什么该固定流程三条链路都塞进编排引擎,最先坏掉的往往是最简单的那条。本节把固定流程、声明式编排与 Agent 循环…

第 2 章 编排契约与数据流

节文章核心内容
2.12.1 能力之间的数据契约卷三要回答的第一个问题是跨能力调用到底该传什么。本节把节点间上下文分成携带数据、传引用、传摘要、传游…
2.22.2 交接成本与复用回本线编排省下 454 微元,却多花 69ms,这笔账到底怎么算。本节把交接 token 拆成增量上下文与…
2.32.3 编排层的输入输出与版本编排层对外只暴露一个入口,但输入字段、状态码、错误语义与契约版本任何一个没定清,接入方就会各自猜。本…

第 3 章 执行图与调度

节文章核心内容
3.13.1 把编排写成图把回声的三条链路从三段 await 改写成可校验的执行图:区分能力、人工与动作节点,用边表达数据依赖…
3.23.2 拓扑执行与并行汇合拓扑序只给约束,不给调度。本节把回声的三条链路按层执行:层内并行、层间交接,用 all、any、qu…
3.33.3 检查点、恢复与幂等人工复核要等几小时,发布动作又不能重放。本节定义回声可恢复执行图的检查点结构、只信任 succeed…

第 4 章 上下文与状态

节文章核心内容
4.14.1 共享上下文的三种形态同一份共享上下文,全量复制、共享前缀与检索句柄在 token、成本与风险上完全不同。本节用三节点样本…
4.24.2 节点间的上下文预算分配同一条编排里,高优先级节点只拿到最小上下文,低优先级节点却用不完预算,这是平均分配的典型结果。本节把…
4.34.3 长任务的会话状态与记忆边界长任务不是把每轮对话无限追加进上下文。本节定义会话状态该存事实、游标、决策与待办,而不是完整转录;用…

第 5 章 失败传播与部分结果

节文章核心内容
5.15.1 失败分类与处理策略上游失败后,下游该跳过、重试、降级还是中止?本节把失败分成可重试、可跳过、可降级、必须中止四类,给出…
5.25.2 部分可用的验收标准上游只交回半份结果时,什么算可用、什么必须拒绝?本节为「回声」三条链定义字段契约:哪些字段必须有、哪…
5.35.3 编排级重试预算与熔断单步 13.02% 的失败上限落到编排层,就变成全局重试预算与节点熔断。本节给出按成功率增量分配预算…

第 6 章 并发、人工与异步

节文章核心内容
6.16.1 并行分支的收益与竞争并行分支不是免费的加速器:它把延迟压到临界路径,却把共享上下文复制到每个分支,还要和同一配额下的其他…
6.26.2 人工介入节点内容发布链上的人工复核既是延迟大头,也是审计责任点。本节把等待、领取、升级、批准、驳回与超时路由写成…
6.36.3 长任务与异步交付长文档摘要与批量审核无法在一次请求里交付,异步任务因此需要自己的状态机、通知去重、回调幂等与断线重连…

第 7 章 编排的质量验收

节文章核心内容
7.17.1 端到端评测集节点测试全绿,用户任务仍然失败,因为评测单位选错了。本节把一条用户任务作为样本单位,定义成功、部分成…
7.27.2 失败归因:哪个节点造成的端到端失败率 1.88%,面板只写「工作流失败」,值班同学无法修复一个叫「工作流」的东西。本节把失败…
7.37.3 回放与可复现调试同一条失败记录,重跑三次得到三个不同结果,日志却只有一句「answer failed」。本节给出一次…

第 8 章 编排的成本与预算

节文章核心内容
8.18.1 把预算分到节点整链预算要同时管 token、成本、延迟与重试四条线。本节用三节点样本把 4,000 微元拆成保底、…
8.28.2 超支时的裁剪顺序超支时最怕临时拍脑袋。本节给出缓存、裁剪上下文、降档、跳过可选节点、拒绝五步裁剪顺序,逐项标出节省、…
8.38.3 编排经济性复核编排是否划算要持续复核,不是上线前算一次。本节用卷二 28.47% 的回本线与 13.02% 的失败…

第 9 章 编排的权限与安全

节文章核心内容
9.19.1 跨能力的权限传播跨能力调用时,权限最容易在节点之间被悄悄放大:节点代理身份比用户更宽、租户范围在交接时丢失、数据标签…
9.29.2 外部动作的授权边界外部动作一旦落地就不可逆:下单、发消息、退款不能只靠模型「觉得可以」。本节把授权拆成主体策略、一次性…
9.39.3 注入在多能力间的传播检索文档里的一句话、工具返回的一段 JSON,都会在下一个节点变成「上文」。注入因此不是单节点问题,…

第 10 章 编排的观测与运维

节文章核心内容
10.110.1 编排链路的最低观测字段单次请求的日志回答不了编排层的四个问题:这次调用属于哪条工作流、上游是谁、第几次尝试、用的哪版模型与…
10.210.2 节点级 SLO 与整体 SLO整体 SLO 达标,节点 SLO 却可能已经红了。本节把三能力链路拆成串行、并行与人工节点,给出可用…
10.310.3 编排事故的止血与复盘摘要节点的单步失败率升到 12%,整条链路成功率掉到 98.12%,错误预算已经烧掉 1.88 倍。…

第 11 章 编排平台化

节文章核心内容
11.111.1 声明式编排与代码编排声明式与代码编排的分界不在语言,而在谁维护、怎么测试、怎么灰度、能力上限在哪。本节用「回声」链路 A…
11.211.2 引擎扩展点与插件边界引擎扩展点不是把内部函数暴露出去,而是用四类稳定接口换取可治理的多样性。本节定义节点类型、策略、存储…
11.311.3 多团队共享能力目录能力目录不是一张 README 表,而是多团队复用的版本契约。本节定义能力名、版本、契约、SLO、成…

第 12 章 演进与边界

节文章核心内容
12.112.1 从单能力到编排的重构「回声」把三个能力从业务代码直连改成编排,经历了三步:先抽节点契约,再抽执行器,最后拆链路。每一步都…
12.212.2 编排版本与灰度编排版本一换,受影响的不只是新请求,还有在途任务、共享状态与语义缓存。本节把灰度拆成租户、流量、任务…
12.312.3 从固定编排到自主 Agent固定编排与自主 Agent 的差别不是智能程度,而是路径能否枚举、步骤是否有上限、失败代价是否可承受…

第 13 章 卷三收口

节文章核心内容
13.113.1 回声的编排基线三条业务链路各跑 240 条确定性样本:A 内容审核 96.25% 通过,B 会话回复 239/24…
13.213.2 一次编排方案评审C 链路 95.00% 的成功率没到 97% 目标,团队提出给下单动作补幂等键与一次补偿重试。本节给…
13.313.3 进入卷四:平台化与治理卷三用三条链路、五个门禁与一次评审回答了多能力怎么协同。本节把结论压缩成五条交接输入,并把卷四要处理…

附录

篇文章核心内容
附录 A附录 A 编排模式与判据速查串行、并行、条件分支、人机混合与异步交付的模式、判据与失效方式。
附录 B附录 B 交接成本与失败传播公式交接 token、复用回本线、整链成功率、重试放大与预算裁剪公式。
附录 C附录 C 编排评审清单十三组六十五问、评审流程、结论模板与上线后复盘表。

实验工程

ai-lab 在卷一、卷二基础上新增 src/orch/:workflow-shape、handoff、graph、context-budget、failure、human、eval、budget、permission、observability、platform、evolution、baseline 等模块。全部零第三方依赖,每个模块配 node --test 用例;书稿代码块与源文件逐字节一致。

上一卷与下一卷

上一卷《推理性能与成本工程》回答“同样边界下怎样更快更省”:度量、调度、缓存、压缩替代、容量、归因与联合门禁。

卷四将讨论平台化与治理:多团队共享能力、多租户配额、评测平台、合规与长期运营。卷三建立的编排契约与观测字段,是卷四治理对象的输入。

全部文章 Books game Java Indie golang 客户端开发 Minigame Saas rust Python
books

《互联网产品的 AI 架构·多能力编排与任务闭环》8.1 把预算分到节点

整链预算要同时管 token、成本、延迟与重试四条线。本节用三节点样本把 4,000 微元拆成保底、弹性与共享池,给出可复现的整数分配算法;四条线不能互相换算,分配顺序一旦颠倒,必需节点就会发不出保底;保底保护正确性,弹性购买质量,共享池吸收运行时波动。

10 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》7.3 回放与可复现调试

同一条失败记录,重跑三次得到三个不同结果,日志却只有一句「answer failed」。本节给出一次链路的最小回放包:请求、节点输入输出摘要、模型档位、提示版本与随机种子,用规范化序列化和逐节点对比把分歧定位到具体节点,并演示一次提示版本导致的重放差异。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》7.2 失败归因:哪个节点造成的

端到端失败率 1.88%,面板只写「工作流失败」,值班同学无法修复一个叫「工作流」的东西。本节把失败拆到节点:输入、模型、解析、外部动作、超时五类,给出归因表与判据——首个失败节点、解析归产出方、输入看摘要、超时归超预算节点,并用 10 条失败样本跑出分布。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》7.1 端到端评测集

节点测试全绿,用户任务仍然失败,因为评测单位选错了。本节把一条用户任务作为样本单位,定义成功、部分成功、失败、超时、越权五类样本与验收口径,要求失败路径至少占四成,给出五类覆盖统计与发布门禁,并用 25 条示例样本跑出 48% 的任务完成率与 68% 的失败路径占比。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》6.3 长任务与异步交付

长文档摘要与批量审核无法在一次请求里交付,异步任务因此需要自己的状态机、通知去重、回调幂等与断线重连协议。本节用回声内容链演示排队、执行、完成、失败与过期的完整生命周期,给出结果按哈希幂等交付、游标重连与快照回退的判据,并附上可运行的模块。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》6.2 人工介入节点

内容发布链上的人工复核既是延迟大头,也是审计责任点。本节把等待、领取、升级、批准、驳回与超时路由写成可执行状态机,讨论超时后的自动发布边界、重复批准回调的幂等处理,以及用只追加事件链回答谁在何时改了什么。并附 12 条样本的可复算运行结果。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》6.1 并行分支的收益与竞争

并行分支不是免费的加速器:它把延迟压到临界路径,却把共享上下文复制到每个分支,还要和同一配额下的其他请求抢并发槽。本节用回声内容链的可复算样本,给出临界路径、排队延迟、成本叠加与并行度边际收益四个判据,并算出 41.67% 的复用回本线与 4 微元/毫秒的交换线。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》5.3 编排级重试预算与熔断

单步 13.02% 的失败上限落到编排层,就变成全局重试预算与节点熔断。本节给出按成功率增量分配预算的确定性算法,用三能力样本对比无重试、本地重试、全局预算与熔断四种策略的成功率、每次成功交付成本与尾部成本,并说明重试风暴的尾部成本与幂等边界。

7 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》5.2 部分可用的验收标准

上游只交回半份结果时,什么算可用、什么必须拒绝?本节为「回声」三条链定义字段契约:哪些字段必须有、哪些可缺、哪些允许降级替代,给出完整、部分可用、拒绝交付三档判定、四级用户提示与机器可读标记,并附可运行的 TypeScript 验收器与示例运行结果。

9 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》5.1 失败分类与处理策略

上游失败后,下游该跳过、重试、降级还是中止?本节把失败分成可重试、可跳过、可降级、必须中止四类,给出每类的判定字段、判定顺序与稳定原因码,说明动作对下游、预算与用户提示的影响,并用七条示例信号跑出分类结果,附可运行的 TypeScript 分类器与处理策略表。

9 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》4.3 长任务的会话状态与记忆边界

长任务不是把每轮对话无限追加进上下文。本节定义会话状态该存事实、游标、决策与待办,而不是完整转录;用滑动 TTL、绝对 TTL、LRU 与容量上限控制生命周期,并给出跨租户隔离、单会话记忆上限与可运行的最小存储模块,最后划清它与检查点、长期记忆库的边界。

9 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》4.2 节点间的上下文预算分配

同一条编排里,高优先级节点只拿到最小上下文,低优先级节点却用不完预算,这是平均分配的典型结果。本节把输入预算拆成固定系统提示、共享片段、节点私有与输出预留四段,给出保底再增长的两阶段分配器,并用三组预算复算裁剪、丢弃、窗口不足与可追踪的丢弃原因。

10 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》4.1 共享上下文的三种形态

同一份共享上下文,全量复制、共享前缀与检索句柄在 token、成本与风险上完全不同。本节用三节点样本复算三种形态,说明 28.47% 的回本线从哪里来、句柄模式省下的钱花在哪,并给出可运行的成本比较模块、选择判据与可判定的上线条件,最后指出三种形态混用的边界。

9 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》2.1 能力之间的数据契约

卷三要回答的第一个问题是跨能力调用到底该传什么。本节把节点间上下文分成携带数据、传引用、传摘要、传游标四类载体,给出字段来源、必填、版本与校验规则,并用一个零依赖校验器把缺失、未知字段、失效引用和越界游标变成可定位的问题码,附可复算的校验结果。

9 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》1.3 什么该编排,什么该固定流程

三条链路都塞进编排引擎,最先坏掉的往往是最简单的那条。本节把固定流程、声明式编排与 Agent 循环放在同一组结构信号下,用可判定的评分函数给出回声 A/B/C 的选择,并说明 C 链加一个会员价分支就会跨过阈值、从固定流程翻到声明式编排的完整判据。

9 分钟阅读
书稿 互联网产品 AI 架构