posts

《互联网产品的 AI 架构·多能力编排与任务闭环》 · 已发布章节索引(45 篇)

《互联网产品的 AI 架构·多能力编排与任务闭环》全 45 篇:13 章正文覆盖编排结构、节点间契约、执行图与恢复、上下文与状态、失败传播、人工与异步、端到端评测、节点预算、权限传播、观测运维、平台化与演进;附序、前言、目录与三篇附录,配可运行的 TypeScript 实验工程。

全书 45 篇:13 章正文 + 序、前言、目录 + 附录 A/B/C。每节配可运行的 TypeScript 代码,代码块用 // file: / // tier: / // verify: 标注,可在实验工程中逐字节还原。

本页是卷三的完整索引。可以从目录与学习路径 按顺序通读,也可以按问题跳读。

全书概览

项目内容
书稿《互联网产品的 AI 架构》卷三
已发布篇数45 篇(含目录与附录)
主线语言TypeScript(Node 26 原生类型剥离,零第三方依赖)
贯穿案例内容社区 + IM + 轻交易「回声」
阅读方式目录篇顺序通读,或按章节表跳读
上级专题书稿专题

前置

篇文章核心内容
序序从一次跨能力请求讲起,拆解编排带来的四类新成本与三个待答问题。
前言前言13 章结构、src/orch 模块地图、三级可运行性、代码块约定与阅读节奏。
目录目录13 章 39 节、三条阅读路径、十二个问题、每章产出物与实验工程说明。

第 1 章 编排问题与结构

节文章核心内容
1.11.1 一个请求要几个能力:回声的三条真实链路同一个用户请求在回声会穿过不同能力:内容发布、私信客服、站内下单三条链路的节点、成本、延迟与成功率都…
1.21.2 串行、并行与条件分支两条检索串行还是并行、人工复核是否每次都跑,是编排里最先遇到的结构选择。本节把串行、并行与条件分支放…
1.31.3 什么该编排,什么该固定流程三条链路都塞进编排引擎,最先坏掉的往往是最简单的那条。本节把固定流程、声明式编排与 Agent 循环…

第 2 章 编排契约与数据流

节文章核心内容
2.12.1 能力之间的数据契约卷三要回答的第一个问题是跨能力调用到底该传什么。本节把节点间上下文分成携带数据、传引用、传摘要、传游…
2.22.2 交接成本与复用回本线编排省下 454 微元,却多花 69ms,这笔账到底怎么算。本节把交接 token 拆成增量上下文与…
2.32.3 编排层的输入输出与版本编排层对外只暴露一个入口,但输入字段、状态码、错误语义与契约版本任何一个没定清,接入方就会各自猜。本…

第 3 章 执行图与调度

节文章核心内容
3.13.1 把编排写成图把回声的三条链路从三段 await 改写成可校验的执行图:区分能力、人工与动作节点,用边表达数据依赖…
3.23.2 拓扑执行与并行汇合拓扑序只给约束,不给调度。本节把回声的三条链路按层执行:层内并行、层间交接,用 all、any、qu…
3.33.3 检查点、恢复与幂等人工复核要等几小时,发布动作又不能重放。本节定义回声可恢复执行图的检查点结构、只信任 succeed…

第 4 章 上下文与状态

节文章核心内容
4.14.1 共享上下文的三种形态同一份共享上下文,全量复制、共享前缀与检索句柄在 token、成本与风险上完全不同。本节用三节点样本…
4.24.2 节点间的上下文预算分配同一条编排里,高优先级节点只拿到最小上下文,低优先级节点却用不完预算,这是平均分配的典型结果。本节把…
4.34.3 长任务的会话状态与记忆边界长任务不是把每轮对话无限追加进上下文。本节定义会话状态该存事实、游标、决策与待办,而不是完整转录;用…

第 5 章 失败传播与部分结果

节文章核心内容
5.15.1 失败分类与处理策略上游失败后,下游该跳过、重试、降级还是中止?本节把失败分成可重试、可跳过、可降级、必须中止四类,给出…
5.25.2 部分可用的验收标准上游只交回半份结果时,什么算可用、什么必须拒绝?本节为「回声」三条链定义字段契约:哪些字段必须有、哪…
5.35.3 编排级重试预算与熔断单步 13.02% 的失败上限落到编排层,就变成全局重试预算与节点熔断。本节给出按成功率增量分配预算…

第 6 章 并发、人工与异步

节文章核心内容
6.16.1 并行分支的收益与竞争并行分支不是免费的加速器:它把延迟压到临界路径,却把共享上下文复制到每个分支,还要和同一配额下的其他…
6.26.2 人工介入节点内容发布链上的人工复核既是延迟大头,也是审计责任点。本节把等待、领取、升级、批准、驳回与超时路由写成…
6.36.3 长任务与异步交付长文档摘要与批量审核无法在一次请求里交付,异步任务因此需要自己的状态机、通知去重、回调幂等与断线重连…

第 7 章 编排的质量验收

节文章核心内容
7.17.1 端到端评测集节点测试全绿,用户任务仍然失败,因为评测单位选错了。本节把一条用户任务作为样本单位,定义成功、部分成…
7.27.2 失败归因:哪个节点造成的端到端失败率 1.88%,面板只写「工作流失败」,值班同学无法修复一个叫「工作流」的东西。本节把失败…
7.37.3 回放与可复现调试同一条失败记录,重跑三次得到三个不同结果,日志却只有一句「answer failed」。本节给出一次…

第 8 章 编排的成本与预算

节文章核心内容
8.18.1 把预算分到节点整链预算要同时管 token、成本、延迟与重试四条线。本节用三节点样本把 4,000 微元拆成保底、…
8.28.2 超支时的裁剪顺序超支时最怕临时拍脑袋。本节给出缓存、裁剪上下文、降档、跳过可选节点、拒绝五步裁剪顺序,逐项标出节省、…
8.38.3 编排经济性复核编排是否划算要持续复核,不是上线前算一次。本节用卷二 28.47% 的回本线与 13.02% 的失败…

第 9 章 编排的权限与安全

节文章核心内容
9.19.1 跨能力的权限传播跨能力调用时,权限最容易在节点之间被悄悄放大:节点代理身份比用户更宽、租户范围在交接时丢失、数据标签…
9.29.2 外部动作的授权边界外部动作一旦落地就不可逆:下单、发消息、退款不能只靠模型「觉得可以」。本节把授权拆成主体策略、一次性…
9.39.3 注入在多能力间的传播检索文档里的一句话、工具返回的一段 JSON,都会在下一个节点变成「上文」。注入因此不是单节点问题,…

第 10 章 编排的观测与运维

节文章核心内容
10.110.1 编排链路的最低观测字段单次请求的日志回答不了编排层的四个问题:这次调用属于哪条工作流、上游是谁、第几次尝试、用的哪版模型与…
10.210.2 节点级 SLO 与整体 SLO整体 SLO 达标,节点 SLO 却可能已经红了。本节把三能力链路拆成串行、并行与人工节点,给出可用…
10.310.3 编排事故的止血与复盘摘要节点的单步失败率升到 12%,整条链路成功率掉到 98.12%,错误预算已经烧掉 1.88 倍。…

第 11 章 编排平台化

节文章核心内容
11.111.1 声明式编排与代码编排声明式与代码编排的分界不在语言,而在谁维护、怎么测试、怎么灰度、能力上限在哪。本节用「回声」链路 A…
11.211.2 引擎扩展点与插件边界引擎扩展点不是把内部函数暴露出去,而是用四类稳定接口换取可治理的多样性。本节定义节点类型、策略、存储…
11.311.3 多团队共享能力目录能力目录不是一张 README 表,而是多团队复用的版本契约。本节定义能力名、版本、契约、SLO、成…

第 12 章 演进与边界

节文章核心内容
12.112.1 从单能力到编排的重构「回声」把三个能力从业务代码直连改成编排,经历了三步:先抽节点契约,再抽执行器,最后拆链路。每一步都…
12.212.2 编排版本与灰度编排版本一换,受影响的不只是新请求,还有在途任务、共享状态与语义缓存。本节把灰度拆成租户、流量、任务…
12.312.3 从固定编排到自主 Agent固定编排与自主 Agent 的差别不是智能程度,而是路径能否枚举、步骤是否有上限、失败代价是否可承受…

第 13 章 卷三收口

节文章核心内容
13.113.1 回声的编排基线三条业务链路各跑 240 条确定性样本:A 内容审核 96.25% 通过,B 会话回复 239/24…
13.213.2 一次编排方案评审C 链路 95.00% 的成功率没到 97% 目标,团队提出给下单动作补幂等键与一次补偿重试。本节给…
13.313.3 进入卷四:平台化与治理卷三用三条链路、五个门禁与一次评审回答了多能力怎么协同。本节把结论压缩成五条交接输入,并把卷四要处理…

附录

篇文章核心内容
附录 A附录 A 编排模式与判据速查串行、并行、条件分支、人机混合与异步交付的模式、判据与失效方式。
附录 B附录 B 交接成本与失败传播公式交接 token、复用回本线、整链成功率、重试放大与预算裁剪公式。
附录 C附录 C 编排评审清单十三组六十五问、评审流程、结论模板与上线后复盘表。

实验工程

ai-lab 在卷一、卷二基础上新增 src/orch/:workflow-shape、handoff、graph、context-budget、failure、human、eval、budget、permission、observability、platform、evolution、baseline 等模块。全部零第三方依赖,每个模块配 node --test 用例;书稿代码块与源文件逐字节一致。

上一卷与下一卷

上一卷《推理性能与成本工程》回答“同样边界下怎样更快更省”:度量、调度、缓存、压缩替代、容量、归因与联合门禁。

卷四将讨论平台化与治理:多团队共享能力、多租户配额、评测平台、合规与长期运营。卷三建立的编排契约与观测字段,是卷四治理对象的输入。

全部文章 Books game Java Indie golang 客户端开发 Minigame Saas rust Python
books

《互联网产品的 AI 架构·多能力编排与任务闭环》附录 C 编排评审清单

把卷三的判断压缩成一份可打印的编排评审清单:结构、契约、执行图、上下文、失败、人工与异步、评测、成本、权限、运维、平台化、演进与收口共十三组六十五问,每组附通过判据与常见驳回理由,末页给出四十五分钟评审流程、结论模板、上线后复盘表与三个常见误区。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》附录 B 交接成本与失败传播公式速查

把卷三的交接与失败账目压成可直接代入的公式:交接 token 成本、复用回本线、整链成功率、单步失败预算、重试放大、并行分支期望延迟、节点预算分配与裁剪顺序、每次成功交付成本;每个公式给出变量、代入示例、适用边界与对应章节,并给出一张联用顺序表。

6 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》附录 A 编排模式与判据速查

把卷三用到的五种编排模式压缩成一页可查的判据表:串行、并行(all/any/quorum)、条件分支、人机混合与异步交付,每种给出结构图、适用判据、成本与延迟特征、典型失效方式及对应章节,并附模式选择表与四个提问,帮助在方案评审时快速排除不成立的编排结构。

7 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》13.3 进入卷四:平台化与治理

卷三用三条链路、五个门禁与一次评审回答了多能力怎么协同。本节把结论压缩成五条交接输入,并把卷四要处理的多团队共享、多租户配额、评测平台、合规与长期运营四个问题逐条展开,说明哪些问题在单团队编排里已经解决、哪些必须换一层架构,并给出能力目录与配额的衔接方式。

15 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》12.3 从固定编排到自主 Agent

固定编排与自主 Agent 的差别不是智能程度,而是路径能否枚举、步骤是否有上限、失败代价是否可承受、审计是否可复现。本节给出四项硬判据、加权评分、硬否决与一组运行护栏,并用示例样本跑出六类任务的建议,说明为什么大多数产品请求应保持固定编排。

9 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》12.2 编排版本与灰度

编排版本一换,受影响的不只是新请求,还有在途任务、共享状态与语义缓存。本节把灰度拆成租户、流量、任务类型三个维度,给出新旧版本并行的状态双向兼容检查与缓存隔离规则,并用示例样本跑出分流结果、四类兼容问题,以及可实际执行的回退顺序与放量门禁。

10 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》12.1 从单能力到编排的重构

「回声」把三个能力从业务代码直连改成编排,经历了三步:先抽节点契约,再抽执行器,最后拆链路。每一步都有验收门槛与回退动作,任何一步证据不足都不能继续,以及旧路径的移除策略。本节给出可运行的验收判定、阻断顺序与回退经济学,并用示例样本跑出三步的通过结果。

11 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》11.2 引擎扩展点与插件边界

引擎扩展点不是把内部函数暴露出去,而是用四类稳定接口换取可治理的多样性。本节定义节点类型、策略、存储、观测四类扩展点与插件不能触碰的六条负边界,给出基于引擎 API 版本与 engineRange 的兼容判定、可运行注册表,并说明主次版本升级与扩展点弃用的处理顺序。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》11.1 声明式编排与代码编排

声明式与代码编排的分界不在语言,而在谁维护、怎么测试、怎么灰度、能力上限在哪。本节用「回声」链路 A 的四节点定义给出四条判据与混合方案:结构声明化、节点代码化、边界固定化,说明如何同时保留可治理性、表达力与秒级回滚能力,以及哪些需求必须交回代码。

9 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》10.3 编排事故的止血与复盘

摘要节点的单步失败率升到 12%,整条链路成功率掉到 98.12%,错误预算已经烧掉 1.88 倍。本节给出编排事故的止血顺序:停新任务、降级节点、回滚版本、保数据,再验证恢复;把顺序写成带证据门槛的状态机,并给出一张缺项就不能结案的复盘表。附可运行的 TypeScript 模块与 21 项测试。

10 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》10.2 节点级 SLO 与整体 SLO

整体 SLO 达标,节点 SLO 却可能已经红了。本节把三能力链路拆成串行、并行与人工节点,给出可用率相乘、延迟相加、并行取弱、人工单列的合成规则,并用示例样本跑出 99.0023% 的整体可用率如何掩盖 99.3% 的摘要节点,附可运行的 TypeScript 合成器与 21 项测试。

9 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》10.1 编排链路的最低观测字段

单次请求的日志回答不了编排层的四个问题:这次调用属于哪条工作流、上游是谁、第几次尝试、用的哪版模型与提示。本节给出一次编排 trace 的九个最小字段、节点边界的两段式采集、从事件重建节点树与关键路径的算法,并用三能力样本跑出 4 个 span、3,786 微元与 1,269ms 的确定性结果。

11 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》9.3 注入在多能力间的传播

检索文档里的一句话、工具返回的一段 JSON,都会在下一个节点变成「上文」。注入因此不是单节点问题,而是污点与信任级别在节点间如何传播的问题。本节把信任级别、污点集合与边界判定写成可运行模块,说明什么内容必须隔离、什么节点只能包成数据,并给出示例运行结果。

7 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》9.2 外部动作的授权边界

外部动作一旦落地就不可逆:下单、发消息、退款不能只靠模型「觉得可以」。本节把授权拆成主体策略、一次性令牌、幂等键与人工确认四道闸门,说明谁批准、一次授权为何只能对应一次动作,并给出可运行的 TypeScript 判定模块与十二种场景的示例运行结果。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》9.1 跨能力的权限传播

跨能力调用时,权限最容易在节点之间被悄悄放大:节点代理身份比用户更宽、租户范围在交接时丢失、数据标签被重新合并。本节把用户、编排器与节点代理三层身份拆开,用作用域集合交集实现只收窄不放大的传播,并给出可运行的 TypeScript 实现与示例运行结果。

8 分钟阅读
书稿 互联网产品 AI 架构
books

《互联网产品的 AI 架构·多能力编排与任务闭环》8.2 超支时的裁剪顺序

超支时最怕临时拍脑袋。本节给出缓存、裁剪上下文、降档、跳过可选节点、拒绝五步裁剪顺序,逐项标出节省、质量损失与不可逆性,并用 600、900、1,200 微元三个样本跑出确定性结果;质量下限决定少交付一块还是完全不交付;顺序应按可逆性与质量损失排,而不是按节省金额排。

10 分钟阅读
书稿 互联网产品 AI 架构