全书 45 篇：13 章正文 + 序、前言、目录 + 附录 A/B/C。每节配可运行的 TypeScript 代码，代码块用
// file:/// tier:/// verify:标注，可在实验工程中逐字节还原。
本页是卷一的完整索引。可以从目录与学习路径 按顺序通读，也可以按问题跳读。
全书概览
| 项目 | 内容 |
|---|---|
| 书稿 | 《互联网产品的 AI 架构》卷一 |
| 已发布篇数 | 45 篇（含目录与附录） |
| 主线语言 | TypeScript（Node 26 原生类型剥离，零第三方依赖） |
| 贯穿案例 | 内容社区 + IM + 轻交易「回声」 |
| 阅读方式 | 目录篇顺序通读，或按章节表跳读 |
| 上级专题 | 书稿专题 |
前置
| 篇 | 文章 | 核心内容 |
|---|---|---|
| 序 | 序 | 从两套书结束的地方写起，交代为什么接入模型会变成架构问题、四卷分工与这一卷的边界。 |
| 前言 | 前言 | 四卷分工、贯穿案例「回声」、ai-lab 模块地图、三级可运行性、代码块约定与数字口径。 |
| 目录 | 目录 | 13 章 39 节的结构、章节依赖关系、三条阅读路径与读完卷一应能回答的问题。 |
第 1 章 AI 能力的产品化边界
| 节 | 文章 | 核心内容 |
|---|---|---|
| 1.1 | 1.1 产品里的 AI 能力到底是什么 | 「回声」把智能回复当成模型演示上线后连续踩坑，本节由此区分模型调用与产品能力，把输入、输出、质量、延迟、… |
| 1.2 | 1.2 哪些事该用模型，哪些不该 | 「回声」一次能力盘点列出了智能回复、搜索重排、脱敏、退款审批等候选任务，本节用确定性、可验证性、容错成本… |
| 1.3 | 1.3 ai-lab：从需求到能力契约 | ai-lab 把「回声」的五个能力写成一份可校验清单：智能回复、搜索重排、长文摘要、审核分类、客服辅助，… |
第 2 章 模型选型与能力矩阵
| 节 | 文章 | 核心内容 |
|---|---|---|
| 2.1 | 2.1 模型能力的五个维度 | 从「回声」智能回复的选型争论出发，把模型能力拆成质量、延迟、成本、上下文与可控性五个维度，说明每个维度的… |
| 2.2 | 2.2 选型矩阵：离线评测与在线 A/B | 解释模型榜单为什么不能直接决定选型，并以「回声」的智能回复、内容审核与搜索重排为例，给出硬约束过滤、加权… |
| 2.3 | 2.3 多模型并存的现实 | 多模型并存不是架构失败，而是能力覆盖、质量分层、区域合规与供应关系共同作用的常态。以「回声」的三个模型与… |
第 3 章 模型网关
| 节 | 文章 | 核心内容 |
|---|---|---|
| 3.1 | 3.1 模型网关的职责边界 | 「回声」同时服务主站与两个合作方后，密钥、配额、重试与审计散落在业务代码里。本节给出模型网关的职责判据，… |
| 3.2 | 3.2 统一契约与流式协议 | 业务方不该为每家模型提供方写一套错误处理。本节把网关对外的请求、响应与错误收敛成一套契约，逐字段说明能力… |
| 3.3 | 3.3 ai-lab：实现零依赖模型网关 | 用 node:http 从零实现一个可运行的模型网关：POST /v1/chat 同时支持非流式 JSO… |
第 4 章 多模型路由
| 节 | 文章 | 核心内容 |
|---|---|---|
| 4.1 | 4.1 路由的五个维度 | 从「回声」的三类 AI 调用出发，把多模型路由拆成任务、租户、区域、成本与健康五个维度，说明哪些事实该由… |
| 4.2 | 4.2 优先级、加权与健康回退 | 在五维路由之上实现可测试的候选筛选与排序：按能力、区域、上下文、输出上限和延迟先排除，再按档位优先级与加… |
| 4.3 | 4.3 路由的可解释性与灰度 | 路由必须回答两个问题：为什么选它，以及为什么没选它。本节把路由决策翻译成稳定代码的解释行与排序表，再给出… |
第 5 章 流式输出与交互架构
| 节 | 文章 | 核心内容 |
|---|---|---|
| 5.1 | 5.1 流式的端到端链路 | 从「回声」私信智能回复的首字延迟出发，拆解提供方、网关、BFF 与客户端四段流式链路，逐字节给出统一 S… |
| 5.2 | 5.2 背压、取消与半截响应 | 从用户切走私信页的瞬间出发，说明流式链路为什么需要背压、取消信号与半截响应的收敛，给出有界异步队列与流式… |
| 5.3 | 5.3 流式下的错误与重试语义 | 从一次首帧后自动重试导致回复重复的事故出发，把流式错误分成首帧前与首帧后两段，给出协议内错误事件与连接断… |
第 6 章 上下文与提示的架构位置
| 节 | 文章 | 核心内容 |
|---|---|---|
| 6.1 | 6.1 提示是产物，不是字符串 | 「回声」把运营活动文案整段塞进 system 后，智能回复开始复读活动、忽略用户问题。本节由此说明提示为… |
| 6.2 | 6.2 上下文预算与裁剪 | 「回声」摘要功能把历史、检索结果和工具输出一次性铺满窗口，提供方从尾部截断时把 system 规则一起切… |
| 6.3 | 6.3 提示版本化与发布 | 「回声」一次直接改线上提示、没有版本记录，效果变差后无法回滚，只能凭记忆重写。本节把提示发布做成不可变版… |
第 7 章 结构化输出与工具调用
| 节 | 文章 | 核心内容 |
|---|---|---|
| 7.1 | 7.1 结构化输出的契约与校验 | 从「回声」客服辅助返回的工单建议 JSON 出发，说明为什么只取 JSON Schema 的一个可审查子… |
| 7.2 | 7.2 工具调用：谁执行、谁授权 | 从「回声」模型试图自带 tenantId 查询别家订单、以及直接提议退款两个场景出发，拆开工具调用中“谁… |
| 7.3 | 7.3 解析失败的重试、修复与降级 | 从「回声」客服辅助一次修复仍然失败的工单 JSON 出发，说明解析失败为什么要先分类再决定是否修复，修复… |
第 8 章 延迟、成本与质量
| 节 | 文章 | 核心内容 |
|---|---|---|
| 8.1 | 8.1 端到端延迟预算怎么拆 | 「回声」智能回复承诺 2 秒，团队却把 2000 毫秒直接当成提供方超时，结果网络、排队与后处理叠加后稳… |
| 8.2 | 8.2 Token 成本模型与配额 | 「回声」商家版租户被自己的预留限流三天：拦截分支没有结算，也未释放额度，真实花费不到配额三分之一。本节用… |
| 8.3 | 8.3 质量、成本与延迟的取舍记录 | 「回声」为智能回复选模型，三个月里争论三次、结论三次，却没人说得清上一次为什么那样定。本节把质量、成本与… |
第 9 章 缓存与复用
| 节 | 文章 | 核心内容 |
|---|---|---|
| 9.1 | 9.1 精确缓存、语义缓存与结果复用 | 「回声」的搜索摘要缓存只按查询文本建键，两个租户问同一句退款政策时互相串了结果。本节把精确缓存、语义缓存… |
| 9.2 | 9.2 失效、隐私与多租户隔离 | 提示改版后旧缓存继续返回旧口径，用户注销后摘要仍能被相似问题命中。本节把失效拆成提示换版、模型切换、权限… |
| 9.3 | 9.3 命中率的度量与陷阱 | 「回声」的缓存命中率升到 92%，端到端延迟却变差了。本节把命中率拆成请求、token 与成本三个口径，… |
第 10 章 降级与兜底
| 节 | 文章 | 核心内容 |
|---|---|---|
| 10.1 | 10.1 模型不可用时产品该做什么 | 「回声」的智能回复超时后，前端自动重试三次，把一次故障拖成半小时；同一时刻审核调用也超时，发布按钮却仍然… |
| 10.2 | 10.2 降级策略：小模型、规则、模板、排队 | 「回声」的主模型超时后自动切到小模型，摘要却变成了复读用户问题。本节把降级看成一条有预算、有质量下限、有… |
| 10.3 | 10.3 降级演练与用户可见性 | 「回声」的一次故障开关开了三周，没人敢关，所有用户都在看模板摘要。本节用确定性故障注入、带过期时间的开关… |
第 11 章 安全与信任边界
| 节 | 文章 | 核心内容 |
|---|---|---|
| 11.1 | 11.1 密钥、租户与数据出域 | 从「回声」把合作方租户私信送进主站模型的事故出发，拆解密钥分级与轮换、租户隔离、出域字段白名单和区域路由… |
| 11.2 | 11.2 提示注入与输入信任边界 | 用户在评论里写下「忽略前面的指令」，检索文档里又藏着角色伪造。「回声」的这次事故说明，提示注入不是句子黑… |
| 11.3 | 11.3 输出审查与内容安全接入 | 一次输出拦截没有申诉入口，让「回声」的内容安全接入暴露出规则与流程的双重缺口。本篇给出规则加分类器的双层… |
第 12 章 可观测与计量
| 节 | 文章 | 核心内容 |
|---|---|---|
| 12.1 | 12.1 一次 AI 请求的最小观测字段 | 从「回声」一次查不到模型的线上投诉出发，说明一次 AI 请求必须记录哪些字段、耗时如何拆段、用量与错误类… |
| 12.2 | 12.2 计量、账单与配额对账 | 从「回声」一次账单比预估高 30% 却无法归因的事故出发，说明用量事件如何设计、两层幂等键如何挡住重复投… |
| 12.3 | 12.3 质量信号的线上采集 | 从「回声」一次采纳率 68% 的汇报被用户访谈推翻出发，说明线上质量信号为什么要以曝光为分母、点击率与采… |
第 13 章 卷一收口：ai-lab 能力网关基线
| 节 | 文章 | 核心内容 |
|---|---|---|
| 13.1 | 13.1 能力清单与契约矩阵 | 「回声」的五个 AI 能力散落在五份文档里，评审时才发现摘要没有降级路径、审核却声明了模板兜底。本节把能… |
| 13.2 | 13.2 网关的组合：路由、缓存、降级 | 前十二章的部件都写好了，却没有一条流水线把它们按正确顺序串起来。本节把认证与配额、缓存、路由、调用、校验… |
| 13.3 | 13.3 基线度量与风险清单 | 用 60 条确定性样本跑完基线，得到成功率、P95 延迟、单次成本、缓存命中率与降级率，再按影响乘概率生… |
附录
| 篇 | 文章 | 核心内容 |
|---|---|---|
| 附录 A | 附录 A 术语与判据速查 | 十二组术语的定义、判断条件、常见误用与对应章节，附一页纸十二问。 |
| 附录 B | 附录 B 能力契约与错误码速查 | 能力契约模板、九类错误、可重试判定、HTTP 映射与预算算式。 |
| 附录 C | 附录 C AI 架构评审清单 | 十二组六十问、三十分钟评审流程与结论模板。 |
实验工程
书稿代码全部来自 ai-lab：src/core 放契约与错误、src/gateway 放网关与 mock 供应商、src/routing 放路由、src/stream 放流式、src/prompt 放提示与上下文、src/structured 与 src/tools 放结构化输出与工具边界、src/degrade 放降级、src/observe 放观测。每章至少一个有断言的 node --test 用例。
下一卷
卷二《推理性能与成本工程》从这一卷的预算与计量继续：批处理、并发控制、前缀缓存、量化与蒸馏、容量规划与成本治理。卷一只回答“边界在哪”，卷二回答“同样边界下怎样更便宜更快”。