https://plumephp.com/posts/books/%E4%BA%92%E8%81%94%E7%BD%91%E4%BA%A7%E5%93%81%E7%9A%84ai%E6%9E%B6%E6%9E%84%E6%A8%A1%E5%9E%8B%E6%8E%A5%E5%85%A5%E4%B8%8E%E8%83%BD%E5%8A%9B%E8%BE%B9%E7%95%8C/Recent content in 《互联网产品的 AI 架构·模型接入与能力边界》 · 已发布章节索引（45 篇） on PlumePHPHugozh-CNMon, 02 Nov 2026 11:00:00 +0800https://plumephp.com/inet-ai-base-appendix-c-review/Mon, 02 Nov 2026 11:00:00 +0800https://plumephp.com/inet-ai-base-appendix-c-review/把卷一十三轮的判断压缩成一份可打印的评审清单：能力与契约、网关职责、路由与模型组合、流式、提示与上下文、结构化输出、预算与成本、缓存、降级、安全边界、观测计量、演进入口共十二组六十问，每组附通过判据、常见驳回理由与整改建议，末页给出三十分钟评审流程与结论模板。https://plumephp.com/inet-ai-base-appendix-b-contract/Mon, 02 Nov 2026 10:00:00 +0800https://plumephp.com/inet-ai-base-appendix-b-contract/把卷一反复使用的两类产物压缩成可直接抄用的速查：能力契约模板（六面承诺、请求响应形状、预算与降级字段）与错误模型速查（九类错误、可重试判定、HTTP 映射、用户可见文案、记录字段）；另附五种能力的契约对照、流式事件与结构化输出失败表，以及预算算式与契约评审检查点。https://plumephp.com/inet-ai-base-appendix-a-terms/Mon, 02 Nov 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-appendix-a-terms/把卷一的核心术语与判据压缩成速查表：能力契约、网关、路由、流式、提示、结构化输出、预算、缓存、降级、安全、观测与治理十二组，每组给出定义、判断条件、常见误用与对应章节；另附一页纸十二问与中英对照，可作为评审前的对齐材料，也适合新人快速上手。https://plumephp.com/inet-ai-base-13-3-volume-review/Sun, 01 Nov 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-13-3-volume-review/用 60 条确定性样本跑完基线，得到成功率、P95 延迟、单次成本、缓存命中率与降级率，再按影响乘概率生成风险清单，并给出进入卷二的七项条件。文中数字来自 ai-lab 的示例样本运行结果，不是生产实测；同时说明样本量、阈值与风险分档为什么必须一起写清楚。https://plumephp.com/inet-ai-base-13-2-gateway-baseline/Sun, 01 Nov 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-13-2-gateway-baseline/前十二章的部件都写好了，却没有一条流水线把它们按正确顺序串起来。本节把认证与配额、缓存、路由、调用、校验和降级组合成基线：说明缓存为什么在路由之前、预算如何逐段扣减、命中与降级各记录哪些字段，以及失败时由哪一层负责，并给出可运行实现与九个确定性测试。https://plumephp.com/inet-ai-base-13-1-capability-matrix/Sun, 01 Nov 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-13-1-capability-matrix/「回声」的五个 AI 能力散落在五份文档里，评审时才发现摘要没有降级路径、审核却声明了模板兜底。本节把能力契约收敛成一张六面矩阵：输入、输出、质量、延迟、成本与失败姿态逐项填值，区分契约字段与租户配置，按风险分数排序，并给出可运行的 TypeScript 矩阵视图与缺失面门禁。https://plumephp.com/inet-ai-base-12-3-online-quality-signals/Sat, 31 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-12-3-online-quality-signals/从「回声」一次采纳率 68% 的汇报被用户访谈推翻出发，说明线上质量信号为什么要以曝光为分母、点击率与采纳率差在哪里、重试与转人工如何补足，以及线上指标与离线评测对应的三个前提，附可运行的 TypeScript 采集实现、版本化指标定义与真实测试输出。https://plumephp.com/inet-ai-base-12-2-metering-billing/Sat, 31 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-12-2-metering-billing/从「回声」一次账单比预估高 30% 却无法归因的事故出发，说明用量事件如何设计、两层幂等键如何挡住重复投递、日切为什么是业务策略，以及日结对账如何逐行比较 token 与金额并处理差异，附可运行的 TypeScript 实现、配额窗口与真实测试输出。https://plumephp.com/inet-ai-base-12-1-ai-observability-fields/Sat, 31 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-12-1-ai-observability-fields/从「回声」一次查不到模型的线上投诉出发，说明一次 AI 请求必须记录哪些字段、耗时如何拆段、用量与错误类别如何统一，以及内容脱敏与分层采样如何让观测既够用又不越界；文中给出可逐条断言的 TypeScript 字段契约、脱敏规则、采样分桶与真实测试输出，帮助团队把一次请求追到模型、租户与错误类别。https://plumephp.com/inet-ai-base-11-3-output-guardrail/Fri, 30 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-11-3-output-guardrail/一次输出拦截没有申诉入口，让「回声」的内容安全接入暴露出规则与流程的双重缺口。本篇给出规则加分类器的双层审查、拦截与降级、只存哈希的审计记录与带时限的申诉状态机，用可运行的 TypeScript 测试固定决策顺序、降级行为与已知边界，并说明申诉推翻后为什么不能自动放行原文。https://plumephp.com/inet-ai-base-11-2-injection-boundary/Fri, 30 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-11-2-injection-boundary/用户在评论里写下「忽略前面的指令」，检索文档里又藏着角色伪造。「回声」的这次事故说明，提示注入不是句子黑名单问题，而是信任边界问题。本篇把系统指令、用户内容、检索内容与工具输出分成四层，给出可断言的信号评分、隔离策略和工具参数二次校验，并说明为什么正则只能是信号而不能是唯一防线。https://plumephp.com/inet-ai-base-11-1-keys-tenancy-egress/Fri, 30 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-11-1-keys-tenancy-egress/从「回声」把合作方租户私信送进主站模型的事故出发，拆解密钥分级与轮换、租户隔离、出域字段白名单和区域路由四道边界，给出可运行的 TypeScript 实现与 11 条测试，说明每次放行为什么都要留下可追溯的决策记录，再复盘一次跨租户调用为什么会同时穿过四道默认值。https://plumephp.com/inet-ai-base-10-3-degrade-drill/Thu, 29 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-10-3-degrade-drill/「回声」的一次故障开关开了三周，没人敢关，所有用户都在看模板摘要。本节用确定性故障注入、带过期时间的开关和恢复断言，把降级策略变成可以反复演练的代码，并复盘一次只检查动作、忽略用户文案的演练失败，说明恢复结果为什么必须写进演练报告，而不是留成一句口头承诺。https://plumephp.com/inet-ai-base-10-2-degrade-strategies/Thu, 29 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-10-2-degrade-strategies/「回声」的主模型超时后自动切到小模型，摘要却变成了复读用户问题。本节把降级看成一条有预算、有质量下限、有风暴保护的链：小模型、规则、模板、排队各自分工，选择顺序由产品写死，并讨论预算、代价与降级风暴的规避，最后用可运行的 TypeScript 实现选链与逐步执行。https://plumephp.com/inet-ai-base-10-1-degrade-behavior/Thu, 29 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-10-1-degrade-behavior/「回声」的智能回复超时后，前端自动重试三次，把一次故障拖成半小时；同一时刻审核调用也超时，发布按钮却仍然可点。本节把 AI 能力按可缺、可弱、必须阻塞分级，明确每种信号下的动作与用户文案，并用可运行的 TypeScript 把策略校验和批量编排固定下来。https://plumephp.com/inet-ai-base-09-3-cache-metrics/Wed, 28 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-09-3-cache-metrics/「回声」的缓存命中率升到 92%，端到端延迟却变差了。本节把命中率拆成请求、token 与成本三个口径，说明为什么必须按能力与租户分层、精确命中与语义命中要分开、缓存污染与语义误命中要单独计数，并给出可运行的 TypeScript 分层指标实现。https://plumephp.com/inet-ai-base-09-2-cache-invalidation/Wed, 28 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-09-2-cache-invalidation/提示改版后旧缓存继续返回旧口径，用户注销后摘要仍能被相似问题命中。本节把失效拆成提示换版、模型切换、权限调整与用户删除四类传播范围，说明作用域纪元如何挡住迟到的旧写回，并给出可运行的 TypeScript 失效器、删除权传播与完整隔离测试。https://plumephp.com/inet-ai-base-09-1-cache-layers/Wed, 28 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-09-1-cache-layers/「回声」的搜索摘要缓存只按查询文本建键，两个租户问同一句退款政策时互相串了结果。本节把精确缓存、语义缓存与结果复用拆成三层，讲清作用域键的五个要素、字符二元组相似度与 0.72 阈值、订单号与动作词两道护栏，并给出可运行的 TypeScript 实现与测试。https://plumephp.com/inet-ai-base-08-3-tradeoff-adr/Tue, 27 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-08-3-tradeoff-adr/「回声」为智能回复选模型，三个月里争论三次、结论三次，却没人说得清上一次为什么那样定。本节把质量、成本与延迟的取舍写成 ADR：先用护栏排除不可行方案，再按显式优先级选择，用六个可计算条件触发复核，并附可测试的 TypeScript 实现。https://plumephp.com/inet-ai-base-08-2-token-cost/Tue, 27 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-08-2-token-cost/「回声」商家版租户被自己的预留限流三天：拦截分支没有结算，也未释放额度，真实花费不到配额三分之一。本节用整数微元、租户/能力/模型三维计量、预留与结算、失败也记账和 TTL 回收，搭一个可测试的成本账本，并复盘这次泄漏从发生到被发现的每一步。https://plumephp.com/inet-ai-base-08-1-latency-budget/Tue, 27 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-08-1-latency-budget/「回声」智能回复承诺 2 秒，团队却把 2000 毫秒直接当成提供方超时，结果网络、排队与后处理叠加后稳定超时。本节把端到端预算拆成网络、排队、首 token、生成与后处理五段，给出整数毫秒分配、超时传播与审计代码，用 Node 测试逐毫秒验证，并复盘一次余量被当成预算的事故。https://plumephp.com/inet-ai-base-07-3-repair-degrade/Mon, 26 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-07-3-repair-degrade/从「回声」客服辅助一次修复仍然失败的工单 JSON 出发，说明解析失败为什么要先分类再决定是否修复，修复提示如何把 Schema、失败明细和原始输出隔离，修复预算为什么同时限制次数、时间盒与提示长度，并给出失败后转人工队列或模板降级的可测试实现。https://plumephp.com/inet-ai-base-07-2-tool-call-boundary/Mon, 26 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-07-2-tool-call-boundary/从「回声」模型试图自带 tenantId 查询别家订单、以及直接提议退款两个场景出发，拆开工具调用中“谁提议、谁授权、谁执行”三段职责，给出工具白名单、角色、租户注入、参数校验、副作用分级与单轮次数上限的可测试实现，并说明确认为什么必须绑定到具体调用 id。https://plumephp.com/inet-ai-base-07-1-structured-output/Mon, 26 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-07-1-structured-output/从「回声」客服辅助返回的工单建议 JSON 出发，说明为什么只取 JSON Schema 的一个可审查子集，如何把必填、枚举、范围与多余字段变成可定位的问题码，并给出一个零依赖校验器与一次真实的失败分类，让解析失败从“模型不稳定”变成可测量、可回归的工程输入。https://plumephp.com/inet-ai-base-06-3-prompt-versioning/Sun, 25 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-06-3-prompt-versioning/「回声」一次直接改线上提示、没有版本记录，效果变差后无法回滚，只能凭记忆重写。本节把提示发布做成不可变版本、变更记录、确定性灰度与回滚，并要求提示与模型快照精确绑定，配可运行的 TypeScript 注册表与完整测试，并把发布审计写进事件日志。https://plumephp.com/inet-ai-base-06-2-context-budget/Sun, 25 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-06-2-context-budget/「回声」摘要功能把历史、检索结果和工具输出一次性铺满窗口，提供方从尾部截断时把 system 规则一起切掉，模型开始编造。本节把上下文分成 system、历史、检索、工具四类，给出类别上限与全局裁剪顺序，并用可运行的 TypeScript 实现确定性预算规划与测试。https://plumephp.com/inet-ai-base-06-1-prompt-as-artifact/Sun, 25 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-06-1-prompt-as-artifact/「回声」把运营活动文案整段塞进 system 后，智能回复开始复读活动、忽略用户问题。本节由此说明提示为什么是产物而不是字符串：模板、变量声明、版本、所有者与评审缺一不可，并用可运行的 TypeScript 实现受限模板语法、编译期变量校验与严格渲染，最后复盘一次靠记忆改提示的事故。https://plumephp.com/inet-ai-base-05-3-stream-errors/Sat, 24 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-05-3-stream-errors/从一次首帧后自动重试导致回复重复的事故出发，把流式错误分成首帧前与首帧后两段，给出协议内错误事件与连接断开的分工、可测试的重试决策函数，并用 node --test 验证重试上限、不可重试错误、续传位置与客户端呈现，以及首帧后失败的界面取舍。https://plumephp.com/inet-ai-base-05-2-backpressure-cancel/Sat, 24 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-05-2-backpressure-cancel/从用户切走私信页的瞬间出发，说明流式链路为什么需要背压、取消信号与半截响应的收敛，给出有界异步队列与流式控制器的完整 TypeScript 实现，并用 node --test 验证队列容量、背压挂起、取消时机、断流收敛、保底计量与成本漏记。https://plumephp.com/inet-ai-base-05-1-stream-pipeline/Sat, 24 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-05-1-stream-pipeline/从「回声」私信智能回复的首字延迟出发，拆解提供方、网关、BFF 与客户端四段流式链路，逐字节给出统一 StreamEvent 协议与增量翻译管线代码，用 node --test 验证首帧、增量、计量与结束帧的顺序不变量，并复盘一次直接透传厂商流的事故。https://plumephp.com/inet-ai-base-04-3-routing-explain/Fri, 23 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-04-3-routing-explain/路由必须回答两个问题：为什么选它，以及为什么没选它。本节把路由决策翻译成稳定代码的解释行与排序表，再给出按租户和按请求两种确定性灰度方式，用基点与哈希保证同一租户或同一请求的结果可复现，并说明灰度目标为何必须在候选内提升，以及解释如何用于故障复盘，附完整测试。https://plumephp.com/inet-ai-base-04-2-routing-policy/Fri, 23 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-04-2-routing-policy/在五维路由之上实现可测试的候选筛选与排序：按能力、区域、上下文、输出上限和延迟先排除，再按档位优先级与加权分数排序，并用熔断状态处理健康回退与冷却后的半开再进入，最终给出确定性的 TypeScript 路由器、可审计的拒绝原因与六组完整测试。https://plumephp.com/inet-ai-base-04-1-routing-dimensions/Fri, 23 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-04-1-routing-dimensions/从「回声」的三类 AI 调用出发，把多模型路由拆成任务、租户、区域、成本与健康五个维度，说明哪些事实该由业务侧声明、哪些必须由网关实时掌握，并用可运行的 TypeScript 规划器与审计函数把维度主权固定下来，最后复盘一次便宜模型把长文摘要截断的事故。https://plumephp.com/inet-ai-base-03-3-lab-gateway/Thu, 22 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-03-3-lab-gateway/用 node:http 从零实现一个可运行的模型网关：POST /v1/chat 同时支持非流式 JSON 与 SSE 流式，认证、校验、执行由阶段组合器串联，测试在 127.0.0.1:0 上真实监听端口，并断言 HTTP 状态、响应体与每一帧事件。https://plumephp.com/inet-ai-base-03-2-gateway-contract/Thu, 22 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-03-2-gateway-contract/业务方不该为每家模型提供方写一套错误处理。本节把网关对外的请求、响应与错误收敛成一套契约，逐字段说明能力、预算、用量与降级，解释提供方错误码为什么必须留在网关内部，并给出按契约实现、可确定性测试的 mock provider，作为 3.3 实验的提供方基座。https://plumephp.com/inet-ai-base-03-1-gateway-responsibilities/Thu, 22 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-03-1-gateway-responsibilities/「回声」同时服务主站与两个合作方后，密钥、配额、重试与审计散落在业务代码里。本节给出模型网关的职责判据，区分必须收进来的公共策略与必须留在业务层的语义，并用可运行的阶段组合器把认证、配额、执行与收尾串成一条可观测链路，同时说明哪些逻辑一旦放进来就会形成新的耦合源。https://plumephp.com/inet-ai-base-02-3-multi-model-reality/Wed, 21 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-02-3-multi-model-reality/多模型并存不是架构失败，而是能力覆盖、质量分层、区域合规与供应关系共同作用的常态。以「回声」的三个模型与四个能力为例，说明能力覆盖矩阵、冗余度与单提供方风险如何计算，给出缺口分析的 TypeScript 实现与测试，并讨论组合治理节奏与降级路径。https://plumephp.com/inet-ai-base-02-2-selection-matrix/Wed, 21 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-02-2-selection-matrix/解释模型榜单为什么不能直接决定选型，并以「回声」的智能回复、内容审核与搜索重排为例，给出硬约束过滤、加权评分与并列处理的 TypeScript 实现，划分离线评测集与在线 A/B 各自负责的问题，附可运行测试与矩阵维护方法，说明选型结论何时会过期。https://plumephp.com/inet-ai-base-02-1-model-quality-dimensions/Wed, 21 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-02-1-model-quality-dimensions/从「回声」智能回复的选型争论出发，把模型能力拆成质量、延迟、成本、上下文与可控性五个维度，说明每个维度的产品口径与常见误读，并用 TypeScript 实现档案校验、混合成本折算与统一打分，附可运行测试，讨论五个维度在预算约束下如何互相换算。https://plumephp.com/inet-ai-base-01-3-lab-capability-spec/Tue, 20 Oct 2026 18:00:00 +0800https://plumephp.com/inet-ai-base-01-3-lab-capability-spec/ai-lab 把「回声」的五个能力写成一份可校验清单：智能回复、搜索重排、长文摘要、审核分类、客服辅助，每个能力都固定输入输出、质量下限、延迟与成本预算和失败语义；本节给出清单校验器的可运行 TypeScript 实现与测试，并说明后面十二章如何围绕这份清单展开。https://plumephp.com/inet-ai-base-01-2-use-model-or-not/Tue, 20 Oct 2026 14:00:00 +0800https://plumephp.com/inet-ai-base-01-2-use-model-or-not/「回声」一次能力盘点列出了智能回复、搜索重排、脱敏、退款审批等候选任务，本节用确定性、可验证性、容错成本、数据敏感度四个判据把它们收敛成规则、模型、人工三选一，并附可运行的 TypeScript 判据函数与测试，复盘一次用模型做手机号脱敏导致的漏判事故。https://plumephp.com/inet-ai-base-01-1-capability-contract/Tue, 20 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-01-1-capability-contract/「回声」把智能回复当成模型演示上线后连续踩坑，本节由此区分模型调用与产品能力，把输入、输出、质量、延迟、成本、失败语义写成六面契约，并用可运行的 TypeScript 类型与测试固定下来，说明为什么能力标识、微元成本、剩余预算和降级原因必须在编码前谈清楚。https://plumephp.com/inet-ai-base-toc/Mon, 19 Oct 2026 11:00:00 +0800https://plumephp.com/inet-ai-base-toc/《互联网产品的 AI 架构·模型接入与能力边界》的完整目录与学习路径：13 章 39 节从能力契约、模型选型、网关、路由、流式、提示、结构化输出，讲到延迟成本、缓存、降级、安全、观测与卷一收口；附三卷分工、三条阅读路径、实验工程与读完应能回答的十二个问题。https://plumephp.com/inet-ai-base-preface/Mon, 19 Oct 2026 10:00:00 +0800https://plumephp.com/inet-ai-base-preface/交代卷一的读法：13 章怎样分工、每章的四段式结构、ai-lab 的模块地图与三级验证、Node 26 的代码约定、章间依赖、数字口径与团队用法；另附三个动手练习、自检清单与每章产出物，帮助读者把“会调模型”推进到“能对产品承诺一项能力”。https://plumephp.com/inet-ai-base-foreword/Mon, 19 Oct 2026 09:00:00 +0800https://plumephp.com/inet-ai-base-foreword/从《互联网产品的服务端架构》与《互联网产品的客户端架构》结束的地方出发，说明为什么把模型接进产品会变成一个架构问题：能力契约、网关边界、失败语义、降级与计量缺一不可；并交代本卷的四个判断、适用读者、与站内专题的分工，以及代码、版本与数字口径。