《互联网产品的 AI 架构·推理性能与成本工程》 · 已发布章节索引(45 篇)
《互联网产品的 AI 架构·推理性能与成本工程》全 45 篇:13 章正文覆盖延迟与吞吐度量、调度与并发、上下文与输出、缓存与压缩替代、离线批处理、容量规划、成本归因、对照实验、质量联合门禁与规模化稳定性;附序、前言、目录与三篇附录,配可运行的 TypeScript 实验工程。
category
《互联网产品的 AI 架构·推理性能与成本工程》全 45 篇:13 章正文覆盖延迟与吞吐度量、调度与并发、上下文与输出、缓存与压缩替代、离线批处理、容量规划、成本归因、对照实验、质量联合门禁与规模化稳定性;附序、前言、目录与三篇附录,配可运行的 TypeScript 实验工程。
把卷四的治理组件放到 Go 1.26 与 Java 21 两种运行时里做结构对照:配置与开关、指标与上下文、限流与并发、健康检查与优雅停机、金丝雀状态机与策略求值,说明哪些能力来自语言、哪些来自框架,并明确 Java 代码为未在本机运行的示例。
卷三附录 B:只做结构对照,不排名。覆盖 goroutine 与虚拟线程的调度和阻塞语义、CompletableFuture 与 context 的取消传播、ReentrantLock 与 sync.Mutex 的重入差异、Clock 与 time.Time 的单调时钟、ConcurrentHashMap 与 sync.Map 的适用边界,以及分布式 ID、租约、重试的库生态差异。
双写不是把同一份数据写两遍就结束,真正决定成败的是写入顺序、次写失败后的降级、双读比对口径,以及兼容窗口何时关闭。本节把顺序、差异率、窗口状态与到期决策写成纯函数,用可复现的样本回答两个问题:数据到底差多少,旧路径什么时候可以删,以及删除之前还需要哪些证据。
《群岛纪元》两个服合并,公告发出十分钟就收到重名、公会名与排行榜投诉;《泡泡工坊》小服合并后邮件附件重复、好友列表指向不存在的角色。本节列出合服的全部冲突面,给出确定性 ID 映射、分批迁移、提交门禁与回滚边界,并讨论玩家在停服窗口里应当看到什么。
把卷四 13 章的判据压缩成可查表:拆分触发条件与退出条件、契约兼容矩阵、服务发现与网关参数、配置与开关分类、SLI 与错误预算、混沌演练、发布阶段、租户隔离、平台能力与成本归因,每张表都给出阈值来源、证据要求、失败回退动作与正文对应章节,便于评审时逐项核对。
卷三附录 A:用判据、反例与业务映射三种口径整理线性一致、顺序一致、因果一致、读己之写、单调读和最终一致,说明崩溃停止、崩溃恢复、消息丢失、重复、分区与拜占庭六类故障语义,纠正 CAP 与 PACELC 的常见误读,并给出订单、库存、支付不变量到最弱一致性模型的对照表。
《裂隙战场》跨服赛的结算单重复回传,玩家领到两份奖励;《群岛纪元》的活动积分带回时被上限截断,客服说不清差额去了哪里。本节划清主服与跨服的资产边界,给出只读、冻结、带回三种归属模式,以及幂等回传、补偿队列与对账差异的处理规则,并说明补偿队列为何必须按结算单去重。
崩溃、ANR 与卡顿不是同一种数据:崩溃能在进程内捕获,ANR 只能下次启动补报,OOM 击杀只能推断,卡顿必须按帧采样。本节给出三类比率的分母口径、采集 SDK 的初始化时序与失败降级,并用可运行模型校验字段最小化与崩溃循环的分级上传策略。
《裂隙战场》跨区排位首周出现票据挂起、扩容失败与重复报名三起事故。本节把跨服报名拆成只读快照、冻结额度与有期限票据,给出赛区划分的硬软约束、票据四态机、失败补偿边界,并用可运行的 Go 夹具演示签发、锁定、消费、作废与过期扫描,解释扩容失败为何要快速失败而不是重试。
绞杀者替换的关键不是一次删掉旧代码,而是让新旧路径同时存在,并按用户、端与功能分桶逐步放量。本节把路由比例、白名单与 holdback、确定性哈希、接管进度和回退写成可测试的纯函数,让每一次请求都能解释自己为什么走新路径或旧路径,也说明如何判断迁移是否真正完成。
《泡泡工坊》一次支付回调超时,渠道扣了款、游戏侧却没发货;《群岛纪元》的跨服结算单与角色账本差了三笔。本节划出必须对账的四类异步结果,给出差异分类、补偿预算与转人工边界,并用可运行的 Go 夹具演示差异分类、批次断点续跑、单实例选主与幂等重放。
从一份永远排不上期的技术债清单出发,把债务治理拆成条目字段、严重度与影响面、偿还排期、逾期标记与季度节奏五部分,给出可运行的 TypeScript 模块与测试。文中说明优先级分数、容量约束、逾期判据与季度摘要,并解释为什么台账不能变成许愿池。
《群岛纪元》赛季结算夜,队列只有 12 万条、没到告警阈值,最老消息却已等了 47 分钟;《裂隙战场》把失败结算丢回队尾重试,后到的结算先执行,同一局被扣了两次分。本节比较条数、字节与最老消息年龄三个积压指标,拆开顺序与并发的取舍,并给出毒消息隔离与幂等重放的可运行夹具。
《群岛纪元》一次 broker 切换让庆典邮件重投,发奖服务没有幂等,同一份奖励发了两次。本节把 at-most-once、at-least-once 与“业务幂等换 exactly-once”放回北辰三款产品的具体链路,给出延迟、顺序、积压、运维四维选型判据,以及消息键、版本、重试头与死信地址的生产消费契约。
《潮汐方舟》多区域发行的事故复盘:商店区域、服务区域、内容分级与语言必须拆成四个轴,分级结论要驱动资源变体、概率披露与购买限制,区域覆盖包必须原子应用,语言选择不能靠设备推断。隐私与数据出境只给接口边界,不做法律判断,并给出可运行配置模型与工程边界。
把卷一十三轮的判断压缩成一份可打印的评审清单:能力与契约、网关职责、路由与模型组合、流式、提示与上下文、结构化输出、预算与成本、缓存、降级、安全边界、观测计量、演进入口共十二组六十问,每组附通过判据、常见驳回理由与整改建议,末页给出三十分钟评审流程与结论模板。
从一次合并后三周无人认领的线上问题出发,把代码所有权拆成路径规则、owner 映射、覆盖度、评审路由与无人负责路径识别五部分,给出可运行的 TypeScript 模块与测试。文中说明优先级覆盖、通配规则边界、兜底 owner 的取舍,以及所有权规则为什么会悄悄失效。
四卷收口篇把前三卷与卷四的能力整理成一张可校验的覆盖矩阵:用 L0 到 L3 的成熟度和文档、测试、演练、遥测四类证据约束声明,用依赖图与环检测排出路线顺序,并拒绝过期或越级的证据;给出可运行的 Go 校验器、跨四卷的示例矩阵与真实测试输出,最后说明这套治理如何持续运转。
把卷一反复使用的两类产物压缩成可直接抄用的速查:能力契约模板(六面承诺、请求响应形状、预算与降级字段)与错误模型速查(九类错误、可重试判定、HTTP 映射、用户可见文案、记录字段);另附五种能力的契约对照、流式事件与结构化输出失败表,以及预算算式与契约评审检查点。