《后端架构设计·高性能与高可用》5.2 舱壁隔离与资源配额
在 arch-lab 订单服务上给库存、支付、通知三个下游分别实现信号量舱壁与令牌桶配额,用真实测试证明支付被拖慢时库存与通知仍在 18ms 内完成,并给出按 Little 定律计算并发配额、OVERLOADED/RATE_LIMITED 错误码与舱壁过小的退出条件。
tag
在 arch-lab 订单服务上给库存、支付、通知三个下游分别实现信号量舱壁与令牌桶配额,用真实测试证明支付被拖慢时库存与通知仍在 18ms 内完成,并给出按 Little 定律计算并发配额、OVERLOADED/RATE_LIMITED 错误码与舱壁过小的退出条件。
在 arch-lab 订单服务上实现有界工作池与连接池租约模型:队列上限、等待超时、三种拒绝策略、在途与排队指标、泄漏检测;用 1200 个任务真实对比 1/4/16/64 个 worker 的吞吐与排队,并给出 Java 21 线程池对照、本机命令与原始输出。
以 arch-lab 订单事件流为例,实现按 order_id 分区的顺序消费、积压年龄指标、重试上限后进入 DLQ、修复后重放,以及带窗口与 grace 的定时对账,覆盖乱序、毒消息和缺失事件测试,并给出 30s/2min 告警阈值与对账口径,附本机真实输出。
以 arch-lab 通知消费者为例,实现 message_id 去重表、PROCESSING 租约与 DONE 终态,覆盖重复投递、并发重复和处理中崩溃后重试,并说明恰好一次在业务层的真实含义、去重窗口与代理重投窗口的边界,附本机 -race 真实输出。
以 arch-lab 订单创建为样本,对照同步预留加通知与 outbox 异步发布两条路径,用 200 单真实 go test 量化用户等待和一致性延迟,并列出可异步步骤、绝不可异步步骤,以及失败可见性、补偿、对账与积压治理的代价,附本机单次运行数字。
在 arch-lab 的订单商品快照读路径上实现 singleflight、空值缓存、TTL 抖动和热 key 本地副本,用 200 个并发请求真实对比无保护与合并回源的回源次数,并说明每道保护的副作用、可观测指标、关闭条件与本机真实测量输出。
在 arch-lab 的订单商品快照写路径上实现 cache-aside、版本底线与删除重试队列,用两个测试复现“更新库后删缓存失败”和“并发读写把旧值回填”的窗口,比较双删、版本号与逻辑过期的代价,并给出带可观测指标的退出条件与适用边界。
在 arch-lab 的订单商品快照读路径上实现带 TTL 与 LRU 的 L1 本地缓存和 L2 端口,用可注入时钟测试淘汰、过期与并发读写,再用 20 万次 80/20 请求测出真实命中率、回源次数,并给出容量规划、失效边界和并发测试的真实输出。
说明压测结果为什么不能把各实例 P99 取平均:用桶计数合并的 Go 实现与测试证明平均 P99 会低估长尾;再给出基于目标利用率、N+1 故障域与扩容阈值的容量余量公式和 arch-lab 订单系统算例,并列出只能写「不可判定」的证据条件。
用 arch-lab 订单系统实现固定到达间隔的开环 loadgen,并与固定 worker 的闭环对照;真实运行展示服务变慢时闭环如何因协调遗漏少报延迟,附原始输出、数据构造、预热、回放比例与脱敏边界,以及超时统计、并发上限与报告口径的读法。
以 arch-lab 订单系统为例,把日订单量、峰值系数与下单事务的请求放大倍数换算成峰值 QPS 和并发数;实现 Little's Law 计算器与 24 小时峰值系数校验,附表驱动测试、本机微基准和一组区分目标值、示例值与实测值的容量结论,并说明 P99 并发为何是安全包络。
实现一个支持顺序、并行和重试预留的延迟预算分配器,用 context.WithDeadline 把剩余预算传给下游,并用真实测试证明超时不会被重试放大、预留不会被并发叠加,最后给出 arch-lab 下单链路的预算表、降级优先级与退出条件,附五次真实运行输出。
用一个单锁计数与 64 分片锁的可比基准,真实运行 go test -bench -benchmem -cpuprofile -mutexprofile 并用 go tool pprof -top 读取输出,说明如何从 profile 区分锁竞争、分配和 I/O 等待,最后给出 arch-lab 订单服务的最小排查顺序。
从固定桶直方图和分位数出发,用 1000 次本机 httptest 请求测出 P50/P99/P999,再用十路扇出的概率算式解释尾延迟放大,并给出订单链路成功、失败、超时分开统计的读数口径与可运行 Go 代码,附三次真实运行的命令与原始输出。
《后端架构设计·高性能与高可用》的阅读入口:13 章分四段的结构、章节依赖图、三条阅读路径、症状到章节的对照表、arch-lab 在卷二新增的度量与治理组件与代码分级、实测值与目标值的口径,以及从延迟预算、容量估算到高可用改造和故障演练的完整链路。
说明卷二怎么用:arch-lab 在性能与高可用主题下新增哪些组件、L1–L4 验收标准如何判定、代码块标记与抽取方式、压测器和故障注入的复现口径、五组固定场景、两种阅读路线、每篇的常见失败模式,以及本书对实测值、目标值、示例值和未执行部分的处理承诺。
为什么卷一之后还要单独写性能与高可用:边界决策回答不了代价问题。这篇序用三个常见场景说明卷二的问题意识,交代四个立场、arch-lab 的延续方式、Go 主线与 Java 21 对照的口径,以及本书对实测数字、单机结论、复现环境和未覆盖范围的明确承诺。
《后端架构设计》卷二全 45 篇:以 Go 订单系统 arch-lab 为主线,从吞吐与尾延迟讲到容量、缓存、异步、资源池、限流熔断、超时重试、高可用拓扑、发布、观测、数据层与改造验收;含序、前言、目录、附录 A–C 与三条阅读路径。
一份可直接用于架构评审的检查清单:覆盖问题与约束、业务边界、模块依赖、接口契约、数据一致性、异步幂等、安全信任、部署运维、演进治理九个部分,每项给出通过标准与红旗信号,并附按变更类型裁剪的方法、评审记录模板、结论口径和十种常见失败模式与使用建议。
以 arch-lab 订单系统为例,把同一套值对象、端口、密封结果、状态机与补偿逻辑分别用 Go 1.26 和 Java 21 实现并真实运行,对照错误处理、可空性、接口闭合性以及 goroutine 与虚拟线程的并发模型差异,并给出双向迁移检查表与常见误译。