《后端架构设计·高性能与高可用》5.2 舱壁隔离与资源配额
在 arch-lab 订单服务上给库存、支付、通知三个下游分别实现信号量舱壁与令牌桶配额,用真实测试证明支付被拖慢时库存与通知仍在 18ms 内完成,并给出按 Little 定律计算并发配额、OVERLOADED/RATE_LIMITED 错误码与舱壁过小的退出条件。
tag
在 arch-lab 订单服务上给库存、支付、通知三个下游分别实现信号量舱壁与令牌桶配额,用真实测试证明支付被拖慢时库存与通知仍在 18ms 内完成,并给出按 Little 定律计算并发配额、OVERLOADED/RATE_LIMITED 错误码与舱壁过小的退出条件。
在线状态一旦涉及隐私,就不再是「显示什么」,而是「允许谁看到什么证据」。本节把可见性、关系、拉黑与连接降级组合成一张展示决策表,明确 unknown 与 offline 的差别,给出可运行实现与测试,并复盘一次隐藏在线后仍能从活跃时间反推的事故。
在 arch-lab 订单服务上实现有界工作池与连接池租约模型:队列上限、等待超时、三种拒绝策略、在途与排队指标、泄漏检测;用 1200 个任务真实对比 1/4/16/64 个 worker 的吞吐与排队,并给出 Java 21 线程池对照、本机命令与原始输出。
输入中状态不是一次事件,而是一份几秒后自动过期的租约。本节用本地节流、远端超时、会话隔离与停发条件,把「正在输入」压成低频心跳,给出丢包、乱序、进程被杀与幽灵输入四类故障下的可运行实现与假时钟测试,并复盘一次每键发送导致群聊广播风暴、指示器随机闪烁的事故。
以 arch-lab 订单事件流为例,实现按 order_id 分区的顺序消费、积压年龄指标、重试上限后进入 DLQ、修复后重放,以及带窗口与 grace 的定时对账,覆盖乱序、毒消息和缺失事件测试,并给出 30s/2min 告警阈值与对账口径,附本机真实输出。
客户端看到的「在线」不是事实,而是一次带衰减的观测。本节把 presence 拆成最后活跃时间、online/away/offline/unknown 四态与 TTL 过期,给出窗口判定、下一次转换时间与最后活跃文案的纯函数实现,并复盘一次把 socket 连通当成在线、导致用户对着「幽灵在线」发消息的事故。
重连后只拉最新一条,会让中间的缺口永远补不上。本节用已收序列号维护连续高水位,按批生成补拉区间,把补拉结果与实时推送合并去重,并复盘一次「重连只同步最新消息」导致的历史消息永久丢失,说明补拉报告如何表达未完成状态,以及服务端历史过期后端上必须承认的边界。
以 arch-lab 通知消费者为例,实现 message_id 去重表、PROCESSING 租约与 DONE 终态,覆盖重复投递、并发重复和处理中崩溃后重试,并说明恰好一次在业务层的真实含义、去重窗口与代理重投窗口的边界,附本机 -race 真实输出。
同一条消息可能因重连补发、重试或多路径到达两次,晚到的消息也可能插到已经读过的位置。本节区分消息 id 与序列号,给出端上的去重集合、乱序缓冲窗口与冲突判定,并用可运行代码证明端上只能保证最终有序,不能保证实时有序,还会说明窗口边界与冲突上报为什么决定了故障是否可观测。
断线在移动端是常态。本节把重连拆成失败分类、指数退避、抖动与上限四个决策,给出一个可测试的纯函数退避模块,并复盘一次服务端重启后所有客户端同时重连、把网关打满的事故,最后说明网络从离线恢复时为什么要立即重连并清零计数,以及如何用确定随机源验证风暴是否真的被摊开。
以 arch-lab 订单创建为样本,对照同步预留加通知与 outbox 异步发布两条路径,用 200 单真实 go test 量化用户等待和一致性延迟,并列出可异步步骤、绝不可异步步骤,以及失败可见性、补偿、对账与积压治理的代价,附本机单次运行数字。
在 arch-lab 的订单商品快照读路径上实现 singleflight、空值缓存、TTL 抖动和热 key 本地副本,用 200 个并发请求真实对比无保护与合并回源的回源次数,并说明每道保护的副作用、可观测指标、关闭条件与本机真实测量输出。
在 arch-lab 的订单商品快照写路径上实现 cache-aside、版本底线与删除重试队列,用两个测试复现“更新库后删缓存失败”和“并发读写把旧值回填”的窗口,比较双删、版本号与逻辑过期的代价,并给出带可观测指标的退出条件与适用边界。
实时通道会断,产品不能跟着白屏。本节把连接状态映射成角标、自动插入、输入中、评论框与在线状态五种能力,给出暂停、手动、排队、禁用四类降级模式与恢复顺序,让页面在弱网下仍能读缓存、写草稿、手动刷新;队列只接受可幂等重放的写操作,并复盘一次整页空白事故。
在 arch-lab 的订单商品快照读路径上实现带 TTL 与 LRU 的 L1 本地缓存和 L2 端口,用可注入时钟测试淘汰、过期与并发读写,再用 20 万次 80/20 请求测出真实命中率、回源次数,并给出容量规划、失效边界和并发测试的真实输出。
连接不是一个 connected 布尔值,而是 idle、connecting、open、reconnecting、closed、failed 之间的迁移。本节用可测试的状态机定义合法迁移、后退钩子、页面切后台与恢复、卸载清理,并复盘旧连接回调把新连接误标为 open 的事故。
卷三《叙事体验与路径度量》的附录:把度量侧的规格输入、六个代理指标的口径、五个定义式与本卷工作区的文件清单汇成一张可核对的总表,并给出可运行性命令与排错顺序。全部数字均来自本机实跑,随正文各章一并更新,便于在写新章节或修改叙事规格时随时对照、重跑与核对。
残差算出来了,可超过多少才算告警?本节把阈值写成一条显式策略:先算声明基数当分母,取它的四分之一作默认阈值,再把上一节的七种规格变异逐个判定;最后扫描阈值的取值区间,看清阈值过紧与过松各自把告警变成什么样。残差与残差率全部是代理指标,只做相对比较。
一致性残差只有能在规格改动后朝正确方向移动,才是可用的回归信号。本节在内存克隆上做七种规格变异——补声明域、给秘密与禁则加门、清掉立场提供者,以及一次故意的回归——把残差重算成一张回归表,再用修复阶梯与信任门两条扫描检查单调性。残差全部是代理指标,只做相对比较。
把「声明」与「行为」对齐后统计失配计数:声明来自角色的 affinity / secret、派系 stance 与规则,行为来自选项的 when / effects 与采样路径。本节把一致性残差量成四个整数——声明域 D、秘密 K、立场 S、规则 R,并沿 2000 条路径量路径实现率,全部显式声明为 proxy。