11.3 全局一致性边界与双活/主备取舍
11.2 节的选举给区域安排了一个「单写者」。但选举解决的是「谁写」,没回答「写到哪去」。多集群场景里,一个业务服务(比如跨区域的用户数据库)可以部署成双活——两个区域都能写;也可以部署成主备——只有主区域能写。本节把这条选择线讲透:双活可任意写但有冲突风险,主备单边写无冲突但读本地受限,以及区域选择一致性模型时真正要权衡的东西。
一致性边界是什么
「一致性边界」指**「哪里需要保持同步、哪里可以各自为政」的分界线**。它不是抽象概念,而是由三个具体问题构成:
- 读能走本地吗(
ReadLocally):用户的读请求能否只访问所在区域,而不必绕到远端的权威副本。 - 写能在任意区域发生吗(
WriteAnywhere):任一个区域都能接受写,还是必须转发到唯一的写区域。 - 并发写会冲突吗(
ConflictRisk):两个区域同时写同一个对象时,会不会产生无法自动调和的分歧。
这三个问题的答案组合,就是一致性模型的边界。lab 的 Tradeoff 用这三个布尔量描述模型,Choose(m) 按模型返回边界描述。一致性的选择不是「强弱」的一维滑尺,而是这三个维度的组合——这正是「全局一致性边界」这个说法要表达的东西。
双活(active-active):任意写与冲突风险
双活的边界描述是 ReadLocally=true, WriteAnywhere=true, ConflictRisk=true。它追求的是体验最优:用户在北京就在北京读、在北京写,两个区域都是完整可用的服务。
双活的代价集中暴露在第三个布尔量上:两个区域各自接受写,意味着同一个对象可能被两个区域并发修改。以用户余额为例:
| 区域 | 操作 | 本地结果 |
|---|---|---|
| us | 扣 10 元 | 余额 90 |
| eu | 充值 20 元 | 余额 120 |
若 us 的「扣 10 元」和 eu 的「充值 20 元」并发作用于初始余额 100,最终值既不是 110(先扣后充)也不是 120(先充后扣的正确结果),而可能是「last-write-wins」的任意一个,甚至把对方覆盖。冲突不是「可能发生」,而是「只要两边都在写就一定会碰到」——只是发生频率随并发度而不同。
冲突风险必须被显式管理,管理手段决定了双活的复杂程度:
| 冲突处理策略 | 思路 | 代价 |
|---|---|---|
| last-write-wins | 时间戳或版本号大的胜 | 可能丢更新,需业务容忍 |
| 向量时钟 / 版本向量 | 记录每区域版本,检测并合并 | 合并逻辑复杂 |
| CRDT | 把数据结构设计成可合并 | 只适用特定数据结构 |
| 业务层调和 | 冲突进队列,人工/规则解决 | 延迟不可控 |
双活的前提是这些策略已经被想清楚。很多「双活」事故不是网络坏了,而是冲突调和逻辑没设计好——两个区域各写各的,sync 阶段才暴露「一个订单被两个区域各收了一次钱」。双活正确性工程的绝大部分工作,都花在冲突检测与调和上。
冲突率不是零一,而是随并发上升的曲线:两区域写入频率越高、重叠的 key 越多,冲突来得越快。低频双活可以多年不碰一次冲突,但不可能证明「永不冲突」——设计上必须假设冲突会出现,并把调和策略写好。以「订单号全局唯一」为例,双活实现要靠跨区域分配的 ID 前缀(如 us- 与 eu-),否则两个区域可能各自生成同一个订单号,冲突就从「数据不一致」升级成「主键重复」这个更难恢复的错误。
主备(active-standby):单边写与读本地受限
主备的边界描述是 ReadLocally=true, WriteAnywhere=false, ConflictRisk=false。它牺牲「任意写」,换取「无冲突」。
主备的写路径是单边写:只有主区域接受写,备区域把写请求转发给主区域,或干脆拒绝写。因为只有一个写者,两个区域永远不并发写同一个对象,冲突风险被结构性地消除了——不是「冲突没被检测到」,而是「冲突在结构上不可能发生」。
但注意 ReadLocally=true 带来的限制:读可以走本地,却可能读到旧数据。备区域的本地读返回的是最近一次同步的快照,主区域的写要经过复制链路(异步复制通常有秒级延迟)才能到达备区域。于是:
- 写后立刻在备区域读,读到旧值(复制还没到)。
- 主区域故障切换后,备区域的滞后数据可能丢失最后一次同步窗口内的写。
这就是「读本地受限」的精确含义:读是允许的,但读的时效性受制于复制延迟。主备的 ReadLocally=true 与双活的 ReadLocally=true 看似相同,代价完全不同——双活的读永远读本地最新,主备的读可能读到复制链路上的旧版本。lab 的 Choose 用同一个布尔量表达这两种「读本地」,但真实的工程判断必须把复制延迟装进去。
复制链路决定主备的读时效
主备的 ReadLocally=true 到底有多大折扣,由复制链路决定。以最常见的「主区域同步写、备区域异步复制」为例,一次写后的读路径是:
| 时刻 | 事件 | 在备区域读到 |
|---|---|---|
| t0 | 客户端写主区域 | — |
| t1 | 主区域持久化并确认写 | 旧值(复制未到) |
| t2 | 复制任务把写推送到备区域 | 旧值(推送在途) |
| t3 | 备区域应用写 | 新值 |
t1 到 t3 之间的每次本地读,都返回旧值。这个窗口的宽度就是「读本地受限」的量化:
- 同步复制:t3 几乎紧随 t1,窗口趋近于零,但每次写都付出跨区域往返延迟——主备退化成「单点 + 双写」,失去了低延迟写。
- 异步复制:窗口为秒级,写不跨区域、延迟低,但读旧值的概率随窗口变宽。
所以主备真正的取舍不是「能不能读本地」,而是**「写要快,就得容忍读旧;读要新,就得让写变慢」**。这与第 9.2 节的 RPO/RTO 框架是同一件事:异步复制用「可丢失同步窗口」换取跨区域写的低延迟,边界值(RPO)就是复制链路的延迟。选主备的团队必须同时回答两个数字:能容忍多大的读旧窗口,能容忍多大的数据丢失窗口——而不是只回答「主备」两个字。
为什么没有「既能任意写又不冲突」的免费午餐
三个布尔量的组合似乎暗示存在「全 true」的理想模型。为什么现实中不存在?因为冲突风险与任意写是因果绑定的:一旦两个区域都能写同一个对象,就必然存在「两写并发」的窗口;要么调和(有成本),要么覆盖(丢数据)。分布式系统里唯一能消除冲突的办法是「让冲突不可能发生」——也就是至少一端不能写,或者写必须经过一个共同仲裁点。
| 模型 | ReadLocally | WriteAnywhere | ConflictRisk | 典型适用 |
|---|---|---|---|---|
| 双活 | true | true | true | 用户就近、可容忍调和 |
| 主备 | true | false | false | 强一致写、复制有延迟 |
| 单区域 | 只读本地 | 无跨区域写 | 无 | 数据本就不跨区域 |
这张表也回答了「一致性边界画在哪」的实操问题:画在数据被并发写的对象上。订单、余额、库存这类会被两边写的,必须走主备或双活+调和;只读的配置、可合并的计数,可以放心双活。边界是「对象级别」的,不是「集群级别」的——一个集群里同时跑双活服务和主备服务完全正常。
故障切换中的边界移动
一致性边界不是静态的:主备的主区域故障后,边界会移动。移动的方向取决于切换是否「保数据」:
| 切换策略 | 行为 | 一致性后果 |
|---|---|---|
| 先提升备、再补数据 | 备立即接写,旧的写晚到 | 备可能丢失复制窗口内的写 |
| 先等数据对齐、再切换 | 拒绝新写直到数据补齐 | 切换延迟 = 追平数据所需时间 |
| 双主临时接管 | 两边都写,之后调和 | 冲突风险在切换期被放大 |
第一种最常见也最危险:故障转移期间出现「旧主最后一批写还没复制走,新主已经开始收写」的窗口,这批写可能永久丢失。Kubernetes 里数据库主备切换(第 8.3 节、第 9.1 节讲过)都要在这个窗口上做取舍——切换是边界移动的瞬间,也是三种布尔量短暂同时成立的时刻。设计时把切换期当作「临时双活」来规划冲突调和,而不是假设切换瞬间边界就干净了。
以 etcd 为例最直观:第 9.3 节讲过 etcd 备份恢复的一致性,而主备场景里它扮演「跨区域仲裁」的角色。若两个区域各自维护一份数据,切换时用 etcd 的共识(第 8.1 节)判断「谁是权威」——这个判断本身依赖跨区域 quorum,于是边界移动的决策点又被放回 quorum 网络上。边界移动的机制每复杂一层,就要反问一次:切换的权威在哪,它自己会不会成为新的单点。
选择一致性模型:以对象为单位
选模型的决策树可以收敛成几个问题:
| 问题 | 答案 | 结论 |
|---|---|---|
| 这个对象会被跨区域并发写吗? | 不会 | 任意写无风险,选简单模型 |
| 会,且写后必须立刻全局可读? | 是 | 双活但必须强一致仲裁,成本最高 |
| 会,但读可以容忍延迟? | 是 | 主备 + 异步复制 |
| 写冲突可以事后调和? | 是 | 双活 + CRDT/业务调和 |
| 冲突绝不能发生? | 是 | 主备或单边写 |
落到 Kubernetes 上,主备通常用 11.2 节的选举选出一个区域当 Leader 接受写,备区域读本地快照;双活则依赖 StatefulSet 部署的多写副本(第 8.3 节讲过跨节点复制)外加冲突调和层。模型的选择权不在网络层,而在数据层的对象语义——网络负责把数据搬过去,一致性的取舍是业务对「写时效 vs 冲突容忍」的定价。
边界划分还有一个常见的误判:把「集群可用性」当成一致性模型的唯一输入。实际上同一个数据库里可以按表划分——订单表走主备、商品浏览计数走双活;同一张表甚至可以按 key 划分——冷数据任意写、热数据单边写。粒度越细,越能对每个对象选到最优解,但调和复杂度也随粒度上升。从集群级一刀切,到对象级、key 级,是边界设计走向成熟的路径。
落地检查清单
把一致性边界落到部署时,按这张清单逐项核对:
| 检查项 | 说明 |
|---|---|
| 按对象分类写并发语义 | 逐对象标「可并发写 / 必须单边写」 |
| 双活对象配备冲突调和策略 | 没有调和策略的「双活」必然在某天丢更新 |
| 主备对象记录复制延迟窗口 | 用 RPO 数字驱动读侧重试与告警 |
| 故障切换预案覆盖「边界移动期」 | 切换期间当临时双活规划,避免数据丢失 |
| 读侧代码知道可能读旧 | 备区域读加版本/时间戳判断,而不是无条件信本地 |
| 定期演练双活冲突与主备切换 | 不演练的边界会在事故时第一次被验证 |
最后一项是经验教训:一致性边界是「设计时定的」,但它真正被验证的时刻是故障发生时。没有演练过的双活调和、没有验证过的主备切换,都属于「尚未发生的事故」。
双活与主备的监控指标
一致性模型选完不是终点,运行期的观测才是验证边界是否成立的手段。两类模型各自要盯不同的指标:
| 模型 | 关键指标 | 恶化时意味着什么 |
|---|---|---|
| 双活 | 冲突检测率、调和队列深度 | 冲突率上升 = 并发写重叠增加,调和压力变大 |
| 双活 | 跨区域同步延迟 | 延迟上升 = 冲突窗口变宽,旧值被覆盖概率上升 |
| 主备 | 复制延迟(备落后多少) | 落后上升 = 读旧窗口变宽,切换丢数据风险上升 |
| 主备 | 切换次数与时长 | 频繁切换 = 选举参数或网络有问题 |
这两组指标有一个共同点:它们度量的是「一致性边界的压力」,不是「边界是否成立」。边界在正常情况下从不显形,只有把复制延迟、冲突率、切换次数长期记录下来,才能在故障发生前看到边界正在被侵蚀。这也是 11.2 节清单里「监控切换次数」的延续——一致性边界需要的是持续观测,而不是一次部署。
三个常见误解
- 「双活和主备的差别只是多了个备用写端,主备只少一点可用性」——错误。双活与主备的边界差异在写冲突:双活任意写必有冲突风险,主备单边写在结构上消除冲突,代价是读本地可能读到旧版本。
- 「主备切换后读本地永远是最新的」——错误。备区域读的是复制快照,同步窗口内的写可能滞后或丢失;读本地≠读最新。
- 「一致性边界是集群级的,一个集群要么双活要么主备」——错误。边界是对象级的,同一集群里双活服务与主备服务可以共存,按对象的并发写语义分别选择。
一句话总结本节
全局一致性边界由「读是否本地、写是否任意、写是否冲突」三个维度定义:双活任意写但有冲突风险、主备单边写无冲突但读本地受复制延迟限制。一致性模型的选择不是强弱之争,而是对每个对象的并发写语义定价——能用结构消除冲突,就绝不依赖事后的调和。
下一章把视角从「跨区域」收回「单集群」:读路径与写确认。客户端缓存、apiserver、etcd 三层读各看到什么,写确认又离真正生效有多远。
本节 lab
本节的两个测试落在 mcs 包的 Choose 上,验证「主备/双活边界描述」两条语义。Choose 是一个「边界描述函数」:它不模拟具体复制协议,只把一致性模型映射成读/写/冲突三个布尔量——这正是本节的抽象目标,把模型选择从协议细节里抽离,变成可比较、可验证的边界。
cd private/labs/k8s-net-lab
go test ./mcs -run TestActiveStandbyTradeoff -v
go test ./mcs -run TestActiveActiveConflictRisk -v
TestActiveStandbyTradeoff:Choose(ModelActiveStandby)返回主备边界,断言WriteAnywhere=false且ConflictRisk=false(主备单边写、无冲突),并断言ReadLocally=true(读可走本地)——2 条断言,对应「单边写、无冲突、读本地」。TestActiveActiveConflictRisk:Choose(ModelActiveActive)返回双活边界,断言WriteAnywhere=true且ConflictRisk=true——1 条复合断言,对应「任意写、有冲突风险」。
两个测试跑完见 ok k8s-net-lab/mcs。这就是「读本地/任意写/冲突风险」三维边界的最小可验证闭环。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。