posts

《Kubernetes 分布式系统原理深入解析·共识与存储:Raft 与 etcd》 · 全书目录与章节索引(45 篇)

全 45 篇的章节索引:从分布式系统基础、CAP 与一致性模型、时钟与顺序出发,依次拆解 Raft 共识(选举、日志复制、安全性、成员变更、快照、读一致性),再进入 etcd 工程实现(内部架构、mvcc 与事务、watch 事件流、quorum 与容错、运维与一致性代价);每节配一个可运行的 Go 最小验证,共 46 用例。

《Kubernetes 分布式系统原理深入解析·共识与存储:Raft 与 etcd》全 45 篇,是《Kubernetes 分布式系统原理深入解析》四卷本的卷一。本卷以 K8s 的控制面核心——etcd 与 Raft 为对象,把经典分布式系统原理落在真实组件上:一致性、时钟、共识、日志复制、快照、线性一致读、mvcc、watch 与租约;每节配一个可运行的 Go 最小验证,复现该机制的语义。

本页是《Kubernetes 分布式系统原理深入解析·共识与存储:Raft 与 etcd》的全书目录:按章节顺序列出全部 45 篇,点击标题直达正文。也可以从目录与学习路径 进入按顺序通读。

四卷规划 · 卷一 共识与存储 · 卷二 控制面与调谐循环 · 卷三 调度与资源 · 卷四 网络、存储、多集群与一致性边界

全书概览

项目内容
书稿《Kubernetes 分布式系统原理深入解析·共识与存储:Raft 与 etcd》
篇数45 篇(15 章 × 3 节)
领域分布式系统原理 × 真实组件(K8s 控制面 / etcd / Raft)
实验工程k8s-etcd-lab,纯 Go,go build ./... && go test ./...,46 用例全过
上级专题书稿专题

全书目录

前置

节文章
—目录与学习路径

第 1 章 K8s 与分布式系统基础

节文章
1.11.1 K8s 为何是分布式系统最佳教材
1.21.2 分布式系统的目标与挑战
1.31.3 本书路线图与 lab 结构

第 2 章 CAP 与一致性模型

节文章
2.12.1 CAP 定理的精确表述与误区
2.22.2 一致性模型谱系:线性、顺序、因果与最终
2.32.3 一致性模型的工程代价

第 3 章 时钟与顺序

节文章
3.13.1 物理时钟、NTP 与墙钟漂移
3.23.2 逻辑时钟:Lamport 与向量时钟
3.33.3 混合逻辑时钟与 K8s/etcd 的 timestamp 语义

第 4 章 共识:从 FLP 到 Raft

节文章
4.14.1 共识的定义与 FLP 不可能性
4.24.2 Paxos 简述与 Raft 的动机
4.34.3 Raft 集群结构:角色、任期、quorum 与日志

第 5 章 选举

节文章
5.15.1 选举协议:RequestVote、随机超时与任期递增
5.25.2 选举限制:日志新旧比较
5.35.3 异常场景:分裂投票、pre-vote 与 CheckQuorum

第 6 章 日志复制

节文章
6.16.1 AppendEntries 与心跳
6.26.2 日志匹配性质与不一致修复
6.36.3 提交与 apply:commitIndex、matchIndex 与状态机应用

第 7 章 安全性与日志匹配

节文章
7.17.1 选举安全性:日志新旧比较保证候选人完整性
7.27.2 Leader 完整性:日志永不回退
7.37.3 状态机安全与任期开始强制复制

第 8 章 成员变更

节文章
8.18.1 成员变更的难题:为何不能直接改配置
8.28.2 联合共识:两阶段成员变更
8.38.3 单步变更与 etcd learner

第 9 章 快照与日志压缩

节文章
9.19.1 日志无限增长的代价
9.29.2 InstallSnapshot 协议与生成时机
9.39.3 etcd 压缩策略、碎片整理与 defrag

第 10 章 读一致性:ReadIndex 与 Lease Read

节文章
10.110.1 为什么读也需要共识
10.210.2 ReadIndex 与 Lease Read
10.310.3 etcd 各读模式对比与工程取舍

第 11 章 etcd 内部架构

节文章
11.111.1 etcd 进程结构:gRPC、rafthttp、storage 与 backend
11.211.2 写入路径:Put→commit→apply→落盘
11.311.3 etcd 与 K8s 数据模型映射

第 12 章 mvcc 与事务

节文章
12.112.1 多版本并发控制:revision 与版本树
12.212.2 乐观并发:CAS、Txn 与 fencing token
12.312.3 resourceVersion 背后的 mvcc

第 13 章 watch 与事件流

节文章
13.113.1 watch 协议:版本区间、事件、backlog 与 compact
13.213.2 大集群 watch 扇出与限流
13.313.3 断连续读与一致性书签

第 14 章 quorum 与容错

节文章
14.114.1 多数派与 2f+1 容忍度
14.214.2 网络分区与脑裂防护:大多数方仲裁
14.314.3 磁盘故障、fsync 延时与稳定性边界

第 15 章 etcd 运维与一致性代价

节文章
15.115.1 快照备份、恢复与演练
15.215.2 性能瓶颈:fsync、RTT、WAL 与批量提交
15.315.3 一致性 vs 性能的权衡全景

相关阅读

全部文章 Books game Java Indie golang 客户端开发 Minigame Saas rust Python
books

《Kubernetes 分布式系统原理深入解析》9.2 InstallSnapshot 协议与生成时机

日志压缩之后留下一个缺口:Leader 的日志起点往前移了,落后的 follower 再按日志逐条追就追不上了——于是 Raft 引入 InstallSnapshot RPC,直接把快照发给落后节点。本节先讲清楚快照的生成时机(日志超过 snapshot-count 阈值、或 follower 的 nextIndex 落在 Leader 已丢弃的日志段),再逐个解释 InstallSnapshot 的字段(term、leaderId、LastIncludedIndex、LastIncludedTerm、Data),然后走一遍接收方的本地处理:丢弃旧日志、安装状态机、把 commit/apply 推进到快照位置。接着说明快照与日志匹配性质的衔接——LastIncludedTerm 让选举判断依然正确。最后落到 etcd 的 snapshotter 包、--snapshot-count 与备份/恢复的关系。lab 用 snapshot.go 的 Install 与 TestInstallSnapshot 验证落后节点安装快照后状态机直接对齐、不需要重放日志。

11 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》9.1 日志无限增长的代价

Raft 的日志是只追加的,只要集群在运行,日志条数就只增不减:磁盘、重启重放时间、慢 follower 追赶、内存缓存四处同时埋单。本节先拆解这四类代价,再给出 etcd 的真实数字(--snapshot-count 默认 100000 条触发快照、WAL 文件与 snapshot 文件的位置、--max-wal-files 默认 5),并说明日志重放从 WAL 到 apply 的完整路径。K8s 视角下,etcd 数据量随对象数与 revision 数增长,压缩不及时会让磁盘与内存同时暴涨。最后澄清压缩与一致性的关系:压缩掉的只是已提交且已应用的日志,状态机语义不受影响。lab 用 snapshot.go 的 Compact 与 TestSnapshotCompaction 验证日志超过阈值后可压成快照、日志条数下降、状态机保留已应用命令。

12 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》8.3 单步变更与 etcd learner

etcd 没走联合共识的完整实现,而是用更简单的单步变更:每次只加/删一个节点,新旧配置交集天然非空。V3.4 引入 learner 解决新成员慢的问题——先以不投票、不参与选举的身份同步日志,追平后 member promote 转正。本节给出单步变更的数学保证、learner 的完整生命周期、etcdctl 命令与 3→5 生产扩容演练。lab 用 AddLearner/Promote 验证 learner 不改变 quorum、不会被选为 Leader、晋升后 quorum 增大。

9 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》8.2 联合共识:两阶段成员变更

8.1 证明错峰切换配置会制造不相交的多数派,Joint Consensus 用两阶段把这个窗口封死:先进入旧配置与联合配置双多数,再切到纯新配置,保证任意时刻新旧配置的多数派必然相交。本节给出两阶段的状态机、双多数的提交条件、新成员先同步再变配置的时机,并对照 etcd 的 confchange 库与 confstate 处理。lab 继续用 AddNode 验证 quorum 始终是多数派这一数学基础。

10 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》8.1 成员变更的难题:为何不能直接改配置

增删节点看起来只是改一行集群配置,实则同时改写了 quorum 数学:若各节点在不同时刻切换配置,就会同时存在两个不相交的多数派,各自提交不同命令,把系统撕成两半。本节用 3→5 的反例说明脑裂条件、变更中的选举竞态,并落到 etcd 缩容、扩容、替换故障节点的真实场景。lab 用 membership.go 的 AddNode/RemoveNode 验证成员数变化时 quorum 从 2 移到 3。

12 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》7.3 状态机安全与任期开始强制复制

状态机安全(State Machine Safety)是 Raft 安全证明链的最后一环:所有节点以相同顺序应用相同日志。本节论证它与日志匹配性质的关系,解释「只能提交当前任期日志」如何防止旧任期条目被覆盖,讲清新 Leader 任期开始用空日志条目(no-op)建立提交点、再以自身日志强制覆盖冲突的含义,概述 Log Matching → Leader Completeness → State Machine Safety 的归纳证明,并对照 etcd 应用层 backend 的 batch apply 与 consistent_index 幂等应用。lab 用 TestStateMachineSafety 验证移除旧 Leader 后新 Leader 仍保留已提交命令。

15 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》7.2 Leader 完整性:日志永不回退

Leader 完整性(Leader Completeness)把 7.1 的当选结论推广到任意后续任期:被提交的日志条目在新任期 Leader 当选时一定存在。它的根基不是某一条具体规则,而是「Leader 日志只追加」这一不对称设计——选举限制挡住旧日志候选、日志只追加让 Leader 永不删除已提交条目、Leader 只能推进不能覆盖让复制永远单向。本节推演被分区替换的旧 Leader 恢复后重新当选的全过程,并对照 etcd 的 WAL 重放与 MemoryStorage.Append 如何维持只追加语义。lab 用 TestLeaderAppendOnly 断言 Leader 追加日志后已提交条目不被改写。

13 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》7.1 选举安全性:日志新旧比较保证候选人完整性

Raft 安全性的第一环是 Election Safety:每个任期至多选出一个 Leader,而让当选 Leader 必然包含全部已提交日志的钥匙正是日志新旧比较。本节站在 5.2 协议层之上做定理层证明:多数派交集 + logUpToDate 的 term 优先、index 次之语义推出当选 Leader 的日志完整性,推演旧日志 Leader 覆盖已提交数据的危险场景,并对照 etcd raft/raft.go 的 MsgVote 投票决策与 raft/storage.go 的日志来源。lab 用 TestElectionRestriction 复现旧日志候选拿不到多数、新日志候选当选。

11 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》6.3 提交与 apply:commitIndex、matchIndex 与状态机应用

提交是复制状态机从「日志一致」到「生效」的分界线:commitIndex 只在多数派 matchIndex 确认且条目属于当前任期时才推进;leader 通过每条 AppendEntries 携带 LeaderCommit 把提交传播给 follower;apply 阶段把 (ApplyIndex, CommitIndex] 区间应用到状态机并保持幂等。「只提交当前任期日志」规则防止旧任期日志被未来 leader 覆盖而丢失已提交数据;etcd 把 commit 与 apply 分离,apply 在独立的 backend 循环批量执行。lab 用 TestLogMatchAndCommit 与 TestCommitRequiresQuorum 分别验证提交传播与多数派约束。

12 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》6.2 日志匹配性质与不一致修复

Raft 的安全根在日志匹配性质:两个日志在相同 index 有相同 term,则之前所有条目一致。follower 日志可能缺条目、多条目、有冲突条目或 term 交错;leader 靠 nextIndex 逐条回退(etcd 用 RejectHint 每轮回退多条)配合 PrevLogIndex/PrevLogTerm 一致性检查修复对齐。lab 用 TestNextIndexBacktrack 注入冲突日志后断言 leader 逐条回退、follower 截断冲突段恢复一致。

18 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》6.1 AppendEntries 与心跳

Raft 的日志复制全部收敛到一条 AppendEntries RPC:请求携带 Term、PrevLogIndex、PrevLogTerm、Entries 与 LeaderCommit 五个字段,响应携带 Term、Granted 与 MatchIndex;空 Entries 的 AppendEntries 就是心跳,负责维持领导权、重置 follower 选举超时并顺带携带 LeaderCommit 推进提交。leader 必须周期性心跳,否则 follower 超时发起新选举;etcd 默认心跳间隔 100ms、选举超时 1000ms。lab 用 TestAppendEntriesReplicatesLog 验证心跳维持 leader 活性且 3 条日志复制到全部 3 节点。

13 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》5.3 异常场景:分裂投票、pre-vote 与 CheckQuorum

正常选举靠随机超时错开,异常场景才暴露边界:同步超时引发分裂投票,分区节点借 pre-vote 被隔离出竞选,孤立 leader 靠 CheckQuorum 自检下台。本节逐一拆解 split vote、pre-vote、CheckQuorum 的机制与取舍,说明任期对齐降级规则,并落到 etcd 网络分区下控制面的实际表现:少数派无法提交、leader 迁移、恢复后日志追赶。lab 用 TestSplitVoteRecovers 验证分裂投票随机超时后收敛,用 TestPreVoteQuarantine 验证被分区节点无法借 pre-vote 扰乱主集群、不递增任期。

12 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》5.2 选举限制:日志新旧比较

选举协议只解决「谁能竞选」,选举限制解决「谁配当选」:投票者只投给日志不落后于自己的候选,用 term 优先、index 次之的日志新旧比较,保证当选 leader 必然包含全部已提交条目。本节先推演无限制时旧日志节点覆盖已提交数据的事故链,再给出比较规则、投票决策、多数派交集与领导者完整性的安全证明,最后落到 etcd 节点重启、磁盘落后时如何避免选主后丢数据。lab 用 TestElectionRestriction 复现旧日志候选拿不到多数、新日志候选当选。

9 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》5.1 选举协议:RequestVote、随机超时与任期递增

Raft 的选举是安全性(每个任期最多一个 leader)与活性(最终必然选出 leader)的分离:随机化选举超时让同步超时导致的分裂投票最终收敛,竞选流程固定为 超时→term++→投自己→广播 RequestVote→多数即 Leader→广播心跳,投票规则含每任期一票、日志新旧比较与更高任期即降级。etcd 实际参数为选举超时约 1s、心跳约其 1/10。lab 用 TestElectionReachesAgreement 验证 5 节点随机超时下最终选出唯一任期递增 Leader。

16 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》4.3 Raft 集群结构:角色、任期、quorum 与日志

Raft 集群由三个角色(Follower/Candidate/Leader)与一个全局递增的任期(term)构成,任期是排序一切的逻辑时钟;日志条目带 term+index 严格有序,多数派复制才算提交(committed)、提交后才能应用(applied)。多数派 quorum=n/2+1 直接决定容错:3 节点容 1 故障、5 节点容 2,故 etcd 常见 3 或 5 节点。lab 用 TestQuorumMath 验证 q>n/2 与 2f+1=n 的关系。

11 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》4.2 Paxos 简述与 Raft 的动机

Basic Paxos 是共识问题的第一个被严格证明的答案,但它把正确性写进定理、把可操作性留给了实现者:没有显式 leader、日志如何拼接未解决、重配置复杂、故障恢复晦涩。本节用 5-acceptor 的数字推演两阶段协议与两个 quorum 交集非空的正确性论证,再对照 Raft 的显式 leader、强领导者和严格有序日志,说明 etcd 为什么选 Raft 而非 Paxos。lab 用 TestRaftCommitRounds 验证 Raft 提交一条命令仅需 1 轮消息往返、Basic Paxos 需 2 轮。

14 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》4.1 共识的定义与 FLP 不可能性

共识是分布式系统一切一致性的地基:多个进程对提议值达成一个唯一决定。本节先形式化共识的安全性(一致、合法、可学习)与活性(终止),再给出 FLP 不可能性及其直觉——协调者永远分不清「慢」与「死」。Raft 的答案是随机选举超时加部分同步假设,etcd 因此放弃无条件活性、换取大概率快速收敛。lab 用 TestFLPSingleFaultNoTermination 演示完全隔离下协议不终止。

12 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》3.3 混合逻辑时钟与 K8s/etcd 的 timestamp 语义

墙钟人可读但不可靠,逻辑时钟可靠但不可读,HLC 把二者折中:物理分量贴近墙钟、逻辑分量保证单调。本节讲 HLC 的 Now/Observe 规则与三条性质,并借此厘清 K8s/etcd 的 timestamp 语义——creationTimestamp 与事件 lastTimestamp 只是人类可读注释,mvcc revision 才是权威顺序。lab 用 TestHLCPhysicalFollow 验证 HLC 单调且贴近墙钟。

9 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》3.2 逻辑时钟:Lamport 与向量时钟

分布式系统没有全局时钟,事件的先后必须靠逻辑序而非墙钟判定。本节从 happens-before 关系出发,给出 Lamport 时钟与向量时钟的规则、性质与局限,并映射到 K8s/etcd 的真实机制:resourceVersion 来自 etcd 的 mvcc revision、事件 lastTimestamp 只是人类可读的注释。lab 用 TestLamportHappensBefore 验证 HB⇒LT 单向成立,用 TestVectorConcurrentDetection 验证向量时钟能判定并发。

11 分钟阅读
书稿 Kubernetes 分布式系统
books

《Kubernetes 分布式系统原理深入解析》3.1 物理时钟、NTP 与墙钟漂移

每台机器都有物理时钟,但物理时钟由石英晶振驱动,天生会漂移:普通石英一天偏好几秒,NTP 只能把它拉回毫秒级且随时可能回拨。本节讲清物理时钟的组成与 ppm 漂移、NTP 的层级与 offset/skew,再区分墙钟与单调时钟——Go 的 time.Now 同时携带两者,K8s 用墙钟记对象时间戳与 lease 过期、用单调时钟计选举超时与分布式锁。最后论证墙钟不能用于全局定序,引出 3.2 的逻辑时钟。lab 读 clock/lamport.go,验证 Lamport 时钟的 happens-before 不受墙钟漂移影响。

13 分钟阅读
书稿 Kubernetes 分布式系统