《Kubernetes 分布式系统原理深入解析》6.2 有状态应用存储生命周期

有状态应用的卷不是绑一次就完事:PVC 从 Pending 到 Bound,PVC 删除触发解绑与回收,Delete/Retain 决定底层数据去留。本节还拆解扩缩容与节点迁移时的卷漂移——块卷为何不能跨可用区跟 Pod 走。lab 用 storage 包验证已绑定 PV 不重复绑定,以及 Delete 与 Retain 两条回收策略。

6.2 有状态应用存储生命周期

6.1 节回答了「卷怎么绑」,本节回答「卷怎么活、怎么死」。有状态应用的卷不像无状态副本那样随 Pod 一起烟消云散——它的生命周期横跨多次调度,而 K8s 用一套显式的状态机管理它:Pending → Bound → Released → 回收。理解这套状态机,是避免「缩个容把数据删了」或「节点挂了卷回不来」的前提。

生命周期的四个阶段

PVC 的一生被 K8s 明确标注为状态,每个状态都对应一段可观察的行为:

PVC 阶段含义触发条件
Pending尚未找到卷PVC 刚创建,binder 还在匹配
Bound已绑定一个 PVbinder 匹配成功,或动态供给完成
Released底层卷仍存在、绑定已解除PVC 被删除
Lost底层卷缺失、状态不明PV 指向的存储异常(如卷被外部删除)

重点是 Released 与「删除」的区别:PVC 被删除不等于数据被删。PVC 删除只解绑,底层卷与数据的命运由 PV 的回收策略决定。真正删数据发生在回收(Reclaim)环节。

绑定:一对一的排他关系

绑定是一份一对一、不可重复的契约:一个 PV 同一时刻只能绑给一个 PVC。lab 里 TestBindExcludesBound 验证的就是这条:BoundTo: "other" 的 PV 即使容量、类、模式全满足,binder 也必须跳过它。

这条排他规则是数据安全的地基。想象没有它会发生什么:两个 PVC 同时认领同一块云盘,两个 Pod 各自挂载它——块卷的单写者语义被撕破(第 6.3 节),两个进程互相覆盖数据,且没有任何机制察觉。绑定排他 + 访问模式,是「一个卷同时只被一个写入者使用」的双保险。

StatefulSet 与 volumeClaimTemplates:身份与卷绑定

有状态应用最常通过 StatefulSet 与卷打交道,靠的是 volumeClaimTemplates——它为每个副本生成一套独立 PVC:

apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: db
spec:
  serviceName: db
  replicas: 3
  template:
    spec:
      containers:
        - name: postgres
          image: postgres:16
          volumeMounts:
            - name: data
              mountPath: /var/lib/postgresql/data
  volumeClaimTemplates:
    - metadata:
        name: data
      spec:
        accessModes: ["ReadWriteOnce"]
        storageClassName: fast
        resources:
          requests:
            storage: 50Gi

volumeClaimTemplates 的关键行为是按副本身份命名:三个副本生成 data-db-0、data-db-1、data-db-2 三套 PVC。副本序号就是身份——db-1 永远绑定 data-db-1,不管它被调度到哪台节点。这是 StatefulSet 与 Deployment 的本质差异:副本有名字,名字携带数据。

使用与释放:PVC 删除触发解绑

卷在 Bound 阶段被工作负载使用:StatefulSet 的每个副本通过 volumeClaimTemplates 声明一组 PVC,Pod 调度到节点后把卷挂进容器。当 PVC 被删除(缩容不删 PVC,只有显式删除 PVC 才触发),Binder.Release 把 pv.BoundTo 与 pvc.BoundPV 双双清空,PV 回到未绑定状态——但它此刻并不 Available,而是 Released:

# PVC 删除后,PV 状态从 Bound 变为 Released
kubectl get pv
NAME       CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM
pv-nfs-01  100Gi      RWO            Retain           Released    default/app-data

Released 与 Available 的差别是语义性的:Released 意味着「曾经的数据还在里面,谁都不许随便碰」。PV 只有在执行回收策略之后,才可能重新 Available。

回收策略:Delete / Retain / Recycle

PV 的 reclaimPolicy 决定 Released 后底层数据怎么办。lab 的 Binder.Reclaim 是这套语义的浓缩:

策略回收行为数据命运适用场景
Delete调用 provisioner 删除底层卷数据一起消失动态供给的临时/弹性数据
Retain保留底层卷与数据,PV 标记 Released数据留在存储里,等人处理数据库、合规数据、要人工审计
Recycle清空卷内容后复用(旧实现为 rm -rf)数据被清掉,卷可再分配已废弃,不推荐

Retain 的「等待人工」不是 bug,而是特性:Delete 太激进、Recycle 太粗暴,中间地带留给管理员判断。真实集群里 Retain 最常见的结局是——数据备份完毕后,管理员把 PV 删掉重建,或手动改 reclaimPolicy 再触发 Delete。数据生命周期永远比对象生命周期长,这是有状态运维的第一原则。

Lost 状态与外部删卷:谁动了我的卷

生命周期还有一个容易踩的坑:PV 指向的底层卷被外部删掉了。云控制台里误删云盘、管理员清了 NFS 目录,PV 就会进入 Lost:

外部动作PV 状态数据结局
底层卷被外部删除Lost数据已在外部消失,PV 是「墓碑」
底层卷损坏Lost需恢复存储或从备份重建
底层卷改名/漂移Available(假象)挂载时才发现接错卷

Lost 是 Released 的极端形态,排障要点是先看底层存储,再看对象状态:PV 报 Lost,别在对象上折腾,直接去云控制台/存储阵列确认卷还在不在。这也是为什么 6.3 节强调控制面与数据面分离——对象状态只是投影,真实在存储那头。

扩缩容:缩容不删 PVC,扩容找回数据

StatefulSet 的扩缩容与无状态 Deployment 完全不同:缩容只删 Pod,绝不删 PVC。这是有状态应用能「缩回来再扩回去」的保证:

操作Pod 数量PVC 数量数据
缩容 3→1只保留 pod-03 个 PVC 全留全部保留
扩容 1→3重建 pod-1、pod-2复用原有 PVC找回各自数据
显式删 PVC不变减少交给回收策略

「缩容时 PVC 不删」常被当成资源浪费,但它是故意的:如果缩容连 PVC 一起删,Redis/数据库集群一缩容就丢分片数据,没有任何挽回余地。扩回去时 pod-1 按名字重新绑定原 PVC——数据与身份的绑定,靠的是稳定命名,不是调度运气。

备份与恢复:生命周期的闭环

生命周期不是「创建 → 删除」的直线,备份与恢复是它的闭环动作。有状态应用把「回收」之后的防线提前到「使用」阶段:

备份手段依赖恢复点
快照(第 7.3 节)卷已 attach、静止点快照时刻
应用导出(pg_dump/xtrabackup)应用自身一致性导出时刻
卷复制(rsync)源卷只读复制窗口

备份是唯一能对冲「回收策略误判」的机制:无论 Delete 把卷删了还是 Retain 留了一堆僵尸卷,只要备份在,数据就能回。生产实践里 Retain + 定期快照 + 异地备份是三层保险,每层都用不同的方式回答同一个问题——「如果这里的数据没了,我还有哪里能拿回来?」。生命周期真正的终点不是 Delete,而是「备份确认可恢复」。

节点迁移与卷漂移:块卷为什么不能跟 Pod 走

Pod 被驱逐或重新调度后,卷必须「漂移」到新节点:kubelet 在旧节点 detach、新节点 attach(第 7.2 节讲这套协调)。但漂移不是无限的——块卷被钉在它创建时的拓扑域里:

卷类型能否跨节点漂移约束来源
分布式文件卷(NFS/CephFS)可以数据面在多节点可达,挂载到哪都行
云盘(EBS/云硬盘)仅同可用区卷与可用区绑定,跨可用区 attach 直接失败
本地盘(LocalPV)不能数据物理上就在那台节点上

云盘的「卷漂移 = 同可用区内移动」意味着拓扑约束必须参与调度:WaitForFirstConsumer(6.1 节)把卷建在 Pod 首次调度的可用区,就是让「卷的拓扑」与「Pod 的拓扑」首尾对齐。若 Pod 被调度到另一可用区,attach 会失败,Pod 卡在 ContainerCreating——排障时要先看卷在哪个可用区,再看 Pod 在哪个可用区。

一个完整的生命周期排障清单

把本节所有陷阱收成一份可照做的清单,排查「数据去哪了」时按顺序问:

步骤检查命令/对象
1PVC 当前阶段是什么kubectl get pvc -A
2绑定的 PV 状态与回收策略kubectl get pv -o wide
3底层卷在存储侧是否还存在云控制台/存储阵列
4回收策略执行了没有PV 的 spec.reclaimPolicy 与事件
5卷是否还挂在某节点上kubectl describe pv / 节点 mount

这份清单的价值在顺序:先确认对象阶段,再确认底层存在性——对象说 Bound 但底层没了,是 Lost 的变种;对象说 Released 但底层还在,是 Retain 的正常状态,数据没丢。

三个常见误解

  • 「缩容 StatefulSet 会连数据一起删」——错误。缩容只删 Pod,PVC 与底层卷全部保留;删数据的唯一路径是显式删除 PVC 并让回收策略执行。
  • 「PVC 被删了,云盘就自动删了」——错误。PVC 删除只解绑,底层卷删不删取决于 PV 的 reclaimPolicy;Retain 下数据原封不动躺在存储里。
  • 「块卷可以随便跟着 Pod 跨节点漂移」——错误。云盘卷被钉在创建时所在可用区,跨可用区 attach 失败;漂移范围是拓扑域而不是整个集群。

一句话总结本节

有状态存储的生命周期是一条显式的状态机:Pending 等绑定、Bound 被使用、PVC 删除进入 Released、回收策略决定底层数据是 Delete 消失还是 Retain 等待人工。绑定排他保证单写者,扩缩容不删 PVC 保证身份,拓扑域限制卷漂移——三件事一起定义了「数据不会意外丢失,也不会被两个写入者共享」。

下一节把「一致性假设」摆上台面:云盘与分布式文件/块存储对单写者、可见性、数据面位置给出了完全不同的承诺,而这决定了应用该信谁。

本节 lab

本节用 storage 包的两个测试验证「绑定排他」与「回收策略」两条生命周期语义:

cd private/labs/k8s-net-lab
go test ./storage -run TestBindExcludesBound -v
go test ./storage -run TestReclaimDeleteVsRetain -v
  • TestBindExcludesBound:预置 BoundTo: "other" 的 PV 在容量、类、模式全满足的情况下仍断言绑定失败——1 个断言,对应「已绑定 PV 不重复绑定」。
  • TestReclaimDeleteVsRetain:Delete 策略的 pv-del 断言 Reclaim 返回 "deleted",Retain 策略的 pv-ret 断言返回 "retained"——2 个断言,对应「Delete 删卷 / Retain 留卷」两条回收路径。

两个测试共 3 个断言,跑完见 ok k8s-net-lab/storage。这是生命周期里「排他绑定」与「回收分叉」的最小闭环:一边守护单写者,一边把数据的去留交给策略而非运气。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图