《Kubernetes 分布式系统原理深入解析》4.2 ndots、search 域与解析延迟

Pod 的 resolv.conf 里 `ndots` 与 search 域决定一次解析要试多少次:名字里点的个数决定先查绝对名还是先拼 search 域,候选顺序直接影响解析延迟,外部域名常因此慢好几拍。本节给出 ndots 规则、候选序列与调优手段,lab 用 SearchConfig.Query 验证高 ndots 先绝对名、低点名字只走 search。

4.2 ndots、search 域与解析延迟

上一节说短名 web 之所以能解析,靠的是 search 域自动拼接。这一节拆开这台「拼接机」的齿轮:Pod 的 /etc/resolv.conf 里配置了 ndots、search 域与 options,它们共同决定一次 getaddrinfo 背后到底发了几次 DNS 查询。这个看似底层的细节,却是 Kubernetes 里一个高频性能陷阱——外部域名在 Pod 里解析慢,往往不是 DNS 服务器慢,而是客户端自己多试了好几次。

Pod 的 resolv.conf 长什么样

kubelet 在创建 Pod 时会注入一份 /etc/resolv.conf,它不同于宿主机那份,专门为集群网络生成:

nameserver 10.96.0.10
search <ns>.svc.cluster.local svc.cluster.local cluster.local
options ndots:5
配置典型值作用
nameserverCoreDNS 的 ClusterIP(10.96.0.10)所有查询发给集群内 DNS
search命名空间域 → svc 域 → 集群域不全限定名时依次拼接的域列表
ndots5(默认)名字里的点达到这个数,先当绝对名查一次
options可能还有 timeout:1 attempts:2查询超时与重试参数

ndots:5 是 K8s 的默认值,却几乎必然大于绝大多数应用访问的外部域名。www.example.com 有 2 个点、api.stripe.com 有 2 个点、s3.us-east-1.amazonaws.com 有 4 个点——全都没到 5。这意味着外部域名几乎总是走「先拼接 search 域」的路径,而不是先查绝对名。

ndots 的语义来自 glibc 与 libresolv 的标准行为:

  • 查询名里的点的个数 ≥ ndots:先按绝对名查一次(在末尾加 .),失败后再逐个拼接 search 域。
  • 点的个数 < ndots:跳过绝对名,直接依次拼接 search 域去查。

lab 的 SearchConfig.Query 就是这个决策的最小编码。举两个例子:

查询名点的个数ndots候选序列(尝试顺序)
web.prod.svc.cluster.local45只拼 search(但前两个候选会命中)
a.b11先 a.b. 绝对名,再拼 search
api.external.com25不查绝对名,直接 api.external.com.<search1> 开始

注意第一个例子反直觉的地方:全限定名 web.prod.svc.cluster.local 有 4 个点,而 ndots=5,所以它居然也会先拼 search 域再查——好在第一个候选 web.prod.svc.cluster.local.<ns>.svc.cluster.local 拼出来不对,第二个候选就是它自己,最终能命中。这就是为什么 ClusterIP 域名解析「能用但慢一拍」。

候选顺序对解析延迟的影响

一次 getaddrinfo 的延迟 ≈ 每个候选的查询时间 × 尝试个数。search 列表越长、命中越晚,延迟越高:

# search ns1.svc.cluster.local svc.cluster.local cluster.local
# 解析 "db":
# 1. db.ns1.svc.cluster.local.    → 命中(通常第 1 次就结束)
# 解析 "api.example.com"(ndots=5,不查绝对名):
# 1. api.example.com.ns1.svc.cluster.local.  → NXDOMAIN
# 2. api.example.com.svc.cluster.local.      → NXDOMAIN
# 3. api.example.com.cluster.local.          → NXDOMAIN
# 4. api.example.com.                        → 最终命中(绝对名最后才试)

对外部域名的解析,正确的绝对名被排到了 search 域拼接的最后一个候选之后——最坏情况下要等 3 次 NXDOMAIN 才轮到它。每次 NXDOMAIN 都可能触发 timeout(默认 1 秒)或串行重试,外部域名解析从「1 次查询」膨胀成「4 次查询」,这是 Pod 内访问外部服务「慢半秒」的最常见来源。

常见调优:改 ndots 与 dnsConfig

调优的目标是「让高频命中的名字排在候选序列前面」。三个常用手段:

手段配置效果代价
调低 ndotsndots:1外部域名先查绝对名,一步命中短名 db 不再走 search,集群短名解析失效
用 FQDN 结尾点代码里写 api.example.com.明确绝对名,无视 search 域要改应用代码,域内短名风格被破坏
自定义 dnsConfigPod spec.dnsConfig 覆盖 search/ndots按服务需要定制绕开 kubelet 默认,需自己维护

最常被推荐的组合是 ndots:1 + 显式 FQDN:调低 ndots 让带点的外部域名优先按绝对名查,同时集群内访问一律写全限定名(结尾可加点)。但这会牺牲「短名解析集群服务」的便利——ndots:1 下访问 db 不会再自动拼成 db.ns.svc.cluster.local。调 ndots 是拿短名便利换外部域名速度,适合集群内短名用得少、外部依赖多的服务;对短名依赖重的服务,保持 ndots:5 但用 search 域顺序优化(把最可能的域放最前)更稳妥。

search 域顺序为什么重要

search 列表的顺序即尝试顺序,把命中概率高的域放前面能显著降延迟:

# kubelet 默认顺序:<ns>.svc.cluster.local → svc.cluster.local → cluster.local
# 同命名空间访问是首选(第 1 个候选就命中)
# 跨命名空间访问要第 2 个候选(svc.cluster.local)

lab 的 TestResolveWithSearchOrder 验证的就是这个顺序:search 为 [ns1.svc.cluster.local, ns2.svc.cluster.local] 时解析 web,第 1 个候选 web.ns1.svc.cluster.local 命中即返回。search 域顺序就是一次解析的「寻址路线图」——日常访问集中在哪个命名空间,就让它排在最前,避免每次跨 namespace 都白试一次。

timeout 与 attempts:查询本身的重试开销

除了候选个数,resolv.conf 的 options 里还有两个放大延迟的参数:

选项默认值含义
timeout1(秒)单次查询等待响应的超时
attempts2超时后的重试次数

一次 NXDOMAIN 通常很快(几十毫秒),但超时(nameserver 无响应)会让单个候选等满 timeout 再重试。最坏情况下:候选个数 × attempts × timeout = 解析延迟上界——比如 4 个候选、timeout=1、attempts=2,上界约 8 秒。当然实际多数候选是 NXDOMAIN(快),只有 nameserver 不可达时才会全部超时。慢解析排障先分「NXDOMAIN 多」还是「timeout 多」:前者是候选顺序问题(调 ndots/search),后者是 nameserver 可用性问题(查 CoreDNS 健康)。

多容器与多命名空间的 DNS 配置差异

search 域是按 Pod 的命名空间生成的,跨命名空间访问要写全名:

# Pod 在 ns1,resolv.conf search:ns1.svc.cluster.local svc.cluster.local cluster.local
# 访问本命名空间:web         → web.ns1.svc.cluster.local(第 1 候选命中)
# 访问 ns2 的服务:web.ns2.svc.cluster.local(写全名,避免一路试下去)

「同命名空间用短名、跨命名空间写全名」是 K8s 的标准实践——短名在 search 域第 1 候选就命中,效率最高;跨命名空间写全名则避免把不属于本命名空间的候选一路试下去。共享 pod(同一 Pod 多容器)的 resolv.conf 是同一个,容器间没有独立的 DNS 配置,这一点与宿主机多进程不同,调 dnsConfig 要在 Pod 层面统一设计。

判断解析慢在哪一段

用 dig 的查询时间把「解析慢」定位到段:

# 候选序列与耗时(正常走 search)
kubectl exec -it <pod> -- dig +search +stats db
kubectl exec -it <pod> -- dig +search +stats api.example.com
# 直接查绝对名做对照
kubectl exec -it <pod> -- dig api.example.com. +stats

对比两组输出:api.example.com(不查绝对名,走 search 候选)与 api.example.com.(结尾点,绝对名)的 query time 差,就是 search 域拼接造成的额外开销。差值明显 → 调 ndots;两者都慢 → 查 nameserver 可用性。这是「Pod 内解析慢」排障的两分法:先分清慢在候选序列还是慢在 DNS 服务器本身。

三个常见误解

  • 「Pod 的 DNS 配置和宿主机一样,无需关心」——错误。kubelet 会注入集群专属的 resolv.conf(集群 nameserver + search 域 + ndots:5),与宿主机完全不同,外部域名解析行为也因此不同。
  • 「ndots 越大越全能」——错误。ndots=5 让绝大多数外部域名(少于 5 个点)都先试 search 域再试绝对名,正确答案被排到最后,反而变慢;ndots 调低则牺牲集群短名便利。
  • 「解析慢是 CoreDNS 的问题」——错误。多数「Pod 内解析外部域名慢」的根因在客户端候选序列:绝对名被 search 拼接挤到末尾,一次解析膨胀成多次 NXDOMAIN,与 CoreDNS 性能无关。

一个典型优化的前后对比

以「访问 api.example.com 外部服务」为例,看优化前后的解析成本:

配置候选序列命中前查询数相对耗时
默认 ndots:53 个 search 候选之后才是绝对名最多 4 次基准
ndots:1先绝对名,第 1 次即命中1 次显著降低
FQDN 结尾点绝对名,无视 search1 次与上相当,但要改代码

把「默认值 + 一次对照实验」放进发布流程:先 dig 对照确认差距,再按服务形态选 ndots 还是 FQDN。优化不玄学:候选序列变了,解析次数就变了,耗时是数得出来的——这也是本节所有建议可验证性的来源。

解析延迟调优的判断清单

  1. 慢在候选序列还是 nameserver?——dig 对照(前文)先定位,别瞎调。
  2. 集群内短名用得多吗?——多用则保 ndots,少用则调低。
  3. 外部域名是高频依赖吗?——是则 FQDN 结尾点最彻底。
  4. 能否改应用代码?——能改则用绝对名,不能改则靠 dnsConfig 兜底。

四问先定位再动手:慢在候选序列才调 ndots/search,慢在 nameserver 要修 CoreDNS。调优最忌讳的是不分段就改配置——改了 ndots 却没动真正的瓶颈,解析依旧慢,还丢了短名便利。

一句话总结本节

Pod 的 resolv.conf 用 ndots 与 search 域决定一次解析的候选序列:

  • 规则:名字里的点 ≥ ndots 先查绝对名再拼 search,否则跳过绝对名直接拼 search。
  • 影响:ndots=5 默认下,外部域名(≤4 个点)把绝对名排到最后,命中前要经历多次 NXDOMAIN,解析延迟被放大。
  • 调优:调低 ndots 换外部域名速度、用 FQDN 结尾点绕开 search、自定义 dnsConfig 按需覆盖;每个手段都在「短名便利」与「解析速度」之间取舍。

DNS 的候选序列是解析延迟的第一道闸门,但它只是「解析一次」的成本。下一节把视角从单次解析拉到整个生命周期:apiserver → CoreDNS → 客户端缓存这条链路上,服务发现为什么是最终一致,旧 IP 的滞后如何被重试吸收。

本节 lab

本节用 dns 包的 SearchConfig.Query 与 Resolver.ResolveWithSearch 验证 ndots 决策与 search 顺序:

cd private/labs/k8s-net-lab
go test ./dns -run TestNdotsAbsoluteFirst -v
go test ./dns -run TestResolveWithSearchOrder -v

TestNdotsAbsoluteFirst 断言:a.b(1 个点)配 ndots:1 时候选序列以绝对名 a.b. 开头、再拼 search——「高 ndots 先绝对名」成立;单段名 db(0 个点)配 ndots:2 时只生成一个 search 拼接候选——「低点名字只走 search」成立。TestResolveWithSearchOrder 断言 search 为 [ns1, ns2] 时解析 web 命中 ns1 的 10.96.0.1——「按 search 顺序尝试」成立。三个测试合计 4 个断言,覆盖本节决策逻辑的最小形态:候选序列由 ndots 与 search 顺序共同决定,而这正是解析延迟的直接来源。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图