4.2 ndots、search 域与解析延迟
上一节说短名 web 之所以能解析,靠的是 search 域自动拼接。这一节拆开这台「拼接机」的齿轮:Pod 的 /etc/resolv.conf 里配置了 ndots、search 域与 options,它们共同决定一次 getaddrinfo 背后到底发了几次 DNS 查询。这个看似底层的细节,却是 Kubernetes 里一个高频性能陷阱——外部域名在 Pod 里解析慢,往往不是 DNS 服务器慢,而是客户端自己多试了好几次。
Pod 的 resolv.conf 长什么样
kubelet 在创建 Pod 时会注入一份 /etc/resolv.conf,它不同于宿主机那份,专门为集群网络生成:
nameserver 10.96.0.10
search <ns>.svc.cluster.local svc.cluster.local cluster.local
options ndots:5
| 配置 | 典型值 | 作用 |
|---|---|---|
nameserver | CoreDNS 的 ClusterIP(10.96.0.10) | 所有查询发给集群内 DNS |
search | 命名空间域 → svc 域 → 集群域 | 不全限定名时依次拼接的域列表 |
ndots | 5(默认) | 名字里的点达到这个数,先当绝对名查一次 |
options | 可能还有 timeout:1 attempts:2 | 查询超时与重试参数 |
ndots:5 是 K8s 的默认值,却几乎必然大于绝大多数应用访问的外部域名。www.example.com 有 2 个点、api.stripe.com 有 2 个点、s3.us-east-1.amazonaws.com 有 4 个点——全都没到 5。这意味着外部域名几乎总是走「先拼接 search 域」的路径,而不是先查绝对名。
ndots 规则:先绝对名还是先拼 search
ndots 的语义来自 glibc 与 libresolv 的标准行为:
- 查询名里的点的个数 ≥ ndots:先按绝对名查一次(在末尾加
.),失败后再逐个拼接 search 域。 - 点的个数 < ndots:跳过绝对名,直接依次拼接 search 域去查。
lab 的 SearchConfig.Query 就是这个决策的最小编码。举两个例子:
| 查询名 | 点的个数 | ndots | 候选序列(尝试顺序) |
|---|---|---|---|
web.prod.svc.cluster.local | 4 | 5 | 只拼 search(但前两个候选会命中) |
a.b | 1 | 1 | 先 a.b. 绝对名,再拼 search |
api.external.com | 2 | 5 | 不查绝对名,直接 api.external.com.<search1> 开始 |
注意第一个例子反直觉的地方:全限定名 web.prod.svc.cluster.local 有 4 个点,而 ndots=5,所以它居然也会先拼 search 域再查——好在第一个候选 web.prod.svc.cluster.local.<ns>.svc.cluster.local 拼出来不对,第二个候选就是它自己,最终能命中。这就是为什么 ClusterIP 域名解析「能用但慢一拍」。
候选顺序对解析延迟的影响
一次 getaddrinfo 的延迟 ≈ 每个候选的查询时间 × 尝试个数。search 列表越长、命中越晚,延迟越高:
# search ns1.svc.cluster.local svc.cluster.local cluster.local
# 解析 "db":
# 1. db.ns1.svc.cluster.local. → 命中(通常第 1 次就结束)
# 解析 "api.example.com"(ndots=5,不查绝对名):
# 1. api.example.com.ns1.svc.cluster.local. → NXDOMAIN
# 2. api.example.com.svc.cluster.local. → NXDOMAIN
# 3. api.example.com.cluster.local. → NXDOMAIN
# 4. api.example.com. → 最终命中(绝对名最后才试)
对外部域名的解析,正确的绝对名被排到了 search 域拼接的最后一个候选之后——最坏情况下要等 3 次 NXDOMAIN 才轮到它。每次 NXDOMAIN 都可能触发 timeout(默认 1 秒)或串行重试,外部域名解析从「1 次查询」膨胀成「4 次查询」,这是 Pod 内访问外部服务「慢半秒」的最常见来源。
常见调优:改 ndots 与 dnsConfig
调优的目标是「让高频命中的名字排在候选序列前面」。三个常用手段:
| 手段 | 配置 | 效果 | 代价 |
|---|---|---|---|
| 调低 ndots | ndots:1 | 外部域名先查绝对名,一步命中 | 短名 db 不再走 search,集群短名解析失效 |
| 用 FQDN 结尾点 | 代码里写 api.example.com. | 明确绝对名,无视 search 域 | 要改应用代码,域内短名风格被破坏 |
| 自定义 dnsConfig | Pod spec.dnsConfig 覆盖 search/ndots | 按服务需要定制 | 绕开 kubelet 默认,需自己维护 |
最常被推荐的组合是 ndots:1 + 显式 FQDN:调低 ndots 让带点的外部域名优先按绝对名查,同时集群内访问一律写全限定名(结尾可加点)。但这会牺牲「短名解析集群服务」的便利——ndots:1 下访问 db 不会再自动拼成 db.ns.svc.cluster.local。调 ndots 是拿短名便利换外部域名速度,适合集群内短名用得少、外部依赖多的服务;对短名依赖重的服务,保持 ndots:5 但用 search 域顺序优化(把最可能的域放最前)更稳妥。
search 域顺序为什么重要
search 列表的顺序即尝试顺序,把命中概率高的域放前面能显著降延迟:
# kubelet 默认顺序:<ns>.svc.cluster.local → svc.cluster.local → cluster.local
# 同命名空间访问是首选(第 1 个候选就命中)
# 跨命名空间访问要第 2 个候选(svc.cluster.local)
lab 的 TestResolveWithSearchOrder 验证的就是这个顺序:search 为 [ns1.svc.cluster.local, ns2.svc.cluster.local] 时解析 web,第 1 个候选 web.ns1.svc.cluster.local 命中即返回。search 域顺序就是一次解析的「寻址路线图」——日常访问集中在哪个命名空间,就让它排在最前,避免每次跨 namespace 都白试一次。
timeout 与 attempts:查询本身的重试开销
除了候选个数,resolv.conf 的 options 里还有两个放大延迟的参数:
| 选项 | 默认值 | 含义 |
|---|---|---|
timeout | 1(秒) | 单次查询等待响应的超时 |
attempts | 2 | 超时后的重试次数 |
一次 NXDOMAIN 通常很快(几十毫秒),但超时(nameserver 无响应)会让单个候选等满 timeout 再重试。最坏情况下:候选个数 × attempts × timeout = 解析延迟上界——比如 4 个候选、timeout=1、attempts=2,上界约 8 秒。当然实际多数候选是 NXDOMAIN(快),只有 nameserver 不可达时才会全部超时。慢解析排障先分「NXDOMAIN 多」还是「timeout 多」:前者是候选顺序问题(调 ndots/search),后者是 nameserver 可用性问题(查 CoreDNS 健康)。
多容器与多命名空间的 DNS 配置差异
search 域是按 Pod 的命名空间生成的,跨命名空间访问要写全名:
# Pod 在 ns1,resolv.conf search:ns1.svc.cluster.local svc.cluster.local cluster.local
# 访问本命名空间:web → web.ns1.svc.cluster.local(第 1 候选命中)
# 访问 ns2 的服务:web.ns2.svc.cluster.local(写全名,避免一路试下去)
「同命名空间用短名、跨命名空间写全名」是 K8s 的标准实践——短名在 search 域第 1 候选就命中,效率最高;跨命名空间写全名则避免把不属于本命名空间的候选一路试下去。共享 pod(同一 Pod 多容器)的 resolv.conf 是同一个,容器间没有独立的 DNS 配置,这一点与宿主机多进程不同,调 dnsConfig 要在 Pod 层面统一设计。
判断解析慢在哪一段
用 dig 的查询时间把「解析慢」定位到段:
# 候选序列与耗时(正常走 search)
kubectl exec -it <pod> -- dig +search +stats db
kubectl exec -it <pod> -- dig +search +stats api.example.com
# 直接查绝对名做对照
kubectl exec -it <pod> -- dig api.example.com. +stats
对比两组输出:api.example.com(不查绝对名,走 search 候选)与 api.example.com.(结尾点,绝对名)的 query time 差,就是 search 域拼接造成的额外开销。差值明显 → 调 ndots;两者都慢 → 查 nameserver 可用性。这是「Pod 内解析慢」排障的两分法:先分清慢在候选序列还是慢在 DNS 服务器本身。
三个常见误解
- 「Pod 的 DNS 配置和宿主机一样,无需关心」——错误。kubelet 会注入集群专属的 resolv.conf(集群 nameserver + search 域 + ndots:5),与宿主机完全不同,外部域名解析行为也因此不同。
- 「ndots 越大越全能」——错误。ndots=5 让绝大多数外部域名(少于 5 个点)都先试 search 域再试绝对名,正确答案被排到最后,反而变慢;ndots 调低则牺牲集群短名便利。
- 「解析慢是 CoreDNS 的问题」——错误。多数「Pod 内解析外部域名慢」的根因在客户端候选序列:绝对名被 search 拼接挤到末尾,一次解析膨胀成多次 NXDOMAIN,与 CoreDNS 性能无关。
一个典型优化的前后对比
以「访问 api.example.com 外部服务」为例,看优化前后的解析成本:
| 配置 | 候选序列 | 命中前查询数 | 相对耗时 |
|---|---|---|---|
| 默认 ndots:5 | 3 个 search 候选之后才是绝对名 | 最多 4 次 | 基准 |
| ndots:1 | 先绝对名,第 1 次即命中 | 1 次 | 显著降低 |
| FQDN 结尾点 | 绝对名,无视 search | 1 次 | 与上相当,但要改代码 |
把「默认值 + 一次对照实验」放进发布流程:先 dig 对照确认差距,再按服务形态选 ndots 还是 FQDN。优化不玄学:候选序列变了,解析次数就变了,耗时是数得出来的——这也是本节所有建议可验证性的来源。
解析延迟调优的判断清单
- 慢在候选序列还是 nameserver?——dig 对照(前文)先定位,别瞎调。
- 集群内短名用得多吗?——多用则保 ndots,少用则调低。
- 外部域名是高频依赖吗?——是则 FQDN 结尾点最彻底。
- 能否改应用代码?——能改则用绝对名,不能改则靠 dnsConfig 兜底。
四问先定位再动手:慢在候选序列才调 ndots/search,慢在 nameserver 要修 CoreDNS。调优最忌讳的是不分段就改配置——改了 ndots 却没动真正的瓶颈,解析依旧慢,还丢了短名便利。
一句话总结本节
Pod 的 resolv.conf 用 ndots 与 search 域决定一次解析的候选序列:
- 规则:名字里的点 ≥ ndots 先查绝对名再拼 search,否则跳过绝对名直接拼 search。
- 影响:ndots=5 默认下,外部域名(≤4 个点)把绝对名排到最后,命中前要经历多次 NXDOMAIN,解析延迟被放大。
- 调优:调低 ndots 换外部域名速度、用 FQDN 结尾点绕开 search、自定义 dnsConfig 按需覆盖;每个手段都在「短名便利」与「解析速度」之间取舍。
DNS 的候选序列是解析延迟的第一道闸门,但它只是「解析一次」的成本。下一节把视角从单次解析拉到整个生命周期:apiserver → CoreDNS → 客户端缓存这条链路上,服务发现为什么是最终一致,旧 IP 的滞后如何被重试吸收。
本节 lab
本节用 dns 包的 SearchConfig.Query 与 Resolver.ResolveWithSearch 验证 ndots 决策与 search 顺序:
cd private/labs/k8s-net-lab
go test ./dns -run TestNdotsAbsoluteFirst -v
go test ./dns -run TestResolveWithSearchOrder -v
TestNdotsAbsoluteFirst 断言:a.b(1 个点)配 ndots:1 时候选序列以绝对名 a.b. 开头、再拼 search——「高 ndots 先绝对名」成立;单段名 db(0 个点)配 ndots:2 时只生成一个 search 拼接候选——「低点名字只走 search」成立。TestResolveWithSearchOrder 断言 search 为 [ns1, ns2] 时解析 web 命中 ns1 的 10.96.0.1——「按 search 顺序尝试」成立。三个测试合计 4 个断言,覆盖本节决策逻辑的最小形态:候选序列由 ndots 与 search 顺序共同决定,而这正是解析延迟的直接来源。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。