posts

专题四:云原生可观测性

从可观测性三大支柱(Metrics/Logs/Traces)出发,深度覆盖 Prometheus、Grafana、OpenTelemetry、Jaeger/Tempo、Loki、EFK 等主流云原生可观测性栈,延伸至 OTel Collector 深度调优、Prometheus 长期存储集群化(Thanos/Mimir)、Grafana Alerting 统一告警、Loki 标签基数与查询性能优化、服务网格可观测性(Istio/Kiali)、生成式 AI 可观测性(LLM 追踪/成本/质量/安全)、eBPF、SLO 工程、K8s 可观测性、APM 及数据存储选型。附带实战配置与架构设计。并延伸至 OpenMetrics 指标规范治理、日志采样去重与降噪、仪表盘设计与可读性工程,以及 GPU 与加速器、Serverless 与 FaaS、边缘与 IoT 三类特殊负载的可观测性实践。

「可观测性」不是一个工具,而是一种能力:让系统的内部状态通过输出可被理解。

在现代分布式系统中,可观测性(Observability)已经不再是"锦上添花"的运维手段,而是工程团队的核心基础设施。它直接影响故障排查效率、系统可靠性、资源利用率和业务决策质量。

本专题共 43 篇深度文章(含聚合页),从理论到工程实践,覆盖云原生可观测性的全局版图——在既有三阶段(基础与核心、工程化与 SRE、场景与规模化)之上,新增「规范治理与场景延伸」一阶段:OpenMetrics 指标规范、日志采样去重降噪、仪表盘可读性工程,以及 GPU/加速器、Serverless、边缘与 IoT 三类特殊负载的可观测性:


专题总体规划

阶段一:基础与核心(入门→中级)

#文章学习目标
1可观测性三大支柱深度解析理解 Metrics/Logs/Traces 的核心概念、数据模型与采集范式
2Prometheus 深度解析掌握指标采集、服务发现、PromQL、Recording Rule、Alertmanager
3Grafana 可视化与仪表盘设计精通仪表盘设计原则、变量联动、Annotation、Grafana Loki 集成
4OpenTelemetry:标准化可观测性框架理解 OTel 架构、API/SDK、Collector、自动/手动埋点、语义约定
5OpenTelemetry 插桩实践:手动、自动与语言 SDK手动 API 埋点、自动插桩(Agent/eBPF)、多语言 SDK 差异、资源与语义约定落地
6OpenTelemetry Collector 深度解析掌握 Pipeline(Receiver/Processor/Exporter)、Tail/Head 采样、性能调优、多后端路由
7分布式追踪实战:Jaeger 与 Tempo熟悉 Span/Trace、采样策略、头传递、Jaeger Tempo 部署
8追踪上下文传播:W3C tracecontext、Baggage 与采样W3C Trace Context/Baggage 规范、跨进程与消息队列传播、采样决策一致性、断链排查
9日志系统全栈:Loki、EFK 与向量收集部署 Loki/EFK、日志收集架构、日志结构化、压缩与索引
10监控黄金信号与 RED/USE 方法论用黄金信号 / RED / USE 最简指标看清服务健康、瓶颈与余量

阶段二:工程化与 SRE(进阶)

#文章学习目标
11告警设计与事件响应告警分层、降噪、升级、值班轮换、事后复盘(Postmortem)
12SLO、SLI 与错误预算定义 SLO、SLI 选取、错误预算消费、Burn Rate 告警策略
13eBPF 可观测性理解 eBPF 机制、BCC/libbpf、Go/eBPF 集成、Kernel 探针
14Kubernetes 可观测性实战K8s Metrics Server/Metrics Pipeline、cAdvisor/kubelet/Node Exporter
15合成监控与主动拨测:从探针到全局视图主动拨测模型、多地域探针、HTTP/DNS/API 脚本、与 SLO 联动、告警与故障定位
16云原生 APM 与性能剖析APM 架构、Continuous Profiling、火焰图、性能基线
17前端与移动端 RUM:Web Vitals、会话与用户体验监控Core Web Vitals、真实用户会话回放、错误与卡顿采集、前后端链路关联
18可观测性数据存储选型TSDB、列式存储、对象存储、数据保留策略、成本优化
19Prometheus 长期存储与集群化Thanos/Mimir 架构、对象存储、全局去重查询、降采样、多租户、HA 选型
20Grafana Alerting 统一告警进阶通知策略树、模板化通知、静默/抑制、集群 HA、告警降噪、OnCall 升级
21Loki 架构与性能优化标签基数管理、LogQL 查询加速、摄入调优、TSDB 索引、压缩保留、成本控制
22Prometheus 高基数治理与 PromQL 优化标签设计纪律、降低基数策略、查询先过滤再聚合、Recording Rule 预聚合
23结构化日志与语义约定JSON 结构化日志、字段规范、Trace ID 关联、日志脱敏与可查询分析
24遥测采样与摄取管道Agent→Collector→后端管道、Head/Tail 采样、边缘降噪脱敏、数据降本

阶段三:场景与规模化(高级)

#文章学习目标
25服务网格可观测性Istio Envoy 遥测、RED 指标、Kiali 拓扑、自动链路追踪、访问日志与 Linkerd
26生成式 AI 可观测性LLM 调用追踪、OTel GenAI 语义、Token 成本监控、LLM-as-Judge 质量、安全与漂移
27AI 智能体与可观测性:MCP 工具接入与智能排障MCP 工具协议、把可观测数据暴露给智能体、智能排障工作流、权限与安全边界
28可观测性 FinOps 成本智能可观测性成本归因、数据降本、存储分层、用量治理、FinOps 落地
29可观测性安全与数据脱敏敏感数据 PII 识别、最小化采集、脱敏、加密传输存储、访问控制与合规
30可观测性平台建设与组织落地统一采集/存储/查询、自助接入、埋点治理、平台 SLO 与成本治理、组织路线图
31AIOps 异常检测:从阈值告警到机器学习根因时序异常检测算法、动态基线、多指标关联与根因定位、误报治理与模型运维
32持续剖析:Pyroscope、Parca 与生产环境低开销采样采样原理(pprof/eBPF)、Pyroscope 与 Parca 架构、火焰图与差异分析、低开销生产剖析
33Exemplar 与指标-链路-日志关联Exemplar 的 OpenMetrics 规范、客户端埋点、指标跳转 trace、trace 与日志双向关联
34数据库与查询层可观测性慢查询与语句归一化、连接池指标与等待、执行计划与索引效率、数据库等待事件
35消息队列可观测性:Kafka 与 RabbitMQ消费者滞后与分区指标、队列深度与消费速率、端到端延迟、再平衡观测与积压告警
36可观测性即代码:仪表盘、告警与采集配置的 GitOpsGrafana as Code、告警规则单元测试、采集配置版本化、GitOps 工作流与 CI 校验
37多集群可观测性联邦与聚合Prometheus 联邦的局限、Thanos/Mimir 全局视图、分片去重降采样、日志链路跨集群聚合

阶段四:规范治理与场景延伸(高级)

#文章学习目标
38OpenMetrics 与指标规范治理暴露格式与 Content Negotiation、命名与单位约定、exemplar 与原生直方图、兼容性与治理清单
39日志采样、去重与降噪采样策略选型、指纹去重、模板化聚类、噪音日志抑制、成本与可查性的平衡
40仪表盘设计与可读性工程信息层级与视觉编码、图表选型、变量与下钻、误读陷阱、仪表盘评审与迭代
41GPU 与加速器可观测性DCGM/NVML 指标来源、SM 利用率与显存归因、XID 错误码定位、MIG 与 NVLink 健康度、训练任务归因
42Serverless 与 FaaS 可观测性冷启动分解、调用链断点与上下文传播、并发与限流指标、日志采集与成本控制
43边缘与 IoT 可观测性弱网与离线缓冲、设备侧轻量采集、边缘聚合与降采样、带宽约束下的数据策略

学习路径

路线 A:运维/SRE 方向
三大支柱 → Prometheus → Grafana → 告警设计 → SLO → K8s 可观测 → APM → Grafana Alerting 进阶

路线 B:开发/架构方向
OpenTelemetry → Tracing → Logging → eBPF → 存储选型 → APM → SLO → OTel Collector 深度

路线 C:全链路方向
三大支柱 → Prometheus + Grafana → OTel → Jaeger/Tempo → Loki → SLO + 告警 → K8s → eBPF

路线 D:规模化方向
数据存储选型 → Thanos/Mimir 长期存储 → Loki 优化 → Grafana Alerting 进阶 → 成本治理

路线 E:场景化方向
OTel Collector → 服务网格观测 → GenAI 观测 → FinOps 成本智能

路线 F:平台化与安全方向
黄金信号/RED/USE → 高基数治理 → 结构化日志 → 采样管道 → 观测安全脱敏 → 可观测性平台建设

路线 G:规范与特殊负载方向
OpenMetrics 规范 → 日志采样去重 → 仪表盘可读性 → GPU/加速器观测 → Serverless 观测 → 边缘与 IoT 观测

快速索引

已有相关内容(可交叉引用)

文章说明路径
Kubernetes 可观测性实战专题二中的 K8s 可观测性content/posts/kubernetes/kubernetes-observability.md
Go eBPF 可观测性Go 专题中的 eBPF 内容content/posts/golang/start/119-ebpf-go-observability.md
游戏服务端可观测性架构设计游戏专题可观测性设计content/posts/game/.../game-server-observability-architecture-design.md
Circuit Breaker & Rate Limiting熔断限位与可观测性关系content/posts/golang/start/117-circuit-breaker-rate-limiting.md
AI 推理加速可观测性AI 专题 GPU 利用率/推理延迟监控content/posts/ai/
LLM 应用工程化LLM 专题 RAG/Agent/评估content/posts/llm/

关联专题

专题可观测性关联点
Kubernetes 与云原生K8s 集群监控、Pod/Node/网络全链路可观测性
DevOps 专题CI/CD 监控、部署健康检查、SLO/SLI 定义
分布式系统链路追踪、分布式事务监控、服务网格可观测性
Node.js 全栈开发OpenTelemetry Node.js SDK、 Winston/Pino 日志结构化
Java 企业级开发Spring Boot Actuator、Micrometer、JMX 监控
AI 推理加速GPU 利用率监控、推理延迟 P99、模型服务可观测性
LLM 应用专题LLM 调用追踪、RAG 评估、模型质量监控、成本治理
HPC 高性能计算Slurm 作业监控、集群节点健康、InfiniBand 性能计数器
信息安全eBPF 安全监控、Falco 运行时威胁检测、SIEM 日志聚合
数据库专题慢查询监控、连接池指标、复制延迟告警
网络编程TCP 连接追踪、DNS 解析监控、带宽利用率

参考标准

全部文章 game golang 客户端开发 Minigame Saas Indie rust Python Java cg
infra

Prometheus 高基数治理与 PromQL 查询优化:让监控不再因标签爆炸而瘫痪

深度讲解 Prometheus 高基数(High Cardinality)问题与 PromQL 查询优化:高基数的定义与危害、标签设计纪律(Cardinality 评估/标签上限/动态标签)、降低基数的策略(指标拆分/标签重命名/启用 relabel)、PromQL 查询性能优化(避免聚合爆炸/合理范围/Recording Rule/索引与内存)、高基数检测与治理工具。

6 分钟阅读
Prometheus promql metrics
infra

监控黄金信号与 RED/USE 方法论:业务与资源指标的指标设计

深度讲解可观测性指标的方法论设计:Google 四大黄金信号(Latency/Traffic/Errors/Saturation)、RED(Rate/Errors/Duration)、USE(Utilization/Saturation/Errors)与四类指标类型,如何在业务监控与资源监控中落地、每个服务/每类资源该采哪些指标、告警阈值与容量规划,以及方法论之间的选择与组合。

7 分钟阅读
可观测性 monitoring SRE
可观测性

生成式 AI 可观测性:LLM 调用追踪、Token 成本监控、质量与安全评估

传统应用的可观测性(Metrics/Logs/Traces)在 LLM 应用面前依然成立,但要新增三个 LLM 特有的观测维度:Token 与成本(每次调用消耗多少、花了多少钱)、模型质量(回答对不对、是否幻觉、是否符合预期)、模型安全(提示注入、有害内容、PII 泄露)。大模型是"黑盒 …

8 分钟阅读
genai LLM 可观测性
可观测性

可观测性与 FinOps:用数据驱动云成本优化

云原生时代,资源弹性带来的便利让成本变成了可伸缩的数字。然而,当账单上的数字持续膨胀,企业才意识到:没有可观测性的 FinOps,就像没有仪表盘的飞机——你只知道自己正在飞翔,却看不清方向和油耗。本文将探讨可观测性如何成为 FinOps 的核心驱动力,以及如何通过数据实现真正的成本治理。

6 分钟阅读
FinOps 可观测性 SRE
infra

可观测性数据存储选型:TSDB、列式存储、对象存储与成本优化

系统性可观测性数据存储架构指南:时序数据库对比(Prometheus/Mimir/VictoriaMetrics/Thanos Cortex/InfluxDB/TimescaleDB)、列式存储(ClickHouse/Druid/Pinot)在可观测性中的应用、日志存储对比(Loki/ES/S3+Athena/ClickHouse)、对象存储成本模型与分层策略、数据保留策略(热/温/冷/冻结)、压缩算法与降采样(Downsampling)、OTel Collector 存储后端路由、多云存储成本对比、数据合规与主权。

6 分钟阅读
可观测性 storage tsdb
infra

云原生 APM 与性能剖析:Continuous Profiling 与火焰图

系统性云原生 APM 实战指南:APM 架构与 Agent 模式(自动插桩/字节码注入/eBPF 零侵扰)、OpenTelemetry APM 链路、持续性能剖析(Continuous Profiling)概念与价值、Go pprof / Java async-profiler / Python py-spy / Rust flamegraph 实践、CPU 火焰图 / 内存分配图 / Goroutine 阻塞图 / 锁竞争图解读、Grafana Profiles(Pyroscope/Parca)部署、APM 与 Metrics/Logs/Traces 的协同、性能基线建立与回归检测、Profiling 数据采样与低开销策略、生产环境 Profiling 安全实践。

5 分钟阅读
profiling 性能优化 flamegraph
infra

Kubernetes 可观测性实战:集群、Pod、网络、存储全链路监控

系统性 Kubernetes 可观测性实战指南:K8s 分层监控模型(集群/节点/Pod/容器/应用/API Server/etcd)、kubelet/cAdvisor/Metrics Server/Node Exporter 指标详解、Vertical Pod Autoscaler (VPA) / Horizontal Pod Autoscaler (HPA) 监控、Kubernetes Events / Audit Logs / Control Plane 日志、网络可观测性(CNI / kube-proxy / CoreDNS / Ingress)、存储可观测性(PVC/StorageClass/CSI driver metrics)、K8s 告警规则(Prometheus Rule)、Grafana K8s Dashboard 生态(社区模板/自定义)、Kubectl resource metrics / stern / k9s 排障工具链。

6 分钟阅读
Kubernetes 可观测性 Prometheus
infra

eBPF 可观测性:内核可编程追踪与性能剖析

系统性 eBPF 可观测性实战:eBPF 架构与执行模型(Verifier/JIT/maps/Helper)、BCC 与 libbpf 开发框架对比、BPF 程序类型(kprobe/tracepoint/uprobe/XDP/TC/socket)、Go eBPF 开发(cilium/ebpf 库)、常见可观测性场景(函数追踪/延迟分析/火焰图/网络丢包/文件 IO/TCP 连接)、eBPF 安全与权限(CAP_BPF)、性能开销控制、与 Prometheus/Grafana 集成。附 C/libbpf 和 Go 实战代码。

8 分钟阅读
eBPF tracing 性能优化
infra

SLO、SLI 与错误预算:数据驱动的可靠性工程

系统性 SRE 可靠性工程指南:SLI(Service Level Indicator)选取方法论、SLO(Service Level Objective)目标设定、错误预算定义与消费、Burn Rate 告警策略、多窗口多阈值告警(Multi-window Multi-burn-rate Alerting)、服务水平协议(SLA)与 SLO 的区别、基于错误预算的发布策略(发布窗口/金丝雀阈值)、SLO 监控面板设计、SLO 文化与团队治理。附 Google SRE 示例与 Prometheus/Grafana 实战配置。

5 分钟阅读
SRE SLO sli
infra

告警设计与事件响应:降噪、分级、值班与事后复盘

系统性告警与事件响应实战指南:告警设计的黄金法则(可行动性/关联上下文/优先级/渐进式)、Four Golden Signals 与 USE/RED 方法论、告警分级(P0/P1/P2/P3)与升级策略、告警疲劳根因分析与降噪手段(抑制/聚合/去重/依赖静默)、值班轮换(on-call)制度、事件响应 SOP(检测/评估/缓解/复盘)、ChatOps / Runbook 自动化、事后复盘模板(Postmortem)与无责文化、MTTR/MTBF/MTTF 指标定义与追踪、PagerDuty/Opsgenie 集成实践。

8 分钟阅读
alerting on-call SRE
infra

日志系统全栈:Loki、EFK、Vector 与日志架构设计

系统性日志系统实战指南:日志采集架构设计(DaemonSet/Sidecar/应用直推)、Loki 架构(Distributor/Ingester/Querier/Compactor/Index Gateway)、LogQL 查询语言、Loki 对象存储后端与分片策略、EFK 栈(Elasticsearch/Fluentd/Kibana)生产部署、Vector(Rust 高性能日志采集器)配置与拓扑、日志结构化(JSON/OTLP)与解析(Regex/Grok/CSV)、日志压缩与保留策略、日志安全(脱敏/审计/权限)、日志与 Trace/Metrics 关联。附完整 Kubernetes 部署配置。

7 分钟阅读
logging loki elasticsearch
infra

分布式追踪实战:Jaeger、Tempo 与采样策略

系统性分布式追踪实战指南:Trace 数据模型(Span/Trace/Context/Links)、分布式追踪头传播(W3C Trace Context / B3 / Jaeger)、Jaeger Agent/Collector/Query/UI 部署架构、Tempo 低成本对象存储架构、头部采样 vs 尾部采样 vs 自适应采样、TraceQL 查询语言、Span/Event/Attribute 最佳实践、Trace 与 Metrics/Logs 关联(Exemplars/OpenTelemetry)、性能开销分析与优化、追踪驱动的延迟分析(关键路径/火焰图)、全链路压测追踪。附 Go/Java/Node.js 实战与 Kubernetes 部署 YAML。

8 分钟阅读
distributed-tracing jaeger tempo
infra

OpenTelemetry 完全指南:标准化可观测性框架

系统性 OpenTelemetry 实战指南:OTel 架构与核心理念、自动与手动 Instrumentation、Span/Trace/Context 传播、Metrics SDK / Logs SDK / Baggage、语义约定(Semantic Conventions)与资源属性、OTel Collector 架构与 processors/exporters、采样策略(AlwaysOn/Sampler/Parent-based/Rate-limiting)、OTLP 协议、与 Prometheus/Jaeger/Loki 的桥接、Go/Java/Node.js/Python 多语言实战代码。

7 分钟阅读
OpenTelemetry tracing 可观测性