posts

专题四:云原生可观测性

从可观测性三大支柱(Metrics/Logs/Traces)出发,深度覆盖 Prometheus、Grafana、OpenTelemetry、Jaeger/Tempo、Loki、EFK 等主流云原生可观测性栈,延伸至 OTel Collector 深度调优、Prometheus 长期存储集群化(Thanos/Mimir)、Grafana Alerting 统一告警、Loki 标签基数与查询性能优化、服务网格可观测性(Istio/Kiali)、生成式 AI 可观测性(LLM 追踪/成本/质量/安全)、eBPF、SLO 工程、K8s 可观测性、APM 及数据存储选型。附带实战配置与架构设计。并延伸至 OpenMetrics 指标规范治理、日志采样去重与降噪、仪表盘设计与可读性工程,以及 GPU 与加速器、Serverless 与 FaaS、边缘与 IoT 三类特殊负载的可观测性实践。

「可观测性」不是一个工具,而是一种能力:让系统的内部状态通过输出可被理解。

在现代分布式系统中,可观测性(Observability)已经不再是"锦上添花"的运维手段,而是工程团队的核心基础设施。它直接影响故障排查效率、系统可靠性、资源利用率和业务决策质量。

本专题共 43 篇深度文章(含聚合页),从理论到工程实践,覆盖云原生可观测性的全局版图——在既有三阶段(基础与核心、工程化与 SRE、场景与规模化)之上,新增「规范治理与场景延伸」一阶段:OpenMetrics 指标规范、日志采样去重降噪、仪表盘可读性工程,以及 GPU/加速器、Serverless、边缘与 IoT 三类特殊负载的可观测性:


专题总体规划

阶段一:基础与核心(入门→中级)

#文章学习目标
1可观测性三大支柱深度解析理解 Metrics/Logs/Traces 的核心概念、数据模型与采集范式
2Prometheus 深度解析掌握指标采集、服务发现、PromQL、Recording Rule、Alertmanager
3Grafana 可视化与仪表盘设计精通仪表盘设计原则、变量联动、Annotation、Grafana Loki 集成
4OpenTelemetry:标准化可观测性框架理解 OTel 架构、API/SDK、Collector、自动/手动埋点、语义约定
5OpenTelemetry 插桩实践:手动、自动与语言 SDK手动 API 埋点、自动插桩(Agent/eBPF)、多语言 SDK 差异、资源与语义约定落地
6OpenTelemetry Collector 深度解析掌握 Pipeline(Receiver/Processor/Exporter)、Tail/Head 采样、性能调优、多后端路由
7分布式追踪实战:Jaeger 与 Tempo熟悉 Span/Trace、采样策略、头传递、Jaeger Tempo 部署
8追踪上下文传播:W3C tracecontext、Baggage 与采样W3C Trace Context/Baggage 规范、跨进程与消息队列传播、采样决策一致性、断链排查
9日志系统全栈:Loki、EFK 与向量收集部署 Loki/EFK、日志收集架构、日志结构化、压缩与索引
10监控黄金信号与 RED/USE 方法论用黄金信号 / RED / USE 最简指标看清服务健康、瓶颈与余量

阶段二:工程化与 SRE(进阶)

#文章学习目标
11告警设计与事件响应告警分层、降噪、升级、值班轮换、事后复盘(Postmortem)
12SLO、SLI 与错误预算定义 SLO、SLI 选取、错误预算消费、Burn Rate 告警策略
13eBPF 可观测性理解 eBPF 机制、BCC/libbpf、Go/eBPF 集成、Kernel 探针
14Kubernetes 可观测性实战K8s Metrics Server/Metrics Pipeline、cAdvisor/kubelet/Node Exporter
15合成监控与主动拨测:从探针到全局视图主动拨测模型、多地域探针、HTTP/DNS/API 脚本、与 SLO 联动、告警与故障定位
16云原生 APM 与性能剖析APM 架构、Continuous Profiling、火焰图、性能基线
17前端与移动端 RUM:Web Vitals、会话与用户体验监控Core Web Vitals、真实用户会话回放、错误与卡顿采集、前后端链路关联
18可观测性数据存储选型TSDB、列式存储、对象存储、数据保留策略、成本优化
19Prometheus 长期存储与集群化Thanos/Mimir 架构、对象存储、全局去重查询、降采样、多租户、HA 选型
20Grafana Alerting 统一告警进阶通知策略树、模板化通知、静默/抑制、集群 HA、告警降噪、OnCall 升级
21Loki 架构与性能优化标签基数管理、LogQL 查询加速、摄入调优、TSDB 索引、压缩保留、成本控制
22Prometheus 高基数治理与 PromQL 优化标签设计纪律、降低基数策略、查询先过滤再聚合、Recording Rule 预聚合
23结构化日志与语义约定JSON 结构化日志、字段规范、Trace ID 关联、日志脱敏与可查询分析
24遥测采样与摄取管道Agent→Collector→后端管道、Head/Tail 采样、边缘降噪脱敏、数据降本

阶段三:场景与规模化(高级)

#文章学习目标
25服务网格可观测性Istio Envoy 遥测、RED 指标、Kiali 拓扑、自动链路追踪、访问日志与 Linkerd
26生成式 AI 可观测性LLM 调用追踪、OTel GenAI 语义、Token 成本监控、LLM-as-Judge 质量、安全与漂移
27AI 智能体与可观测性:MCP 工具接入与智能排障MCP 工具协议、把可观测数据暴露给智能体、智能排障工作流、权限与安全边界
28可观测性 FinOps 成本智能可观测性成本归因、数据降本、存储分层、用量治理、FinOps 落地
29可观测性安全与数据脱敏敏感数据 PII 识别、最小化采集、脱敏、加密传输存储、访问控制与合规
30可观测性平台建设与组织落地统一采集/存储/查询、自助接入、埋点治理、平台 SLO 与成本治理、组织路线图
31AIOps 异常检测:从阈值告警到机器学习根因时序异常检测算法、动态基线、多指标关联与根因定位、误报治理与模型运维
32持续剖析:Pyroscope、Parca 与生产环境低开销采样采样原理(pprof/eBPF)、Pyroscope 与 Parca 架构、火焰图与差异分析、低开销生产剖析
33Exemplar 与指标-链路-日志关联Exemplar 的 OpenMetrics 规范、客户端埋点、指标跳转 trace、trace 与日志双向关联
34数据库与查询层可观测性慢查询与语句归一化、连接池指标与等待、执行计划与索引效率、数据库等待事件
35消息队列可观测性:Kafka 与 RabbitMQ消费者滞后与分区指标、队列深度与消费速率、端到端延迟、再平衡观测与积压告警
36可观测性即代码:仪表盘、告警与采集配置的 GitOpsGrafana as Code、告警规则单元测试、采集配置版本化、GitOps 工作流与 CI 校验
37多集群可观测性联邦与聚合Prometheus 联邦的局限、Thanos/Mimir 全局视图、分片去重降采样、日志链路跨集群聚合

阶段四:规范治理与场景延伸(高级)

#文章学习目标
38OpenMetrics 与指标规范治理暴露格式与 Content Negotiation、命名与单位约定、exemplar 与原生直方图、兼容性与治理清单
39日志采样、去重与降噪采样策略选型、指纹去重、模板化聚类、噪音日志抑制、成本与可查性的平衡
40仪表盘设计与可读性工程信息层级与视觉编码、图表选型、变量与下钻、误读陷阱、仪表盘评审与迭代
41GPU 与加速器可观测性DCGM/NVML 指标来源、SM 利用率与显存归因、XID 错误码定位、MIG 与 NVLink 健康度、训练任务归因
42Serverless 与 FaaS 可观测性冷启动分解、调用链断点与上下文传播、并发与限流指标、日志采集与成本控制
43边缘与 IoT 可观测性弱网与离线缓冲、设备侧轻量采集、边缘聚合与降采样、带宽约束下的数据策略

学习路径

路线 A:运维/SRE 方向
三大支柱 → Prometheus → Grafana → 告警设计 → SLO → K8s 可观测 → APM → Grafana Alerting 进阶

路线 B:开发/架构方向
OpenTelemetry → Tracing → Logging → eBPF → 存储选型 → APM → SLO → OTel Collector 深度

路线 C:全链路方向
三大支柱 → Prometheus + Grafana → OTel → Jaeger/Tempo → Loki → SLO + 告警 → K8s → eBPF

路线 D:规模化方向
数据存储选型 → Thanos/Mimir 长期存储 → Loki 优化 → Grafana Alerting 进阶 → 成本治理

路线 E:场景化方向
OTel Collector → 服务网格观测 → GenAI 观测 → FinOps 成本智能

路线 F:平台化与安全方向
黄金信号/RED/USE → 高基数治理 → 结构化日志 → 采样管道 → 观测安全脱敏 → 可观测性平台建设

路线 G:规范与特殊负载方向
OpenMetrics 规范 → 日志采样去重 → 仪表盘可读性 → GPU/加速器观测 → Serverless 观测 → 边缘与 IoT 观测

快速索引

已有相关内容(可交叉引用)

文章说明路径
Kubernetes 可观测性实战专题二中的 K8s 可观测性content/posts/kubernetes/kubernetes-observability.md
Go eBPF 可观测性Go 专题中的 eBPF 内容content/posts/golang/start/119-ebpf-go-observability.md
游戏服务端可观测性架构设计游戏专题可观测性设计content/posts/game/.../game-server-observability-architecture-design.md
Circuit Breaker & Rate Limiting熔断限位与可观测性关系content/posts/golang/start/117-circuit-breaker-rate-limiting.md
AI 推理加速可观测性AI 专题 GPU 利用率/推理延迟监控content/posts/ai/
LLM 应用工程化LLM 专题 RAG/Agent/评估content/posts/llm/

关联专题

专题可观测性关联点
Kubernetes 与云原生K8s 集群监控、Pod/Node/网络全链路可观测性
DevOps 专题CI/CD 监控、部署健康检查、SLO/SLI 定义
分布式系统链路追踪、分布式事务监控、服务网格可观测性
Node.js 全栈开发OpenTelemetry Node.js SDK、 Winston/Pino 日志结构化
Java 企业级开发Spring Boot Actuator、Micrometer、JMX 监控
AI 推理加速GPU 利用率监控、推理延迟 P99、模型服务可观测性
LLM 应用专题LLM 调用追踪、RAG 评估、模型质量监控、成本治理
HPC 高性能计算Slurm 作业监控、集群节点健康、InfiniBand 性能计数器
信息安全eBPF 安全监控、Falco 运行时威胁检测、SIEM 日志聚合
数据库专题慢查询监控、连接池指标、复制延迟告警
网络编程TCP 连接追踪、DNS 解析监控、带宽利用率

参考标准

全部文章 game golang 客户端开发 Minigame Saas Indie rust Python Java cg
infra

Grafana 可视化与仪表盘设计:从数据到洞察

系统性 Grafana 实战指南:数据源配置(Prometheus/Loki/Tempo/MySQL/Elasticsearch)、仪表盘设计原则(OLAP 原则/颜色语义/信息层次/Golden Signals)、变量与模板化(Query/Text/Custom/Interval/Datasource)、多面板联动与钻取、Alerting 规则(Grafana 告警 vs Alertmanager)、Annotation 与事件叠加、Grafana Loki 日志查询面板、Grafana Tempo 追踪面板、面板类型选择(Time Series/Stat/Table/Heatmap/Gauge/Logs/Node Graph/Canvas)、公共分享与嵌入、Grafana 权限模型与组织管理。附生产级 Dashboard JSON 模板。

7 分钟阅读
Grafana dashboard visualization
infra

Prometheus 深度解析:指标采集、PromQL、服务发现、Recording Rule 与 Alertmanager

系统级 Prometheus 实战指南:数据模型与指标类型详解、Exporter 生态与自定义 Exporter 开发、服务发现机制(DNS/K8s/Consul/File SD)、PromQL 高级查询(聚合/子查询/二元运算/预测/同比环比)、Recording Rule 与告警规则设计、Alertmanager 分组/抑制/静默/路由、高可用联邦与远程存储、Thanos/VictoriaMetrics 扩展架构。附完整配置与实战代码。

7 分钟阅读
Prometheus promql metrics
infra

可观测性三大支柱深度解析:指标、日志、追踪

系统性梳理可观测性三大支柱(Metrics/Logs/Traces)的核心概念、数据模型、采集范式和适用场景。对比维度覆盖数据类型、查询方式、存储成本、采样策略、告警响应、根因定位。延伸至事件(Events)、剖析(Profiling)、真实用户监控(RUM)等第四/第五支柱,构建完整的云原生可观测性认知框架。

7 分钟阅读
可观测性 metrics logs