可视化与 OLAP 数仓集成
讲清 BI 前端与 OLAP 数仓的分工边界,涵盖语义层与指标口径统一、星型模型与宽表取舍、预聚合物化视图、聚合下推、时间维度处理、去重计数优化、缓存预热以及查询治理与成本控制。文章以 ClickHouse 与 Doris 为例给出可落地的建表与查询改写方案。
tag
讲清 BI 前端与 OLAP 数仓的分工边界,涵盖语义层与指标口径统一、星型模型与宽表取舍、预聚合物化视图、聚合下推、时间维度处理、去重计数优化、缓存预热以及查询治理与成本控制。文章以 ClickHouse 与 Doris 为例给出可落地的建表与查询改写方案。
ClickHouse 是面向 OLAP 场景的开源列式数据库,以极致的查询性能著称。本文详解 ClickHouse 的列式存储、向量化执行、MergeTree 引擎、分布式架构以及与行式数据库的本质区别。
ClickHouse 是一款由 Yandex 开源的面向 OLAP 场景的高性能列式数据库,以向量化执行引擎和极致查询性能著称。本专题系统覆盖列式存储架构原理、SQL 编写与性能优化、MergeTree 家族表引擎详解、数据接入与 ETL 管道、分布式分片+副本集群搭建、监控运维与冷热分层策略,以及实时分析场景(漏斗/留存/A-B 测试)的完整生产实践,并深入 MergeTree 合并原理与数据生命周期、物化视图与实时聚合、查询优化器与执行引擎、备份恢复与容灾、Kafka 实时管道、权限安全加固、复制表与跨机房容灾(ReplicatedMergeTree/ClickHouse Keeper/脑裂防护)、字典与维度 JOIN(Dictionaries/dictGet/星型模型)、列式压缩算法(LZ4/ZSTD/Delta/Gorilla Codec)、查询缓存与预热、时序分析最佳实践(降采样/异常检测)、Mutation 与 TTL(轻量删除/冷热分层)、窗口函数高级实战(排名/聚合/偏移/分布/滑动)、实时数仓架构(ODS/DWD/DWS/ADS 分层与 Lambda/Kappa)、对象存储 S3 集成(冷热分层/TTL 迁移/S3 备份/Data Lake)、生产性能调优(写入/查询/内存/集群)、Schema 建模最佳实践(主键/分区/压缩编码/宽窄表)、JSON 与半结构化数据处理(导入提取/展平/物化列/混合建模)、向量检索与 ANN 索引(HNSW/usearch/相似度查询)、全文检索与倒排索引(tokenbf_v1/text index/模糊匹配)、日志与指标存储(可观测性后端/Grafana/成本治理)、集群扩容与平滑升级(分片重平衡/滚动重启)、内存管理与落盘(spill to disk/OOM 防护)、用户自定义函数(executable UDF/SQL UDF/性能边界),并补齐 Projections 预聚合、trace_log 查询剖析、轻量删除更新、查询并发与资源隔离(workload scheduling)、MySQL/PostgreSQL 方言迁移、容量规划与成本优化等高级主题。
从零构建基于 Kafka + Flink + ClickHouse 的实时数仓,涵盖数据采集、流式计算、OLAP 存储与实时大盘的全链路实战。
深度解析 Apache Doris 与 StarRocks 的 MPP 架构、向量化执行引擎、物化视图、联邦查询能力与选型对比,以及生产集群部署与查询优化策略。
深入 ClickHouse 列式存储引擎:MergeTree 引擎家族、 sparse primary index、向量化执行、物化视图、集群分片与查询优化实战。
从行存储与列存储原理出发,深入讲解 HTAP(混合事务/分析处理)架构设计、OLTP 与 OLAP 融合方案,以及 ClickHouse、TiFlash 等实时分析引擎的工程实践。
深入讲解数据仓库、数据湖、湖仓一体架构的演进历程,涵盖维度建模、ETL流程、实时数仓、Iceberg/Hudi等核心技术,提供ClickHouse、Spark的实战案例。