tag

Kafka

共 76 篇文章。
全部文章GoTypeScript游戏开发小游戏游戏设计Godot书稿RustPython性能优化游戏引擎PRDSaaS游戏服务端
kafka

Kafka Connect 自定义 Connector 开发实战

深入讲解 Kafka Connect 自定义 Connector 的开发路径:Worker、Connector、Task、Converter、Transform 五层扩展点、standalone 与 distributed 部署差异、SourceTask 与 SinkTask 的接口契约、poll 与 put 批处理语义、offset 存储模型、tasks.max 与分区级并行度取舍、offset 提交时机与 Exactly-Once 语义、Sink 端幂等与事务写入、SMT 与 Predicate 组合、插件打包与 REST API 运维,并给出生产参数表、监控指标与踩坑清单

10 分钟阅读
Kafka 数据集成 Exactly-Once
scala

Akka Streams 与响应式流:图 DSL、背压与流式实战

深入 Akka Streams:Reactive Streams 规范与背压协议(request 信号/Publisher/Subscriber)、Source/Flow/Sink 算子、图 DSL(Fan-out/Fan-in/连接器)、背压策略(buffer/throttle/溢出策略)、监督与重启(recover/restart)、Kafka/数据库/网络集成、ETL 与事件处理实战、materialization 与异步边界、以及与函数式流(fs2)的对比选型。

11 分钟阅读
背压 Kafka ETL
typescript

NestJS 微服务架构:模块化、消息与网关

系统覆盖用 NestJS 构建 TypeScript 微服务架构的完整实践:模块化与依赖注入、TCP/Redis/Kafka 传输层选型、客户端-服务端微服务模式、请求-应答与事件驱动消息模式、BFF 网关聚合与 API 编排、JWT 鉴权与消息校验、重试超时与熔断容错,以及日志追踪指标三维可观测性,帮助开发者用框架约束搭建类型安全、可观测、可容错的微服务网络。

6 分钟阅读
TypeScript nestjs 微服务
kafka

Kafka Producer 深入:批量、压缩与吞吐延迟权衡

系统讲解 Kafka Producer 内部机制:发送缓冲与批量(RecordBatch/buffer.memory/batch.size/linger.ms)、消息压缩(gzip/snappy/lz4/zstd 对比)、acks 语义与吞吐延迟权衡、分区器与 key 路由、幂等生产者与事务衔接、发送错误处理(重试/可重试与不可重试错误)、以及吞吐调优(批量大小/压缩级别/并发发送/监控指标)的工程实践

6 分钟阅读
Kafka Producer 压缩
kafka

Kafka 消费组与再平衡深入:协议演进、分配策略与稳定性调优

系统讲解 Kafka 消费组与再平衡机制:消费组模型与心跳协议、Eager 与 CooperativeSticky 两代再平衡协议、JoinGroup/SyncGroup/Heartbeat 完整流程、四种分区分配策略(Range/RoundRobin/Sticky/CooperativeSticky)、再平衡频繁的根因排查(max.poll.interval/session.timeout/处理耗时)、静态成员与滚动重启、以及位移提交与再平衡配合的稳定性工程实践

7 分钟阅读
Kafka 稳定性
database

PostgreSQL 逻辑复制与 CDC:发布订阅、WAL 解码、零停机迁移与 Debezium/Kafka 集成

系统讲解 PostgreSQL 逻辑复制与变更数据捕获(CDC):逻辑复制原理与 WAL 解码(pgoutput/wal2json/decoderbufs)、发布订阅(CREATE PUBLICATION/SUBSCRIBE)配置、逻辑复制做故障切换与零停机迁移、初始同步机制、DDL 限制与数据冲突处理、与 Debezium/Kafka 的数据流集成、复制延迟监控与性能优化。

8 分钟阅读
PostgreSQL CDC pubsub