tag

Kubernetes

共 107 篇文章。
全部文章GoTypeScript游戏开发小游戏游戏设计Godot书稿RustPython性能优化游戏引擎PRDSaaS游戏服务端
ai

推理服务弹性伸缩与冷启动优化:从 HPA 到缩容到零

推理服务的扩缩容比普通 Web 服务难得多:GPU 昂贵、模型加载慢、并发数比 QPS 更能反映压力。用 CPU 利用率做 HPA 指标,往往扩不起来或扩过头。本文讲清推理扩缩容的指标选择(队列深度/KV cache/GPU 利用率)、KEDA 与 HPA 实践、冷启动瓶颈与优化、缩容到零与预热池设计,以及多级伸缩架构。

8 分钟阅读
弹性伸缩 冷启动 推理服务
products

在线联机原型全集第 50 章导航:自愈游戏服务器与 Operator 控制器

第 50 章「自愈游戏服务器(Self-healing Game Server)」属于第 5 层概念原型,承接第 49 章的异常检测结果,把「发现问题」推进到「自动修复」。核心是 Health Probe 判定实例健康、Operator 控制器执行驱逐与重调度,并在重启前后保住玩家状态。本页给出该章的定位、验证目标、技术栈建议与文章入口。

3 分钟阅读
游戏原型 服务端架构 Kubernetes