tag

容量规划

共 15 篇文章。
全部文章GoTypeScript游戏开发小游戏游戏设计Godot书稿RustPython性能优化游戏引擎PRDSaaS游戏服务端
agent

《AI Agent 工程实战》14.3 吞吐与并发压测:找容量上限与拐点

用纯标准库 asyncio 写一个极简压测器(固定并发、固定请求数,统计 QPS/P50/P95/错误率),对第 8 章的并发受限服务跑 4 档并发。真跑显示 QPS 在并发 8 附近见顶(110→176 后不再涨),延迟却从 45ms 涨到 224ms,拐点清晰;再加请求超时后 QPS 会虚高而错误率飙到 87%,并给出容量规划余量。

11 分钟阅读
AI Agent AI Agent 工程实战 压测
graphdb

图数据库容量规划与成本优化:内存估算、分片与云实例选型

系统讲解图数据库的容量规划与成本优化实践:容量规划的方法论(从业务指标到资源)、内存估算公式(节点/关系/属性/索引的字节开销)、堆内存与 page cache 的分配、存储估算与增长预测、分片与读写分离、云实例选型(内存型/通用型/存储型)、成本构成与优化手段、容量压测与验证、监控与弹性伸缩、以及决策清单与常见坑,帮助在图数据库上既不浪费预算也不留性能隐患。

20 分钟阅读
容量规划 成本优化 集群运维
ai

推理基准与压测:TTFT、ITL、TPOT 指标与容量规划实战

『我的推理服务到底能扛多大流量?』『加一张卡值不值?』『P99 为什么这么差?』这些问题都需要一套科学的基准测试方法。本文讲解 LLM 推理的核心性能指标 TTFT / ITL / TPOT,分析延迟与吞吐曲线,演示 LLM Perf 与 Locust 两类压测工具,最后给出容量规划与成本建模的完整方法。一、推理性能指标体系

8 分钟阅读
基准测试 压测 LLM