《AI Agent 高级编程》10.2 成本与延迟治理：路由/缓存/并发 + 评测兜底
路由、缓存、并发上限、降级——成本与延迟治理的四个旋钮，任何一个拧过头都会伤质量。本节用本地假模型真跑一条完整治理链：语义缓存命中即跳过、预算耗尽自动降级到小模型、Semaphore 把在飞请求压到上限内，再用评测集证明「降级后分数会掉」，并如实说明假模型为何量不出真实成本与延迟。
tag
成本治理
共 3 篇文章。
设计一个短视频系统
本文系统设计一个短视频平台：需求澄清与量级估算、上传管道与转码流水线、CDN 分发与多码率、推荐信息流（召回/排序）、互动与播放链路、成本与扩展性治理，并给出架构图、数据表、转码与推荐伪代码与量级估算。
后端架构的长期主义：从边界设计到平台化治理的实践哲学
以 Birdor 架构哲学为核心，探讨后端系统的长期可维护性。从边界优先、观测优先、一致性优先、可恢复优先四大原则出发，覆盖系统演进路线、API 设计、数据架构、可观测性、安全治理与成本控制的完整实践指南。