posts
这里是全站文章的归档入口，下面是按时间倒序排列的全部文章。若想按主题浏览，请从首页的专题分类进入。
RAG 的检索质量与延迟，一半取决于 Embedding 与 Reranker 的服务效率。这两类模型和生成模型截然不同：Embedding 是编码器（高吞吐、批处理友好），Reranker 是交叉编码器（算力密集、批内耦合）。本文拆解它们的服务特征、批处理与量化优化、GPU/CPU 选型、部署架构与评估指标，给出可落地的调优路径。
当业务同时接 GPT、Claude、开源模型与自托管推理，直连每个后端会让限流、鉴权、成本核算散落各处。LLM 网关把「多模型调用」收敛成统一入口：协议适配、策略路由、限流配额、故障转移、可观测性一站式解决。本文讲清网关的职责边界、四类路由策略、统一 API 设计、成本与配额治理，以及高可用与灰度实践。
让 LLM 稳定输出合法 JSON，靠提示词祈祷是不够的。受限解码（Constrained Decoding）把 JSON Schema 编译成有限状态机，在每个解码步屏蔽掉不合法的 token，从生成源头保证输出合法。本文讲清 FSM/Token Mask 原理、JSON Schema 到语法的编译流程、Outlines/XGrammar/GBNF 三条实现路径的对比、性能开销与工程陷阱。
GPU 跑不满、Kernel 慢却不知卡在哪，是推理优化的日常困境。本文拆解 NVIDIA 剖析双工具的分工：Nsight Systems 看时间线（谁在等谁、Kernel 间空隙、数据传输与同步），Nsight Compute 看单个 Kernel 内部（占用率、访存、算力与带宽利用率）。给出采集命令、关键指标解读、典型瓶颈模式与从剖析到优化的闭环流程。
系统讲解国际化与本地化测试的工程化实践：硬编码文案检测与占位符一致性校验、缺失与多余翻译的自动化扫描、CLDR 复数规则与性别/语序差异、RTL 镜像与文本膨胀导致的布局溢出、时区与日期/数字/货币格式断言、伪本地化（pseudo-localization）与 CI 集成。
系统讲解智能合约测试的工程化实践：Foundry forge test 与 Hardhat 的单元/集成测试、cheatcodes 与断言技巧、Fork 主网测试复现真实依赖、模糊测试（fuzzing）与不变量测试（invariant testing）、Gas 快照与回归门禁、重放攻击防护验证、以及代理升级模式下的存储布局兼容性检查。
系统讲解并发竞态测试的工程化实践：数据竞争与原子性违反、顺序违反三类并发缺陷的识别、Go race detector 与 ThreadSanitizer 的检测原理与局限、确定性复现与调度扰动注入、Loom/Coyote 等模型检查工具、压力测试与随机 sleep 注入、死锁与活锁检测，以及 CI 中的稳定性与种子复现治理。
系统讲解实时通信与 WebSocket 测试的工程化实践：连接生命周期（握手升级、鉴权、心跳保活、优雅关闭）验证、消息顺序与乱序/重复/丢失的至少一次语义、背压与缓冲控制、断线重连的退避与状态恢复、重连风暴防护、连接数与广播的并发压测、mock WebSocket 服务端与录制回放，以及 CI 中的稳定性治理。
系统讲解 gRPC 服务测试的工程化实践：proto 作为第一类契约与 buf lint/breaking 门禁、生成代码一致性校验、拦截器（Interceptor）单元测试、bufconn 内存传输与真实 stub 集成、四种流式调用的测试手法、deadline 传播与重试策略验证、状态码与 metadata 断言，以及与 grpc-gateway HTTP 网关的边界测试。
系统讲解 GraphQL 接口测试的工程化实践：Schema 作为第一类契约与 breaking change 检测、查询与变更用例矩阵设计、errors 数组与部分成功语义、Mock Resolver 与数据源替身、DataLoader 与 N+1 问题验证、查询深度与复杂度限制、契约与响应快照、以及 CI 中的门禁与常见陷阱。
Scala CLI 把「单文件脚本、依赖声明、编译运行打包」压进一条命令，用指令注释替代构建文件，让脚本、原型与小型工具不再需要完整的项目结构与繁琐的构建配置。本文讲清指令声明与依赖解析机制、与 sbt 的职责边界、测试与多文件项目的目录布局、打包与发布方式，以及持续集成与工具链迁移的实际路径、常见坑与规避手段。
事件溯源把系统状态定义为事件序列的折叠结果：写模型只追加不可变事件，读模型由投影派生，命令查询职责分离因此成为它的自然搭档。本文讲清持久化 actor 的命令与事件处理模型、日志与快照如何协作、投影与读模型的构建方式、事件版本演进与兼容策略，并给出恢复性能调优与日常运维的实践要点。
JSON 编解码是服务边界上最频繁的一次数据转换，它的性能与健壮性直接决定接口的吞吐和容错能力。circe 用代数数据类型把解析、派生与错误路径都建模成纯函数，jsoniter-scala 则用编译期宏生成无反射的编解码器换取吞吐。本文对比两者的模型与代价，给出派生与自定义的写法、性能实测方法，以及版本演进与向后兼容的实践路径。
流处理的难点从来不在「怎么读数据」，而在背压、并发、错误恢复与资源释放这几件相互牵制的事。fs2 把流建模成惰性的拉取式值：下游不拉取，上游就停，背压因此不是需要调参的配置项，而是模型本身的性质。本文讲清 Stream 与 Pipe 的语义、构造与组合子、并发原语的取舍、错误处理与重试策略、与文件与消息队列的集成，以及有状态聚合与窗口的实现方式。
资源管理是函数式程序里最容易被忽视的一环：文件句柄、数据库连接、线程池、后台任务都有明确的获取与释放时机，手工写在 finally 里一旦遇上取消、异常或嵌套组合就会漏。本文讲清 Cats Effect 的 Resource 抽象如何把获取与释放绑定成可组合的值，覆盖嵌套组合时的释放顺序、作用域与延迟分配、与手工清理的取舍边界，并给出连接池、后台任务与优雅停机的完整落地代码和常见陷阱。
Lightbend 从 Akka 2.7 起把许可证换成商业源码许可，生产环境需要付费，Apache Pekko 因此成为 Apache 协议下的事实续作。本文讲清许可证变更的真实影响，逐项给出依赖坐标与包名替换、配置前缀与序列化绑定改写、生态模块对应关系，并讨论按通信边界切分的渐进迁移、集群跨版本不兼容的硬边界，以及灰度发布与回滚方案。补充了迁移验证清单。
从 CPU、延迟、内存三个问题域出发，用本机 JDK 21 实测的 jcmd 与 JFR 输出演示 VM.flags、GC.heap_info、Thread.print、GC.class_histogram 的读法，讲清 JFR 记录了什么、线程转储怎么找死锁、堆转储怎么拿与怎么分析，并给出 Arthas 类在线诊断工具的适用边界与风险。
给出生产级图书借阅服务的上线检查清单、金丝雀蓝绿滚动的适用条件、上线后必看的 RED 指标与业务指标、基于 SLO 的错误预算与燃烧率告警定法，以及代码、配置、特性开关、数据四类回滚的取舍，附向前兼容的数据库迁移写法、发布演练要点与事故复盘模板，最后收束全书。
卷一交出的七个零件——会话表、路由表、Actor 邮箱、定时器、幂等窗口、同步模型、权威校验——到了卷二《单服架构与玩法系统》手里会长成什么。本节给出「零件 → 卷二章节 → 用途」的交接映射表，讲清为什么玩法必须先有这套地基，把卷二不写的跨服、压测、运营划给卷三与卷四，最后把整张契约编码成可测试的 Go 类型。
把卷一 17 章跑出来的实测数字汇成一张四列总表：指标、数值、成立条件、出处节号。覆盖编解码字节数与吞吐、KCP 弱网重传、时间轮挂载、邮箱背压、幂等窗口、快照与增量、AOI 带宽、goroutine 与虚拟线程、端到端 QPS 与分位，并说明为什么这些数字只能同机比、不能跨栈搬。