posts

文章归档

PlumePHP 全站文章的归档入口,按时间倒序汇总各专题的技术文章,并提供按主题浏览的专题分类入口。

这里是全站文章的归档入口,下面是按时间倒序排列的全部文章。若想按主题浏览,请从首页的专题分类进入。

全部文章

全部文章 game golang 客户端开发 Minigame Saas rust Python Java cg Typescript
LLMOps

模型评测与灰度发布

本文解决模型、提示、推理引擎三类变更缺乏统一发布流程的问题:建立离线评测(golden set、LLM-as-Judge、回归门禁)与在线评测(A/B、shadow、canary)闭环,给出 shadow 到 1%、5%、25%、50%、100% 的六阶段灰度流程,明确每阶段流量比例、观测时长、门禁指标与回滚阈值,并给出可运行的 Python 门禁判定脚本、canary YAML 与自动回滚条件。

14 分钟阅读
evaluation canary ab-testing
LLMOps

推理成本核算与 FinOps

本文解决 LLM 服务账单不可解释的问题:拆解 GPU 小时、token、存储、网络、向量库五类成本的计费口径与占比,给出自建与 API 的盈亏平衡计算方法与真实价格表,建立每千次请求成本、每用户成本、毛利率等单位经济指标。文中给出按团队、应用、租户打标签的归因方案,梳理量化、批处理、前缀缓存、路由、right-sizing 五类降本手段的降幅与风险,附可运行的 Python 核算脚本与常见坑。

15 分钟阅读
FinOps cost GPU
LLMOps

Agent 服务的可观测性与链路追踪

本文解决 Agent 上线后黑盒不可诊断的问题:讲清 Agent 与单次 LLM 调用在多步循环、工具调用上的可观测差异,给出 OpenTelemetry GenAI 语义约定的 span 层级与属性清单,并落地 Langfuse 与 OpenLLMetry 接入代码。文中给出每会话步数、工具成功率、P95 延迟等指标口径与阈值,并列出把 span 打爆、敏感内容入库、异步丢 trace 等坑。

12 分钟阅读
agent 可观测性 OpenTelemetry
LLMOps

RAG 检索服务的工程化

RAG 的演示版本几十行代码就能跑通,生产版本却要在召回率、延迟与成本之间反复权衡。本文把 RAG 当作检索服务来工程化:拆解切分、embedding、向量检索、混合检索、reranker 精排、上下文拼装与生成七个环节,给出分块参数、embedding 维度选型、HNSW 参数调优与 bge-reranker-v2-m3 的延迟收益量化,附可运行的混合检索加精排 Python 代码与常见坑清单。

13 分钟阅读
RAG 向量检索 HNSW
LLMOps

Prompt 版本管理与 A/B 实验

当 Prompt 还以字符串形式散落在业务代码里时,改一句话就可能悄无声息地毁掉线上效果。本文把 Prompt 当作一等工程资产:给出 prompt registry 的模板与变量 schema 设计、按 user_id 稳定哈希的 A/B 分桶方案、p 值与置信区间驱动的显著性判定、最小可检测效应与样本量估算,以及灰度发布与自动回滚机制,并附可直接运行的 Python 代码与常见坑清单。

12 分钟阅读
版本管理 灰度发布 回滚
ml

联邦学习与隐私保护机器学习:FedAvg、非 IID、DP-SGD 与安全聚合

让数据不出域也能联合建模:联邦学习的基本流程与 FedAvg 聚合算法、客户端漂移与非 IID 数据带来的收敛难题及 FedProx/SCAFFOLD 解法、差分隐私 DP-SGD 的噪声机制与隐私预算、安全聚合如何让服务器只看到梯度和、横向/纵向/联邦迁移三种协作模式、隐私-效用权衡曲线,以及 FedML/Flower 框架与合规落地要点。

11 分钟阅读
privacy
testing

测试效能度量:DORA 四指标、逃逸缺陷率与测试 ROI 的完整度量体系

系统讲解测试效能度量体系:度量的目的与 Goodhart 定律陷阱、DORA 四指标(部署频率/变更前置时间/变更失败率/恢复时间)的采集与解读、逃逸缺陷率与缺陷检出阶段分布、测试 ROI 的成本收益建模、用例有效性分析(僵尸用例/高价值用例识别)、效能看板设计,以及覆盖率、用例数等反指标的识别与规避。

11 分钟阅读
DORA
LLMOps

模型网关与多模型路由

当业务从调用单一模型演进到同时使用十余个模型时,散落在各服务里的 API Key、限流与重试逻辑会迅速失控。本文以 LiteLLM Proxy 为核心给出模型网关落地方案:统一 OpenAI 兼容接口、密钥托管、限流配额与审计,详解成本优先、延迟优先、质量优先、加权路由与 fallback 熔断五类策略,并给出语义路由与 token 预算的可运行代码,最后量化路由带来的成本与延迟收益并总结常见坑。

11 分钟阅读
模型路由 故障转移 成本优化
cg

《物理模拟与渲染集成:固定步长、插值与确定性同步》

物理与渲染是两条频率、精度、目标都不同的时间线,把它们正确缝合是游戏引擎的核心难题。本文讲解刚体动力学与碰撞检测的两阶段流程、固定步长累加器与渲染插值/外推、角色控制器的扫掠与滑动处理、布料与绳索的 PBD/XPBD 约束求解、确定性与网络回滚同步,以及物理与渲染解耦的 ECS 架构设计,给出避免抖动、穿透与回滚错位的完整工程方案。

10 分钟阅读
游戏引擎 确定性 实时渲染
testing

回归用例选择与优先级:影响分析 TIA、测试最小化与风险驱动回归

系统讲解回归测试的用例选择与优先级工程:全量回归的瓶颈与代价、测试选择(TIA)/ 测试最小化 / 优先级排序三者的区别与联系、影响分析原理与静态/动态/历史三种信号、变更-用例映射的构建与维护、风险驱动的优先级评分模型、贪心与整数规划等最小化算法、与 CI 门禁的集成以及漏测风险控制。

10 分钟阅读
回归测试 CI