tag

Ab-Testing

共 6 篇文章。
全部文章GoTypeScript游戏开发小游戏游戏设计Godot书稿RustPython性能优化游戏引擎PRDSaaS游戏服务端
LLMOps

模型评测与灰度发布

本文解决模型、提示、推理引擎三类变更缺乏统一发布流程的问题:建立离线评测(golden set、LLM-as-Judge、回归门禁)与在线评测(A/B、shadow、canary)闭环,给出 shadow 到 1%、5%、25%、50%、100% 的六阶段灰度流程,明确每阶段流量比例、观测时长、门禁指标与回滚阈值,并给出可运行的 Python 门禁判定脚本、canary YAML 与自动回滚条件。

14 分钟阅读
evaluation canary ab-testing
miniblog

增长实验平台:A/B 测试、灰度发布与实验架构

系统覆盖微型博客平台的增长实验体系:实验的科学方法(假设、指标与因果)、A/B 测试基础(分流与显著性)、分层实验框架(流量正交切分)、灰度发布(从实验到全量)、指标体系(北极星与护栏指标)、样本一致性(SRM 与防抖)、实验平台架构(分流网关与数据管道)、长期效应(长尾与叠加实验)以及实验治理(假阳性与组织流程),帮助团队用数据驱动的节奏做产品决策。

12 分钟阅读
miniblog ab-testing growth