小流量的正确做法不是把实验做大,是把问题问小。
一、一次算不出结果的 A/B
以下情境为教学假设,人物、引语和数字不代表经核实的真实案例。
方启做一个给播客主用的剪辑辅助工具,定价页每月访问 800 人左右,付费转化 3%,也就是每月 24 个新付费用户。他想知道把价格从 29 元降到 19 元会不会带来更多收入,于是做了 A/B 测试:一半人看到 29,一半人看到 19。
跑了六周,两组各 1200 人,A 组转化 3.1%,B 组转化 4.2%。他兴奋地把价格改成 19 元,结果三个月后收入下降了。
问题不在结论,在样本量。
二、先算需要多少人
比较两个比例的常用近似公式:
n ≈ 16 × p(1 − p) ÷ δ²
p = 基线转化率 3% = 0.03
δ = 想检测到的最小差异 1% = 0.01
n ≈ 16 × 0.03 × 0.97 ÷ 0.0001
≈ 16 × 0.0291 ÷ 0.0001
≈ 4656 人/组
每组需要约 4656 人,两组共 9312 人。按每月 800 次访问、一半分流,每组每月 200 人——需要 23 个月才能跑完。
六周跑出来的 1200 人对 1200 人,远低于最小样本量。3.1% 与 4.2% 的差距,在这个样本量下完全可能是随机波动。方启看到的「提升」是噪音。
这就是小流量产品做 A/B 的根本困难:不是技术问题,是流量不够。
三、四种替代方法
流量不够时,把「同时随机分组」换成其他能产生证据的设计。
方法一:序贯切换(按月)
这个月 29 元,下个月 19 元,再下个月 29 元,比较三个月的转化与收入。缺点是季节、渠道、产品版本都在变,无法完全归因;优点是每个用户看到的都是同一个价格,没有体验不一致的问题。
适用条件:产品变化不大,且能接受慢。至少跑三个完整月,看趋势而不是单月。
方法二:报价测试(问,不卖)
不问「你愿意付多少」,而问四个具体问题:
- 多少钱你会觉得太便宜、怀疑质量?
- 多少钱你会觉得便宜、但愿意买?
- 多少钱你会觉得有点贵、但还会考虑?
- 多少钱你会觉得太贵、直接放弃?
四个答案的中位数交叉,能画出一个可接受区间。样本 20–30 人就够用来看方向,不需要统计显著性。
缺点是「说的」不等于「做的」,所以它只能用来定区间,不能用来定最终价格。
方法三:退出调查
在取消、放弃结账、关闭定价页时问一句「是什么让你没有继续」。选项设计成四个:太贵、没看懂、功能不够、只是看看。
这个方法的价值不在数字,在原因。如果「没看懂」超过 30%,问题不在价格,在表达。
方法四:分群对比
不做随机分组,而是比较天然存在的两组:不同渠道来的用户、新用户与老用户、不同规模的公司。比如来自搜索引擎的用户转化 2%,来自邮件列表的转化 9%——这说明渠道差异比价格差异更大。
分群对比不能证明因果,但能告诉你「哪一群人更愿意付」,从而指导定价页写给谁看。
还有一种低成本方法:报价信测试。在做产品之前,给 30 个潜在客户发一封邮件,写清产品会做什么、价格多少,问「如果现在有这个,你会买吗」。回复率与追问率比点击率更有信息量。
四种方法的证据强度不同,选择时要知道自己在拿什么换什么:
| 方法 | 样本需求 | 证据强度 | 主要局限 |
|---|---|---|---|
| 序贯切换 | 三个月 | 中 | 季节与版本变化无法完全排除 |
| 报价测试 | 20–30 人 | 中低 | 说的不等于做的 |
| 退出调查 | 有流失就有样本 | 低(定性) | 只能看原因,不能算比例 |
| 分群对比 | 现有用户 | 中 | 不能证明因果 |
| 报价信测试 | 30 人 | 中 | 回复者与真实买家不完全重合 |
如果四种方法给出同一个方向,就可以动手;如果互相矛盾,说明问题还不够清楚,继续问,而不是急着改价格。
实验的停止条件也要提前写。两种情况下应该停:一是数据已经明显偏离(比如付费率跌了一半),继续跑只会亏更多;二是外部环境变了(渠道停了、版本出了故障),这时候的数据不可比。
四、一次只改一个变量
不管用哪种方法,一次只改一个:
| 改什么 | 不改什么 | 看什么 |
|---|---|---|
| 价格数字 | 套餐结构、门的位置 | 转化率与客单价 |
| 套餐结构 | 价格、门的位置 | 各档分布与 ARPU |
| 门的位置 | 价格、套餐 | 到门率与付费率 |
| 定价页文案 | 价格、结构 | 定价页到结账的转化 |
同时改两个,结果无法归因。这是定价实验里最常见的错误:看到转化涨了,但不知道是价格降了还是文案变好了。
实验记录表。 每次实验记一行,六个月后回看:
| 日期 | 改了什么 | 旧值 | 新值 | 样本量 | 观察期 | 结论 |
|---|---|---|---|---|---|---|
| 03-01 | 价格 29→25 | 29 元 | 25 元 | 460 访问 | 6 周 | 转化 +0.4pt,收入持平 |
| 05-10 | 门从注册挪到导出 | 注册门 | 结果门 | 820 注册 | 8 周 | 转化 3%→7%,保留 |
| 07-20 | 三档改两档 | 三档 | 两档 | 510 访问 | 6 周 | ARPU +11%,保留 |
表格里最容易被忽略的是「样本量」与「观察期」。没有这两个数,结论只是印象。
还有一条纪律:不要在实验期间改动别的东西。 如果同期改了定价页文案、换了支付服务商、投了广告,实验数据就废了。
五、行动清单与复算验收
- 算出自己的最小样本量,判断 A/B 是否可行
- 如果不可行,从四种替代方法里选一种,写下选择理由
- 设计一个只改一个变量的实验,写明观察期
- 建立实验记录表,至少包含样本量与观察期
- 实验期间冻结其他改动
- 六个月后回看记录,判断哪些结论站得住
- 写下一个「不做什么」的清单,避免同时开三个实验
验收标准:能说出自己的最小样本量、当前流量下需要多久、以及替代方法的证据强度。 说不出样本量的实验,结论不可用。
使用边界与实操验收
本文不讨论统计显著性的严格计算,也不讨论多变量测试;那些需要更大的流量与更专业的工具。第一次收费的流程属于第 81–90 天:反馈分诊与第一次收费 的话题,定价结构的整体复盘属于定价复盘:价格、转化、留存与退款的一张表 的话题。
本文也不主张「小流量就不能做实验」。可以做的实验很多,只是不能用大厂的 A/B 方法。序贯切换与报价测试的证据强度弱一些,但对一个人的产品已经够用——它们能排除明显错误的方向。
验证以自己后台的数据为准:每次实验前后各取一个完整周期,比较同一指标。不要用「实验期间的总收入」判断,因为收入受用户数、季节与渠道影响。
关键参考与核验范围
本文的转化率、访问量与样本量均为教学演示。核验日期:2026-10-23。
- 中华人民共和国个人信息保护法 :从告知与同意的角度看分组实验——把用户分到不同价格组时,应当避免基于敏感个人信息做差别定价。
- 中华人民共和国电子商务法 :从经营者义务的角度看价格一致性——同一商品对不同消费者的标价应当有合理依据,不能以实验为名实施价格欺诈。
上述两条只用于说明合规取向,不构成法律意见。差别定价在各地区的合规边界不同,本次核验未逐条比对,故不引用其条款原文、不附链接。
系列导航
- 上一篇:结账页:币种、税费、失败重试与拒付
- 下一篇:定价复盘:价格、转化、留存与退款的一张表
- 回到目录:一个人把价格定对:定价、付费墙与涨价
- 相关阅读:第 81–90 天:反馈分诊与第一次收费 、归因与复盘:哪条渠道真的有用
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。