《AI 产品的商业化·成本、毛利与收入运营》7.3 计费失败的兜底

计费失败不是异常,而是分布式系统的常态。本节把失败分成计量、计价、额度、支付、供应商五类,用一张兜底矩阵回答两个问题:服务是否继续、账单是否已知,并给出延迟计费、指数退避、死信队列、收入风险估算与月末收口的具体做法,让可用性与收入完整性各有边界。

以下三家公司与全部数字均为教学假设,用于演示商业化计算,不代表任何真实企业。

计费失败不是异常,是常态

只要计费链路跨了网络、数据库和第三方支付,失败就是常态。计量事件可能丢,价格规则可能没匹配上,额度账本可能暂时不可用,客户的卡可能过期,模型供应商可能超时。把失败当成异常,系统会在第一次真实故障时暴露出一堆没有答案的问题:这笔用量还算不算?客户还能不能用?账单什么时候出?

兜底设计的目标不是让失败归零,而是让失败的后果有边界。一次计量丢失不应该变成一笔错误账单,一次支付拒绝不应该变成立即停机,一次供应商超时不应该变成客户看到 500。每个失败都要有明确的归属、明确的处理人、明确的截止时间。

这一节先建立两条判断轴,再给出五类失败的兜底矩阵,最后讲延迟计费、重试与收入风险估算。8.2 会接着讲这些延迟项如何在月末对账时收口。

两条轴:服务可用性与收入完整性

面对任何计费失败,先问两个问题,而不是先问「怎么重试」。

第一个问题:这次请求还要不要继续服务?答案通常是要。客户已经发起对话、上传音频、提交合同,中途拒绝服务的体验代价远高于一次计费的延迟。可用性优先是 AI 产品的默认选择,因为推理本身已经是长链路,计费不应该成为新的单点。

第二个问题:这笔账现在能不能确定?答案通常是不能。价格规则没匹配上、用量事件丢了、额度账本读不到,都会让金额未知。此时正确的动作是「延迟计费」,而不是「按零计费」或「按最高价计费」。零计费漏收入,最高价计费制造争议,两者都比延迟更糟。

两个问题组合出四种处置:

服务账单适用场景风险
继续立即计费正常路径、价格与用量都已知无
继续延迟计费计价或额度暂时不可用收入确认推迟
继续豁免明确的免费额度、故障补偿收入损失,需审批
停止立即计费欠费停服、滥用拦截客户体验受损

大多数团队只实现了第一行和第四行:正常计费,或者失败就拒绝。第二行和第三行才是兜底设计的核心。延迟计费保住收入,豁免保住信任,两者都需要明确的边界,不能由客服临时决定。

五类失败与兜底矩阵

计费链路上的失败可以分成五类,每类的兜底动作不同。把它们混成一句「重试三次」,等于没有兜底。

失败类型典型原因服务账单关键动作
计量失败事件丢失、队列积压、写入超时继续延迟本地缓冲、补录、去重
计价失败无匹配规则、规则冲突、版本断档继续延迟进入未定价队列、修规则后重放
额度失败账本不可用、并发冲突、预扣超时继续延迟软限额放行、事后结算
支付失败卡过期、余额不足、风控拒绝继续已知催收、宽限、降级
供应商失败超时、限流、模型下线继续已知切换备供应商、记录实际成本

计量失败的关键不是「不丢」,而是「丢了能发现、能补」。本地缓冲只能撑很短的时间,真正的保障是端到端的对账:客户端记录发起量,服务端记录接收量,两边按事件 ID 比对,差额进入补录队列。

计价失败的关键是「不猜」。没有规则就是没有规则,不能默认零元,也不能套一个相近规则。未定价事件应该带着原始用量、客户、发生时间进入队列,等价格表修好后重放。重放必须幂等,否则修一次规则会补出两笔账。

额度失败的关键是「不因为账本挂了就拒绝服务」。账本读不到时,可以按本地缓存的额度做软判断,放行后记录临时用量,等账本恢复再结算。软判断会有短暂的超发风险,但比大面积拒绝服务便宜。

支付失败和供应商失败的处理逻辑不同,下面两节单独展开。

延迟计费:先记账,后定价

延迟计费的核心是把「事件」和「金额」分开。事件到达时先落库,金额可以稍后计算。落库的记录至少要有:事件 ID、客户 ID、计量指标、用量、发生时间、失败原因、首次失败时间、重试次数。

有了这些字段,重放才有依据。价格表修好后,按发生时间重新解析规则,算出金额,写进账单。整个过程对客户不可见,但必须在账单生成前完成。如果拖到账单生成之后,就只能走补差或冲正,流程会复杂一个量级。

延迟计费需要一个截止时间。无限期挂起的未定价事件,最终会变成一笔说不清的账。常见做法是设一个账期内的收口点:账单生成前 T 天必须清空队列,清不空的走人工审批,决定是豁免、按临时价计费,还是顺延到下一期。每个选择都要留记录,不能静默处理。

下面这段代码把失败类型、兜底策略与退避串起来。策略表是数据,decide 是解释器,调用方根据返回值决定是否继续服务、账单是立即还是延迟。

// file: src/ops/07-3-billing-failure.ts
// tier: L1
// verify: node --test test/ops/07-3-billing-failure.test.ts

// 计费失败兜底:服务是否继续、账单是否已知,必须按失败类型分别决定。

export type FailureKind = "metering" | "rating" | "quota" | "payment" | "provider";

export type BillingMode = "known" | "deferred" | "waived";

export type AlertLevel = "page" | "ticket" | "none";

export type FallbackPolicy = {
  serve: boolean;
  billing: BillingMode;
  maxAttempts: number;
  alert: AlertLevel;
};

export const FALLBACKS: Record<FailureKind, FallbackPolicy> = {
  metering: { serve: true, billing: "deferred", maxAttempts: 8, alert: "ticket" },
  rating: { serve: true, billing: "deferred", maxAttempts: 3, alert: "page" },
  quota: { serve: true, billing: "deferred", maxAttempts: 5, alert: "ticket" },
  payment: { serve: true, billing: "known", maxAttempts: 6, alert: "ticket" },
  provider: { serve: true, billing: "known", maxAttempts: 2, alert: "page" },
};

/** 指数退避,从 baseMs 起每次翻倍,封顶 capMs。 */
export function backoffMs(
  attempt: number,
  baseMs = 1_000,
  capMs = 300_000,
): number {
  if (!Number.isInteger(attempt) || attempt < 1) {
    throw new Error("attempt 从 1 开始");
  }
  return Math.min(capMs, baseMs * 2 ** (attempt - 1));
}

export function shouldEscalate(
  attempt: number,
  policy: FallbackPolicy,
): boolean {
  return attempt >= policy.maxAttempts;
}

/** 待结算金额,单位美分;用于延迟计费的敞口估算。 */
export function deferredAmountCents(
  units: number,
  priceCentsPerUnit: number,
): number {
  return units * priceCentsPerUnit;
}

export type Decision = {
  serve: boolean;
  billing: BillingMode;
  alert: AlertLevel;
  escalate: boolean;
};

/** 第 attempt 次失败后的处置:先保服务,再决定账单形态。 */
export function decide(kind: FailureKind, attempt: number): Decision {
  const policy = FALLBACKS[kind];
  return {
    serve: policy.serve,
    billing: policy.billing,
    alert: policy.alert,
    escalate: shouldEscalate(attempt, policy),
  };
}

代码里的 FALLBACKS 只回答「这类失败默认怎么处理」,不回答「这次失败具体怎么修」。后者需要失败上下文:哪个客户、哪条事件、第几次重试、错误码是什么。策略表负责一致性,上下文负责可操作性,两者不能互相替代。表里的 alert 决定通知级别:page 走值班,ticket 走工单,none 只记录,避免所有失败都用同一种方式叫醒人。

重试、退避与死信队列

重试是最容易被滥用的兜底手段。不加区分地重试,会把一个下游故障放大成一场雪崩。

第一条规则是区分可重试与不可重试。网络超时、限流、临时不可用可以重试;参数错误、认证失败、规则不存在不应该重试。后者重试一万次也不会成功,只会拖长故障时间。错误码必须在进入重试队列之前就被分类,而不是在重试三次之后才发现方向错了。

第二条规则是退避。立即重试会让下游在故障期间承受和正常流量一样的压力。指数退避从 1 秒开始,每次翻倍,封顶 5 分钟,是比较常见的起点。封顶很重要,否则重试间隔会很快超过账期,事件永远等不到下一次尝试。

第三条规则是上限。每次失败都记一次尝试,达到上限后进入死信队列,不再自动重试。死信队列不是垃圾桶,它需要有人看:每天统计积压量、按失败原因分组、对超过阈值的组报警。没有人看的死信队列,等于把收入悄悄丢进了一个没有出口的房间。

第四条规则是重试预算。同一个下游、同一个时间段,重试总量应该有上限。下游已经过载时,继续重试只会让它更慢。重试预算可以用令牌桶实现,和正常请求共享容量,但优先级更低。

幂等:重试与重放共同的前提

重试和重放都要求同一个操作执行多次只产生一次效果。没有幂等,重试会把一笔用量扣两次,重放会把一笔未定价事件补成两行账单,兜底机制本身变成了新的收入漏洞。

幂等的实现通常靠一个业务键:计量事件用事件 ID,扣减请求用事件 ID 加账本版本,账单补录用「原事件 ID + 补录批次」。这个键必须在第一次写入时落库,并且有唯一约束,不能只靠应用层先查后写。先查后写在并发下会同时查到「不存在」,然后一起写入。

幂等窗口也要定义。事件 ID 保留多久?一个月、一个季度,还是永久?窗口太短,迟到的重复事件会漏过去;窗口太长,存储成本上升。对计费来说,建议至少覆盖一个完整的账期加一个对账周期,因为补录和争议经常跨月发生。

还有一个常见误解:幂等等于「不会重复」。幂等只保证重复请求的结果一致,不保证请求不会到达。真正的去重仍然需要唯一键和冲突检测。把幂等当成去重,系统会在第一次并发写入时露馅。

支付失败:催收而不是立刻停机

支付失败和计费失败是两件事。计费失败是「不知道收多少」,支付失败是「知道收多少,但没收到」。后者的金额是确定的,不确定的是客户什么时候能付。

支付失败最常见的处理是催收,而不是立即停服。一个可用的示例策略是:失败当天重试一次,第 3 天再试并发送提醒,第 7 天进入宽限期并限制部分功能,第 14 天降级为只读或暂停服务。具体天数可以调整,但阶段必须存在,而且每个阶段对客户可见。

宽限期的价值在于区分「暂时失败」和「真的要走」。卡过期、银行风控、余额不足,很多是可以在几天内解决的。立即停服会把一次可恢复的支付问题变成一次不可逆的流失,尤其是年付客户,重新开通的成本远高于多等几天。

降级也要设计。降级不是删除数据,而是限制写入或限制高成本功能。客户的历史数据、配置、账单必须保留,否则客户回来时发现一切都没了,就不会再回来。降级期间可以继续计量,但账单要标注「服务受限」,避免客户为没有使用的功能付费。

非自愿流失(involuntary churn)是收入运营里的一个独立指标:不是因为客户主动取消,而是因为支付失败流失。它应该和主动流失分开统计,因为两者的处置动作完全不同。前者靠催收和卡更新,后者靠产品和销售。

供应商失败:成本变了,账单要跟着变

供应商失败有两种:一种是调用失败,另一种是调用成功但换了供应商。前者影响可用性,后者影响成本。

调用失败时,切换备供应商是常见动作。LumenDesk 的备供应商报价高 8%,承载 0% 常规流量,只在主供应商故障时启用。切换期间的单次成本会上升,这部分上升必须被记录,否则月末对账时会出现一笔无法解释的毛利下滑。

切换备供应商还会改变延迟、上下文长度限制、输出质量。这些差异不一定进入账单,但会影响客户体验。失败切换应该记录「本次调用使用了哪个供应商、单价多少、延迟多少」,而不是只记录「调用成功」。成本核算和体验分析都需要这些字段。

调用成功但供应商临时涨价,是另一种情况。如果客户价格是固定的,成本上升由供应商承担,毛利被压缩;如果合同允许传导,需要提前通知并保留证据。5.2 讲过锁价与承诺用量,5.3 讲过切换成本,兜底层要做的是把「实际用了哪个供应商、实际单价多少」记准,让后续的传导或吸收有数据依据。

收入风险的估算

兜底做得好不好,最终要落到一个数:当前有多少收入处于不确定状态。

最基本的估算式是:

待结算金额 = 未定价事件数 × 该事件适用的单价
收入风险 = 待结算金额 + 已服务但未计量的估算金额

以 LumenDesk 为例。假设某月末有 1% 的对话事件因为规则断档未定价。月对话量 1,190,400 次,1% 是 11,904 次。按超额单价 0.04 美元估算,待结算金额是 11,904 × 0.04 = 476.16 美元。这些事件已经产生推理成本,按单次 0.015 美元算是 178.56 美元。也就是说,如果这批事件最终被豁免,损失的不只是 476.16 美元收入,还有已经花出去的 178.56 美元成本。

1% 是一个假设,不是 LumenDesk 的实际水平。这个例子的目的是说明量级:一次看似很小的规则断档,在 1,190,400 次的月用量下就是几百美元。如果断档发生在计价链路的入口,比例可能是 10%,量级会变成几千美元。

收入风险应该每天计算,而不是月末才算。每天算,才能在下一次账单生成前把队列清空;月末才算,只能事后解释。阈值也应该提前定:待结算金额超过月收入的某个比例,就升级为事故,而不是继续当普通工单处理。

估算还要按失败类型拆开。计价失败通常可以重放,回收率高;计量失败要看补录覆盖率;支付失败要看催收阶段;豁免则是确定损失。把四类混成一个总数,会让团队误以为所有风险都能收回来,实际能收回来的可能只有一半。分开看,才知道应该在哪个环节投入。

数字不必精确到分,但必须每天变化。一个连续一周不动的待结算金额,通常不是风险稳定,而是队列卡住了。

兜底不是免责

最后要强调一点:兜底机制的存在,不是为了给错误找借口。延迟计费、豁免、降级,都是为了让客户在故障期间仍然能用、让收入在故障之后仍然能收回来,而不是为了让团队可以心安理得地不修根因。

每一次进入兜底路径的事件,都应该回答三个问题:为什么会失败、什么时候能修好、修好之后如何确认没有遗漏。三个问题没有答案,兜底就从「应急机制」退化成了「长期掩盖」。

每条兜底路径还应该有明确的 owner。计量补录归数据平台,计价重放归计费团队,支付催收归财务,供应商切换归基础设施。没有 owner 的兜底路径,在故障当天会被所有人路过,在复盘会上会被所有人认领。Owner 不需要是执行者,但必须是那条路径在月底仍然有人收口的责任人。

对客户也一样。豁免或延迟计费应该主动告知,而不是等客户发现账单少了或多了再解释。主动告知的成本是一次沟通,被动解释的成本是一次信任损失。在续费季,后者往往更贵。

小结

  • 计费失败是分布式系统的常态,兜底的目标是让后果有边界,而不是让失败归零。
  • 面对失败先问两个问题:服务是否继续、账单是否已知;可用性优先,收入不能静默归零。
  • 五类失败分别处理:计量补录、计价重放、额度软放行、支付催收、供应商切换并记录实际成本。
  • 延迟计费把事件与金额分开,事件先落库,价格修好后按发生时间重放,且重放必须幂等。
  • 重试要区分可重试错误、指数退避、设置上限并进入有人看的死信队列。
  • 支付失败先催收和宽限,再降级;降级保留数据,不删除客户资产。
  • 收入风险按未定价事件数与适用单价估算,每天计算,超过阈值升级为事故。
  • 每条兜底路径都要有 owner 和收口时间,否则应急机制会退化成长期掩盖。

阅读导航:上一节:7.2 额度扣减与超额计算 · 下一节:8.1 账单生成与明细 。

常见错误与边界

  • 把所有失败都当成同一种错误重试三次,参数错误和规则缺失永远重试不成功。
  • 计价失败时默认收零元或套用相近规则,前者漏收入,后者制造争议。
  • 延迟计费没有截止时间,未定价事件无限挂起,月末无法收口。
  • 支付失败立即停服,把可恢复的支付问题变成不可逆的客户流失。
  • 切换备供应商后不记录实际单价,月末毛利下滑找不到原因。
  • 死信队列无人查看,失败事件静默堆积,收入在无人察觉的情况下流失。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图