以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。单价、token 结构与调用量均为教学设定值,不是实测数据;规模字段见附录 B 双案例唯一事实表 。
Agent 成本失控通常不是因为单价高,而是因为没人能把它拆开。月账单只有一个总数,产品经理看到的是「这个月花了十九万」,工程看到的是「每次调用四分八」,运营看到的是「玩家没觉得有什么变化」。三个视角对不上,就无法判断该优化哪里。
这一节把成本拆成三层:单次调用、每玩家每天、每月总额。三层必须能互相推导出来,任何一层单独汇报都会掩盖问题。
三层账必须互推
| 层级 | 计算方式 | 方舟取值 | 消消取值 |
|---|---|---|---|
| 单次调用 | 输入 token × 输入单价 + 输出 token × 输出单价 | 0.0048 元 | 0.0048 元 |
| 每玩家每天 | 日均调用次数 × 单次成本 | 5.4 × 0.0048 | 0.3 × 0.0048 |
| 每天总额 | 每玩家每天 × DAU | 6,480 元 | 1,152 元 |
| 每月总额 | 每天总额 × 30 | 194,400 元 | 34,560 元 |
这张表的价值在于可复算。任何人拿到单价、token 结构与调用量,都能推出同一组数字;任何一层对不上,就说明中间有一个假设被改了而没有同步。
方舟的 5.4 次来自 1.8 场 × 3 次调用:开场、关键解说、复盘。消消的 0.3 次是赛后异步点评,大多数对局不触发。调用量的差异不是产品「更 AI」,而是形态不同:实时型 Agent 必须在一场里多次决策,陪伴型可以攒到赛后。
人均比总额更重要
总额会随 DAU 放大,人均不会。做成本评审时先看人均:
| 产品 | 月模型成本 | DAU | 人均月成本 |
|---|---|---|---|
| 消消 | 34,560 元 | 80 万 | 0.0432 元 |
| 方舟 | 194,400 元 | 25 万 | 0.7776 元 |
方舟的总成本是消消的五倍多,但它的 DAU 只有消消的三分之一,所以人均成本是消消的十八倍。这个差距才是需要解释的东西:为什么方舟的每个玩家值得多花十八倍的钱。
答案通常在付费深度。方舟是中重度产品,内购占收入九成;消消是休闲产品,广告占五成五。同样一元成本,在方舟可以从更深的内购里收回,在消消只能靠广告曝光摊薄。人均成本必须和人均收入放在一起看,单独看没有意义。
单次成本由 token 结构决定
单次成本 = 输入 token × 输入单价 + 输出 token × 输出单价。以教学设定的 1,200 输入、300 输出、输入 2 元每百万、输出 8 元每百万计算:
- 输入:1,200 × 2 ÷ 1,000,000 = 0.0024 元
- 输出:300 × 8 ÷ 1,000,000 = 0.0024 元
- 合计:0.0048 元
输入与输出各占一半,这一点常被忽略。很多人以为输出贵,实际上在这个 token 结构下两者相等;如果输入上下文被记忆系统撑到 3,000 token,输入成本会涨到 0.0060 元,单次总成本变成 0.0084 元,接近翻倍。
这就是记忆范围与成本直接相关的原因。5.1 把方舟的记忆上限定在 200 条,不只是为了提示词速度,也是为了控制输入 token。
调用构成决定优化重点
方舟的三次调用不是均分的。按教学设定,开场占 20%,关键解说占 50%,复盘占 30%:
| 调用点 | 占比 | 日成本 | 优化空间 |
|---|---|---|---|
| 开场 | 20% | 1,296 元 | 可缓存,局势标签化 |
| 关键解说 | 50% | 3,240 元 | 最难缓存,但价值最高 |
| 复盘 | 30% | 1,944 元 | 可异步、可批处理 |
优化顺序应该跟占比走。关键解说占一半成本,也最影响体验,所以它不该被优先砍掉;开场与复盘合计占一半,且都可以缓存或异步,才是第一优化目标。
把三次调用都按同一优先级优化,是最常见的资源错配:团队花大力气压缩复盘成本,省下几百元,却不敢动关键解说。
缓存与脚本改变的是调用量
3.2 提到方舟的预生成候选池是 10 个局势标签 × 每标签 20 条,命中率目标不低于 60%。命中缓存时,只做状态装配与后处理,不调用模型。
这对成本的影响是直接的:如果 60% 的调用命中缓存,实际模型成本降到原来的 40%。194,400 元会变成 77,760 元。这个数字不是承诺,而是提醒:成本模型必须把缓存命中率作为输入,而不是假设每次都调用模型。
脚本降级同理。3.3 的五级降级台阶里,降到脚本策略时调用量为零。成本模型要能表达「有多少比例的请求走了降级」,否则预算永远按最坏情况算,评审时看起来永远不可行。
把三层账写成可运行函数
下面的实现把单次成本、日均、月均、人均、余量与调用构成写成纯函数。所有金额单位是元。
// file: src/econ/cost.ts
// tier: L1
// verify: node --test test/econ/cost.test.ts
// Agent 成本的三层账:单次调用、每玩家每天、每月总额。
// 三层必须能互相推出来,任何一层单独汇报都会掩盖失控。
export type Price = {
readonly inputPerMillion: number;
readonly outputPerMillion: number;
};
export type Tokens = {
readonly input: number;
readonly output: number;
};
// 教学设定单价:输入 2 元/百万 token,输出 8 元/百万 token。
export const PRICE: Price = { inputPerMillion: 2, outputPerMillion: 8 };
// 教学设定 token 结构:输入 1,200,输出 300。
export const TOKENS: Tokens = { input: 1200, output: 300 };
export function callCost(tokens: Tokens, price: Price = PRICE): number {
return (
(tokens.input * price.inputPerMillion + tokens.output * price.outputPerMillion) /
1_000_000
);
}
// 单次成本由 token 结构与单价决定,换模型必须重算,不能沿用旧数。
export const CALL_COST = callCost(TOKENS);
export function dailyCost(
callsPerPlayerDay: number,
dau: number,
unit: number = CALL_COST,
): number {
return callsPerPlayerDay * dau * unit;
}
export function monthlyCost(daily: number, days: number = 30): number {
return daily * days;
}
// 单位玩家月成本是成本评审的主指标:总额会随 DAU 放大,人均不会。
export function perPlayerMonthly(
daily: number,
dau: number,
days: number = 30,
): number {
if (dau <= 0) return 0;
return monthlyCost(daily, days) / dau;
}
export function headroom(perPlayer: number, ceiling: number = 1.0): number {
return ceiling - perPlayer;
}
export type CallMix = Readonly<Record<string, number>>;
// 方舟的三次调用不是均分的:关键解说占一半预算,开场与复盘各占两成与三成。
export const CALL_MIX: CallMix = {
opening: 0.2,
commentary: 0.5,
debrief: 0.3,
};
// 构成比例必须归一,否则拆出来的分项加起来对不上总额。
export function splitByCallSite(total: number, mix: CallMix = CALL_MIX): Record<string, number> {
const sum = Object.values(mix).reduce((acc, share) => acc + share, 0);
if (Math.abs(sum - 1) > 1e-9) {
throw new Error(`call mix must sum to 1, got ${sum}`);
}
const out: Record<string, number> = {};
for (const [site, share] of Object.entries(mix)) {
out[site] = total * share;
}
return out;
}
callCost 不缓存结果,输入变化就重算。这一点很重要:把单价写死在调用点,换模型时会漏改,最终出现两套成本数字。
CALL_COST 是默认的单次成本,供不需要自定义 token 结构的场景使用。它的值由 TOKENS 与 PRICE 推出,不是手写的常量,改动单价会自动生效。
dailyCost 的参数顺序是「每玩家每天次数、DAU、单次成本」。顺序固定,避免调用方把 DAU 与调用次数写反;这类错误在成本评审里很常见,因为两个数都是万级。
perPlayerMonthly 在 DAU 为零时返回 0,而不是除零。成本报表里经常出现新服或测试环境 DAU 为零的行,返回 Infinity 会让整张表不可用。
headroom 给出人均成本到预警线的距离。教学设定的人均月成本预警线是 1.0 元,方舟的 0.7776 元对应 0.2224 元余量,消消的 0.0432 元余量很大。余量为负时要触发评审,而不是等到账单出来。
splitByCallSite 先校验比例之和为 1。少了这条校验,比例写错时所有分项都会偏,但总额看起来正常,问题会被藏到很晚。
什么时候该重算
成本模型不是一次性的,有四种变化必须重算:
- 换模型。 单价与 token 结构都可能变,旧成本直接作废。
- 改记忆范围。 记忆条数增加会抬高输入 token。
- 改调用次数。 增加一次调用不是线性增加成本,它还会增加延迟与降级概率。
- 改缓存策略。 命中率变化直接改变实际调用量。
四种变化里,改调用次数最容易被低估。团队往往只算「多一次调用多少钱」,忘了它还会挤占延迟预算,最终触发降级,成本结构整体改变。
预算怎么分到各功能
成本总量算出来之后,还要回答「这笔钱怎么分」。一个可执行的分法是按功能价值排序:
| 功能 | 占模型成本 | 分配原则 |
|---|---|---|
| 关键解说 | 50% | 保底预算,不参与削减 |
| 复盘 | 30% | 可异步,高峰期限流 |
| 开场 | 20% | 优先缓存,命中率不达标先砍 |
分法的作用是让削减有顺序。没有这张表,每次成本超支都会变成「大家一起降一点」,最终把最影响体验的功能也削薄了。
预算还要留出抖动空间。延迟预算有 150ms 余量,成本预算同理,至少留 15% 给突发流量与重试;重试不是免费操作,一次失败调用可能产生两次计费。
分到功能之后,再往下分到场景。场景级预算的好处是可以直接对应缓存与降级策略:命中率低的场景优先补缓存,延迟超标的场景优先降级。
成本与人审要分开算
模型成本不等于总成本。内容审核的人审工时是另一本账:
| 产品 | 日均人审量 | 单条耗时 | 日均工时 |
|---|---|---|---|
| 消消 | 4,800 条 | 0.6 分钟 | 48 小时 |
| 方舟 | 600 条剧情节点 | 3 分钟 | 30 小时 |
消消的模型成本只有方舟的六分之一,但人审工时比方舟多六成。只报模型成本,会得出「消消更省钱」的结论;把两本账放在一起,才知道省下的钱花在了人力上。
比较成本时必须写明口径:是模型成本,还是含人审的总成本。两个口径混用,评审就会变成各说各话。
小结
- 成本要拆成三层:单次调用、每玩家每天、每月总额,三层必须能互推。
- 教学设定下单次成本 0.0048 元,输入与输出各占一半。
- 方舟日成本 6,480 元、月成本 194,400 元;消消日成本 1,152 元、月成本 34,560 元。
- 人均月成本方舟 0.7776 元、消消 0.0432 元,差十八倍,必须和人均收入一起看。
- 调用构成 20%、50%、30%,优化顺序跟占比走,关键解说最贵也最不该先砍。
- 缓存命中 60% 时模型成本降到四成,成本模型必须把命中率作为输入。
- 脚本降级时调用量为零,降级比例要进成本模型,否则预算永远按最坏情况算。
- 人均预警线 1.0 元,余量为负要提前评审,不要等账单。
- 换模型、改记忆范围、改调用次数、改缓存策略,四种变化都必须重算。
- 模型成本与人审成本分开算,比较时必须写明口径。
阅读导航:上一节:6.3 玩家举报、内容回滚与追责 · 下一节:7.2 卖能力、卖内容还是卖陪伴 。
常见错误与边界
- 只报月总额。 总额随 DAU 放大,无法判断单个玩家是否值得,也无法对比两款产品。
- 把单价写死在调用点。 换模型时漏改,最终出现两套成本数字。
- 假设每次都调用模型。 忽略缓存命中与脚本降级,预算按最坏情况算,评审结论失真。
- 三次调用同优先级优化。 关键解说占一半成本也最影响体验,不该和可缓存的复盘一起砍。
- 模型成本与人审成本混用。 消消模型更省但人审更贵,混在一起会得出相反结论。
- 只在账单出来后才评审。 人均余量转负时就应该触发,而不是等下个月对账。
成本算清楚之后,下一个问题是这笔钱怎么收回来:卖能力、卖内容还是卖陪伴,三种方式对公平与体验的影响完全不同。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。