《互联网产品的 AI 架构·推理性能与成本工程》1.2 吞吐、并发与 goodput
看板写着 40 QPS,用户却在超时:吞吐、并发与有效吞吐回答的是三个不同问题。本文给出 goodput 的 SLO 与窗口口径,用确定性批调度器展示并发饱和、批处理对 p95 的影响,以及吞吐几乎不变而 goodput 从 100% 跌到 28% 的取舍。
category
看板写着 40 QPS,用户却在超时:吞吐、并发与有效吞吐回答的是三个不同问题。本文给出 goodput 的 SLO 与窗口口径,用确定性批调度器展示并发饱和、批处理对 p95 的影响,以及吞吐几乎不变而 goodput 从 100% 跌到 28% 的取舍。
收费点不是一个价格标签,而是计量位置、付款触发与风险承担的组合。本节把收费点从模型层到结果层分成五层,用 LumenDesk 的席位加超额、Verba 的纯分钟、ClausePilot 的平台费加案件算出收入分层、混合毛利与用量敏感度,并给出前置与后置收费的选择矩阵和三种错配。
《群岛纪元》一次联盟字段改名,让回滚后的旧服务端读不到数据。这一节把兼容拆成新读旧、旧读新两个方向,给出扩、双写、收三阶段迁移的状态机与回填约束,用最长对局、最长离线与最长回滚时间取最大值来确定兼容窗口,并附可运行的迁移阶段、窗口计算与回滚判定代码。
单位经济不是四个孤立指标,而是一条从 ARPA 到 LTV/CAC 的算术链。本节用 LedgerLite 的 260 家客户、77 美元 ARPA、84.2% 毛利、140 美元 CAC 复算四个数,横向对照 Tidecast 的每份净得与 Nord Studio 的产品线,并给出可运行的 economics.ts。
定价的第一步不是定多少钱,而是定按什么计量。本节比较次、分钟、文档、案件、席位五种价值单位,给出同向、可计量、可预算、可解释、抗套利五个判据,并用 LumenDesk、Verba API 与 ClausePilot 的单位经济算出每单位收入、成本与价值倍数,说明换单位为什么会同时改变收入、成本与客户预算。
转型不是换一个收入标签,而是用一条新收入线补上旧收入线的现金。本节用 Nord Studio 的服务转产品算术,计算替代服务收入所需客户数、转型期累计现金缺口与 runway,并给出替代率、现金安全垫与组织能力三个阈值,附可运行的 transition.ts。
LumenDesk 的推理成本占收入 13.8%,供应商涨价 20% 会吃掉近三成毛利,要维持原毛利率需要提价 15.9%。本节把供应商成本占比与涨价传导算成可复算的模型,给出锁价、承诺用量与多供应商三种应对,并列出合同里必须盯住的五个数。
收入模型不是收入清单。本节把主收入线与第二收入线放进同一个组合,计算经常性收入占比、收入线集中度与加权组合评分,再用 LedgerLite、Tidecast、Nord Studio 三个案例说明什么时候值得加第二收入线,以及加线之前必须先满足哪些条件。
同一个 AI 客服功能,小团队每月省 20 小时,企业团队每月省 900 小时,价值倍数从 13 倍变成 29 倍。本节用同一套人时口径算出三个客户层的价值差,给出三种可操作的测量方法,解释为什么按成本定价会漏掉企业客户,以及版本分层怎样把非线性价值变成收入。
三个案例的年收入都在 13.8 万到 24 万美元之间,SDE 却相差近四倍。本节用同一张利润表拆开订阅、买断与服务三种生意,比较毛利结构、现金节奏与可复算口径,并把 pnl.ts 跑成三行可对照的结果,最后说明估值倍数差异背后的财务来源。
同一笔已支付订单在 Web、iOS、Android、小程序和桌面回放,金额、状态与文案只要有一处不同,用户就会怀疑这笔钱去了哪里。本节用可运行的 TypeScript 场景脚本收集五端观测,把差异归为呈现、环境、契约与未知四类,并给出阻断、警告与放行的发布判据。
从用户只看到「转圈很久」的投诉出发,把流式推理拆成首字、单 token 与端到端三段:排队、冷启动、预填充各占多少,TTFT、ITL、TPOT 与 E2E 如何互相约束,预算为什么必须逐项签而不是取平均;附可逐条断言的 TypeScript 时间线模块与示例样本上的运行结果。
传统 SaaS 的边际成本接近零,AI 产品却是每回答一次就产生一次账单。本节用 LumenDesk 的单次对话拆开 token、检索与存储三部分成本,算出月度变动成本 17,856 美元,再对比 Verba API 与 ClausePilot,说明为什么 AI 产品的增长必须先过毛利关。
卷一《收入与财务工程》45 篇的目录与三条阅读路径:从订阅、买断与服务三种生意的收入差异出发,经单位经济、三表建模、收入确认、预算、定价的财务侧、客户集中度、现金流压力测试、跨境税务结构、财务仪表盘、估值与尽调准备,最终收口为三案例的财务基线、商业健康度评审与进入卷二的判断。
《AI 产品的商业化·价值与定价》的阅读入口:13 章分四段的组织方式、章节依赖图、三条按角色划分的阅读路径、从症状到章节的对照表、三个教学案例的用法、aibiz-lab 的运行方式、十三章速览与六个常见误区,以及全卷 20 项定价评审清单的评分口径。
前言交代全书的三个案例、统一口径与阅读方法:LedgerLite、Tidecast、Nord Studio 各自代表订阅、买断与服务三种收入结构;全书金额一律用美元、比率保留一位小数,所有派生数字必须写出公式;每节配一个可逐字节还原的 TypeScript 代码块。
本书假设读者已经有一个能用的 AI 产品,正在解决收费、成本与增长的问题。前言交代三卷的阅读路径、三个教学案例的使用方式、代码块的运行方法、全书的数字口径与章节依赖关系,并说明本书与站内 AI 架构书、独立开发者商业书的分工边界,以及三条按角色划分的阅读路径。
独立开发者通常只有一本账:记录收入、支出和余额。但决定这门生意能不能涨价、能不能融资、能不能卖掉的,是第二本账——把收入结构、单位经济、现金节奏与可转移性放进同一套口径的经营账。序言用订阅 SaaS、买断游戏、服务工作室三个虚构案例,说明这本书为什么从财务工程写起。
《裂隙战场》午夜重启断掉两百局对局之后,北辰把发版从“重启进程”改成“排空发布”。这一节比较房间、进程、区服三种发布单元的代价,给出停新进、等对局、超时强迁的状态机、分批顺序与活动日历约束,并讨论混版本时协议兼容、房间内一致与跨版本匹配的边界。
过去三年,AI 产品的失败大多不是技术失败,而是商业模型失败:成本随调用增长、价值难以计量、上游价格不受控制。这篇序用三个结构性差异说明为什么传统 SaaS 的定价与财务方法不够用,并交代本书三卷的分工、三个教学案例的口径,以及可运行实验工程的使用方式。