《AI 产品的商业化·渠道、企业与规模化》9.1 AI 输出的责任边界

AI 输出的责任不能只靠免责声明。本文把责任边界拆成错误分级、赔偿上限与人工复核三层,用 ClausePilot 每案件 35 美元复核、110,880 美元单客户上限与 LumenDesk 每次对话 0.0868 美元上限,算清责任条款对毛利、准备金与销售周期的影响。

以下三家公司与全部数字均为教学假设,用于演示商业化计算,不代表任何真实企业。

责任边界不是免责声明

AI 产品的合同里几乎都有一句「输出仅供参考,不构成专业意见」。这句话在法庭上的作用,远小于它在销售会议上的作用。客户买的不是一个免责声明,而是一个可预期的失败处理方式:出错时谁来发现、谁来止损、谁来赔、赔多少。

责任边界要回答四个问题。第一,什么算「输出错误」,什么算「客户误用」。第二,错误造成的直接损失与间接损失如何区分。第三,单次事故与年度累计的责任上限分别是多少。第四,超过上限之后,双方还有什么义务。

这四个问题不写清楚,合同签得再快,也会在第一次事故时回到谈判桌。而那时公司的议价能力最弱。

责任分配的三种写法

第一种:供应商全担。 供应商承诺输出绝对正确,任何损失全额赔偿。这种条款在 AI 产品里几乎不可执行,因为模型输出具有概率性,供应商无法把错误率降到零。敢签全担条款的供应商,通常会在别处留后门:限定「直接损失」、限定「经证实由供应商过错导致」、限定「不超过已付费用」。字面上全担,实际仍然封顶。

第二种:客户自担。 合同写明「按现状提供」,客户自行承担使用输出的全部风险。这种写法在开发者工具、内部效率工具里常见,因为客户有能力判断输出质量。但它会把企业客户挡在门外:企业采购法务通常不接受把 AI 输出风险全部留给业务部门。

第三种:分层共担。 这是企业合同的主流写法。基础服务承诺可用性与响应时限;对明确列举的场景(例如知识产权侵权、数据泄露)提供赔偿;对其他输出错误只承担有限补救,例如重做、退款或服务抵扣;所有责任受一个总额上限约束。

分层共担的关键不是「分几层」,而是每一层都要有可验证的触发条件。没有触发条件的承诺,等于没有承诺。

先把错误分级

责任条款写不清,往往是因为「错误」没有被分级。同样一句「输出有误」,在合同里可能对应完全不同的处理方式。

级别典型场景处理方式责任归属
格式错误字段缺失、结构不合法自动重试或重做供应商
事实错误引用了不存在的条款、数字抄错更正并记录供应商
建议错误结论合理但业务判断不适用提示置信度与适用范围共担
系统性错误同类问题批量出现停服、回溯、专项修复供应商为主

格式错误最容易定义,也最容易自动化处理。事实错误需要抽检与引用溯源。建议错误最难界定,因为「合理」本身依赖业务上下文。系统性错误则是合同里最需要单独写明的场景:它不是单次事故,而是产品缺陷,处理方式、通知时限与赔偿口径都应与单次错误不同。

把错误分级写进合同附件,比在主合同里堆形容词有用得多。客户法务看到一张可对应的表,谈判会快很多。

把上限写成一个可算的数

责任上限最常见的写法是「不超过事故前 12 个月已付费用」。把它写成公式:

单客户责任上限 = 单客户月费 × 上限月数

ClausePilot 的单客户月费是 9,240 美元,按 12 个月计:

9,240 × 12 = 110,880 美元

再摊到每个案件。单客户月均 38 件,一年 456 件:

110,880 ÷ 456 = 243.16 美元/案件

这个数很关键。ClausePilot 每案件向客户收 180 美元,合同允许的单案件责任是 243.16 美元,约为案件单价的 1.35 倍(243.16 ÷ 180 = 1.35)。也就是说,一次案件出错,赔偿上限刚够覆盖一个多案件的收入,远不足以覆盖客户因为错误合同条款产生的真实损失。

LumenDesk 的对比更明显。单客户月费 322.80 美元,12 个月上限 3,873.60 美元。单客户月均对话 3,720 次(1,190,400 ÷ 320),一年 44,640 次(3,720 × 12):

3,873.60 ÷ 44,640 = 0.0868 美元/次

每次对话的合同责任上限是 8.68 美分,而每次对话的变动成本是 1.5 美分。责任上限是成本的 5.8 倍(0.0868 ÷ 0.015 = 5.8),听起来有缓冲,但一次对话引发的业务中断损失可能是几百美元。

Verba 的纯用量结构最直接。月费按用量走,12 个月上限恰好等于 12 个月的同量费用,摊到每分钟就是 0.008 美元的单价:

单分钟责任上限 = 单分钟价格 = 0.008 美元

这三组数放在一起,说明一件事:按「已付费用」封顶,对供应商是安全的,对客户是单薄的。客户法务真正在谈的,不是这个上限,而是上限之外的 carve-out。

案例单客户月费12 个月上限年交付单元上限摊到单元
LumenDesk322.80 美元3,873.60 美元44,640 次对话0.0868 美元/次
Verba API231.72 美元2,780.64 美元347,586 分钟0.008 美元/分钟
ClausePilot9,240 美元110,880 美元456 件案件243.16 美元/件

Verba 的年交付单元按每账户月均用量折算:42,000,000 ÷ 1,450 × 12 = 347,586 分钟。

再换一个角度看上限的相对大小。把上限除以单客户年度毛利,得到「上限相当于几年毛利」:

LumenDesk:3,873.60 ÷ (322.80 × 82.7% × 12) = 1.2 年
Verba API:2,780.64 ÷ (231.72 × 47.5% × 12) = 2.1 年
ClausePilot:110,880 ÷ (9,240 × 73.3% × 12) = 1.4 年

毛利率越低,同样的「12 个月费用」上限相对毛利越厚。Verba 的上限是 2.1 年毛利,看起来最安全;但它的毛利绝对值最薄,一笔赔付就能吃掉整月利润。上限的相对厚度与绝对承受力不是一回事。

人工复核是责任缓冲,不是普通成本

ClausePilot 的每案件变动成本是 65 美元,其中人工复核 35 美元,占 53.8%:

35 ÷ 65 = 53.8%

这笔钱经常被当成「效率不够」的证据:既然 AI 能审合同,为什么还要人看?从责任角度看,人工复核买的是三样东西。

第一是发现率。模型给出错误条款时,复核人有机会在交付前拦下。第二是可追溯性。每个案件有一份人工确认记录,事故发生后能证明公司履行了合理注意义务。第三是合同筹码。有复核流程,才敢在合同里写「对经复核确认的输出承担补救责任」;没有复核,只能写「按现状提供」。

把复核支出和上限放在一起看。单客户月均 38 件,每件 35 美元,月度复核支出 1,330 美元:

38 × 35 = 1,330 美元

单客户 12 个月责任上限 110,880 美元,相当于 83.4 个月的复核支出:

110,880 ÷ 1,330 = 83.4 个月

换句话说,公司为一个客户存下的责任上限,约等于这个客户 6.9 年的复核成本(83.4 ÷ 12 = 6.9)。复核不是可砍的成本项,它是上限能够成立的前提。

规模让单次错误变便宜,也让单次事故变贵

LumenDesk 每月处理 1,190,400 次对话。单次对话的推理与检索成本只有 1.5 美分,单次责任上限 8.68 美分。单看一个单元,风险很小。

但规模改变的是概率结构。当月处理量到百万级,即使错误率很低,「本月至少出现一次错误」也接近必然。合同如果只写「单次事故上限」,不写「年度累计上限」,供应商面对的是一个由百万次独立事件组成的尾部风险。

正确的写法是两层上限:

单次事故上限 = 单客户月费 × 3
年度累计上限 = 单客户月费 × 12

单次上限保证个案可处理,年度上限保证财务可预算。两层之间留出的空间,用来覆盖同一客户在一年内多次出错的场景。

规模还带来一个反向问题:客户越大,单次事故对其业务的影响越大,但按「已付费用」算出的上限越小。前 5 大客户贡献 LumenDesk 31% 的收入,这些客户的合同往往要求更高的上限、更长的赔偿期和专门的响应团队。标准条款卖给他们,签不下来;为他们定制条款,又会让责任敞口集中。

纯 API 的责任最容易被低估

Verba 按分钟计费,每分钟 0.008 美元。客户把转写结果接进客服质检、医疗记录或字幕系统,一次转写错误可能触发下游的返工、合规调查或客户投诉。

按已付费用封顶,Verba 对每分钟输出的责任是 0.008 美元。这个数字和下游损失之间没有关系。所以纯 API 产品的合同要把三件事写清楚。

第一,明确排除间接损失。利润损失、商誉损失、数据重建成本、第三方索赔,原则上不赔。第二,要求客户在接入侧做置信度阈值与人工兜底。合同可以写「客户应在低置信度场景配置人工复核」,把一部分注意义务转移给最了解业务风险的一方。第三,把赔偿与支持分层。标准合同只赔服务抵扣,企业合同才提供有限赔偿,且需要单独报价。

Verba 的企业客户有 26 家,贡献 18% 的收入,企业 CAC 是 6,000 美元。为这 18% 的收入定制责任条款,成本可控;为全部 1,450 个账户开放同样的赔偿,风险不可控。责任条款要跟着客户分层走,而不是跟着产品功能走。

客户误用与共同过错

很多事故不是模型单方面出错,而是客户把输出用在了不该用的地方。合同要区分「输出错误」与「使用错误」,否则供应商会为客户的判断失误买单。

常见的客户误用有三类。第一,超出约定场景使用。合同写明用于合同初筛,客户却直接拿去签发。第二,忽略置信度提示。产品标了低置信度,客户仍然跳过人工复核。第三,输入数据本身有问题。客户上传了过期模板或错误附件,模型基于错误输入给出错误输出。

对这三类情况,合同可以约定客户义务:在指定场景内使用、对低置信度输出配置人工复核、保证输入数据合法且准确。客户违反义务导致的损失,供应商不承担或按比例分担。

共同过错条款的价值不在于打官司,而在于事前对齐。客户法务看到「我们也有责任」,反而更愿意接受一个清晰的责任上限;只写「供应商全担」的合同,通常走不到签字那一步。

用代码把责任账算清楚

下面的模型把三件事放进同一套整数运算:单案件成本、复核占比、责任上限摊到交付单元。

// file: src/scale/09-1-output-liability.ts
// tier: L1
// verify: node --test test/scale/09-1-output-liability.test.ts

// 责任边界:上限按合同额算,缓冲按人工复核算。

import { type Bps } from "../core/rate.ts";
import { type Cents } from "../core/money.ts";

export type LiabilityTerms = {
  monthlyFeeCents: Cents;
  capMonths: number;
};

export type ReviewEconomics = {
  aiCostCents: Cents;
  reviewCostCents: Cents;
  platformCostCents: Cents;
};

/** 单客户责任上限 = 月费 × 上限月数,常见写法是 12 个月。 */
export function liabilityCapCents(terms: LiabilityTerms): Cents {
  return terms.monthlyFeeCents * terms.capMonths;
}

/** 单案件总成本 = AI + 人工复核 + 平台。 */
export function unitCostCents(econ: ReviewEconomics): Cents {
  return econ.aiCostCents + econ.reviewCostCents + econ.platformCostCents;
}

/** 人工复核占总成本的比例,向下取整到基点。 */
export function reviewShareBps(econ: ReviewEconomics): Bps {
  const total = unitCostCents(econ);
  if (total === 0) return 0;
  return Math.floor((econ.reviewCostCents * 10_000) / total);
}

/** 单客户月度复核支出 = 月案件量 × 单件复核成本。 */
export function monthlyReviewCents(casesPerMonth: number, reviewCostCents: Cents): Cents {
  return casesPerMonth * reviewCostCents;
}

/** 上限相当于多少个月的复核支出。 */
export function capInReviewMonths(capCents: Cents, monthlyReviewCents: Cents): number {
  if (monthlyReviewCents === 0) return 0;
  return Math.round((capCents / monthlyReviewCents) * 10) / 10;
}

/** 上限摊到每个交付单元,得到合同允许的单单元最大责任。 */
export function capPerUnitCents(capCents: Cents, annualUnits: number): Cents {
  if (annualUnits === 0) return 0;
  return Math.round(capCents / annualUnits);
}

export const CLAUSEPILOT_ECON: ReviewEconomics = {
  aiCostCents: 2_200,
  reviewCostCents: 3_500,
  platformCostCents: 800,
};

export const CLAUSEPILOT_TERMS: LiabilityTerms = {
  monthlyFeeCents: 924_000,
  capMonths: 12,
};

export const CLAUSEPILOT_MONTHLY_CASES = 38;

跑出来的关键数字:单案件成本 6,500 美分;复核占比 5,384 个基点,即 53.8%;单客户上限 11,088,000 美分,即 110,880 美元;摊到 456 个案件是 24,316 美分,即 243.16 美元;上限相当于 83.4 个月的复核支出。

代码里有两个刻意的选择。第一,复核占比向下取整,避免把 53.846% 写成 53.9%,在合同里高估缓冲。第二,上限摊到单元时四舍五入到美分,保证对账时能还原。责任条款最终要落到发票和赔付单上,算不清的数写不进合同。

保险与准备金

责任上限之外,还有一层是保险。科技责任险通常覆盖软件服务中的错误与遗漏,但 AI 输出往往有单独的子限额或除外条款。投保前要确认三件事:模型输出是否在承保范围内;人工复核流程是否被列为承保前提;知识产权侵权是否有单独保额。

准备金是另一条腿。没有保险覆盖的部分,公司要按合同上限留出准备。准备金的规模不需要精确到每个客户,但要有公式:

准备金 = 单客户上限 × 预计同时索赔客户数

预计同时索赔客户数是一个管理判断,不是概率模型。它的作用是把「最坏情况」变成一个董事会能看懂的数,而不是等到事故发生时才发现所有上限加起来超过了现金。

ClausePilot 的单客户上限是 110,880 美元,前 3 大客户贡献 34% 的收入。如果这三家同时索赔,上限合计 332,640 美元(110,880 × 3),相当于其月度毛利 575,450 美元的 57.8%(332,640 ÷ 575,450)。这个比例还在可承受范围内;如果上限写成 24 个月费用,同一场景就会超过整月毛利。

责任条款如何影响销售周期

企业采购的安全审查周期差异很大:LumenDesk 平均 6 周,Verba 3 周,ClausePilot 11 周。责任条款通常是审查的最后一关,因为它同时牵动法务、财务与业务三方。

把责任谈判放在安全审查之前,可以缩短整体周期。做法是先给客户一份标准责任条款模板,让法务在技术评估阶段就提出红line,而不是等到安全审查结束再开始谈。模板里预先写好三层结构:基础服务承诺、列举场景赔偿、总额上限与 carve-out。客户改的是参数,不是结构,往返次数会明显减少。

反过来,如果每单都从零谈责任条款,销售周期会被拉长,企业 CAC 也会上升。ClausePilot 的企业 CAC 是 42,000 美元,其中包含售前、审查与法务成本;责任条款每多一轮往返,这部分成本就再增加一层。

小结

  • 责任边界不是免责声明,而是错误发生后的发现、止损、赔偿与升级机制。
  • 三种写法里,分层共担最适合 AI 产品:基础服务承诺、列举场景赔偿、其他错误有限补救、总额封顶。
  • 按「12 个月已付费用」封顶,ClausePilot 单客户上限 110,880 美元,摊到每案件 243.16 美元。
  • LumenDesk 单次对话的责任上限是 0.0868 美元,是单次变动成本 0.015 美元的 5.8 倍。
  • Verba 按分钟计费,单分钟责任上限等于单价 0.008 美元,必须靠排除间接损失与接入侧兜底控制风险。
  • ClausePilot 的人工复核占单案件成本 53.8%,单客户上限相当于 83.4 个月的复核支出,复核是上限成立的前提。
  • 责任条款要设单次与年度两层上限,并按客户分层提供不同赔偿,不能一套条款卖所有客户。
  • 错误分级、客户义务与共同过错要写进合同附件,否则「输出错误」在事故发生时无法界定。

阅读导航:上一节:8.3 合规作为差异化 · 下一节:9.2 SLA、可用性与赔付 。

常见错误与边界

  • 把「输出仅供参考」当成责任条款,实际没有约定错误定义、赔偿方式与上限。
  • 只写单次事故上限,不写年度累计上限,低估百万级调用量下的尾部风险。
  • 把责任上限乘到公司总收入上,而不是乘到单客户月费上,算出无法执行的天价赔偿。
  • 在纯 API 产品里承诺按下游损失赔偿,却没有排除间接损失与要求客户配置兜底。
  • 砍掉人工复核来降成本,同时保留高上限承诺,让合同承诺失去执行基础。
  • 投保时假设科技责任险自动覆盖模型输出,没有核对子限额、除外条款与承保前提。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图