以下三家公司与全部数字均为教学假设,用于演示商业化计算,不代表任何真实企业。
责任边界不是免责声明
AI 产品的合同里几乎都有一句「输出仅供参考,不构成专业意见」。这句话在法庭上的作用,远小于它在销售会议上的作用。客户买的不是一个免责声明,而是一个可预期的失败处理方式:出错时谁来发现、谁来止损、谁来赔、赔多少。
责任边界要回答四个问题。第一,什么算「输出错误」,什么算「客户误用」。第二,错误造成的直接损失与间接损失如何区分。第三,单次事故与年度累计的责任上限分别是多少。第四,超过上限之后,双方还有什么义务。
这四个问题不写清楚,合同签得再快,也会在第一次事故时回到谈判桌。而那时公司的议价能力最弱。
责任分配的三种写法
第一种:供应商全担。 供应商承诺输出绝对正确,任何损失全额赔偿。这种条款在 AI 产品里几乎不可执行,因为模型输出具有概率性,供应商无法把错误率降到零。敢签全担条款的供应商,通常会在别处留后门:限定「直接损失」、限定「经证实由供应商过错导致」、限定「不超过已付费用」。字面上全担,实际仍然封顶。
第二种:客户自担。 合同写明「按现状提供」,客户自行承担使用输出的全部风险。这种写法在开发者工具、内部效率工具里常见,因为客户有能力判断输出质量。但它会把企业客户挡在门外:企业采购法务通常不接受把 AI 输出风险全部留给业务部门。
第三种:分层共担。 这是企业合同的主流写法。基础服务承诺可用性与响应时限;对明确列举的场景(例如知识产权侵权、数据泄露)提供赔偿;对其他输出错误只承担有限补救,例如重做、退款或服务抵扣;所有责任受一个总额上限约束。
分层共担的关键不是「分几层」,而是每一层都要有可验证的触发条件。没有触发条件的承诺,等于没有承诺。
先把错误分级
责任条款写不清,往往是因为「错误」没有被分级。同样一句「输出有误」,在合同里可能对应完全不同的处理方式。
| 级别 | 典型场景 | 处理方式 | 责任归属 |
|---|---|---|---|
| 格式错误 | 字段缺失、结构不合法 | 自动重试或重做 | 供应商 |
| 事实错误 | 引用了不存在的条款、数字抄错 | 更正并记录 | 供应商 |
| 建议错误 | 结论合理但业务判断不适用 | 提示置信度与适用范围 | 共担 |
| 系统性错误 | 同类问题批量出现 | 停服、回溯、专项修复 | 供应商为主 |
格式错误最容易定义,也最容易自动化处理。事实错误需要抽检与引用溯源。建议错误最难界定,因为「合理」本身依赖业务上下文。系统性错误则是合同里最需要单独写明的场景:它不是单次事故,而是产品缺陷,处理方式、通知时限与赔偿口径都应与单次错误不同。
把错误分级写进合同附件,比在主合同里堆形容词有用得多。客户法务看到一张可对应的表,谈判会快很多。
把上限写成一个可算的数
责任上限最常见的写法是「不超过事故前 12 个月已付费用」。把它写成公式:
单客户责任上限 = 单客户月费 × 上限月数
ClausePilot 的单客户月费是 9,240 美元,按 12 个月计:
9,240 × 12 = 110,880 美元
再摊到每个案件。单客户月均 38 件,一年 456 件:
110,880 ÷ 456 = 243.16 美元/案件
这个数很关键。ClausePilot 每案件向客户收 180 美元,合同允许的单案件责任是 243.16 美元,约为案件单价的 1.35 倍(243.16 ÷ 180 = 1.35)。也就是说,一次案件出错,赔偿上限刚够覆盖一个多案件的收入,远不足以覆盖客户因为错误合同条款产生的真实损失。
LumenDesk 的对比更明显。单客户月费 322.80 美元,12 个月上限 3,873.60 美元。单客户月均对话 3,720 次(1,190,400 ÷ 320),一年 44,640 次(3,720 × 12):
3,873.60 ÷ 44,640 = 0.0868 美元/次
每次对话的合同责任上限是 8.68 美分,而每次对话的变动成本是 1.5 美分。责任上限是成本的 5.8 倍(0.0868 ÷ 0.015 = 5.8),听起来有缓冲,但一次对话引发的业务中断损失可能是几百美元。
Verba 的纯用量结构最直接。月费按用量走,12 个月上限恰好等于 12 个月的同量费用,摊到每分钟就是 0.008 美元的单价:
单分钟责任上限 = 单分钟价格 = 0.008 美元
这三组数放在一起,说明一件事:按「已付费用」封顶,对供应商是安全的,对客户是单薄的。客户法务真正在谈的,不是这个上限,而是上限之外的 carve-out。
| 案例 | 单客户月费 | 12 个月上限 | 年交付单元 | 上限摊到单元 |
|---|---|---|---|---|
| LumenDesk | 322.80 美元 | 3,873.60 美元 | 44,640 次对话 | 0.0868 美元/次 |
| Verba API | 231.72 美元 | 2,780.64 美元 | 347,586 分钟 | 0.008 美元/分钟 |
| ClausePilot | 9,240 美元 | 110,880 美元 | 456 件案件 | 243.16 美元/件 |
Verba 的年交付单元按每账户月均用量折算:42,000,000 ÷ 1,450 × 12 = 347,586 分钟。
再换一个角度看上限的相对大小。把上限除以单客户年度毛利,得到「上限相当于几年毛利」:
LumenDesk:3,873.60 ÷ (322.80 × 82.7% × 12) = 1.2 年
Verba API:2,780.64 ÷ (231.72 × 47.5% × 12) = 2.1 年
ClausePilot:110,880 ÷ (9,240 × 73.3% × 12) = 1.4 年
毛利率越低,同样的「12 个月费用」上限相对毛利越厚。Verba 的上限是 2.1 年毛利,看起来最安全;但它的毛利绝对值最薄,一笔赔付就能吃掉整月利润。上限的相对厚度与绝对承受力不是一回事。
人工复核是责任缓冲,不是普通成本
ClausePilot 的每案件变动成本是 65 美元,其中人工复核 35 美元,占 53.8%:
35 ÷ 65 = 53.8%
这笔钱经常被当成「效率不够」的证据:既然 AI 能审合同,为什么还要人看?从责任角度看,人工复核买的是三样东西。
第一是发现率。模型给出错误条款时,复核人有机会在交付前拦下。第二是可追溯性。每个案件有一份人工确认记录,事故发生后能证明公司履行了合理注意义务。第三是合同筹码。有复核流程,才敢在合同里写「对经复核确认的输出承担补救责任」;没有复核,只能写「按现状提供」。
把复核支出和上限放在一起看。单客户月均 38 件,每件 35 美元,月度复核支出 1,330 美元:
38 × 35 = 1,330 美元
单客户 12 个月责任上限 110,880 美元,相当于 83.4 个月的复核支出:
110,880 ÷ 1,330 = 83.4 个月
换句话说,公司为一个客户存下的责任上限,约等于这个客户 6.9 年的复核成本(83.4 ÷ 12 = 6.9)。复核不是可砍的成本项,它是上限能够成立的前提。
规模让单次错误变便宜,也让单次事故变贵
LumenDesk 每月处理 1,190,400 次对话。单次对话的推理与检索成本只有 1.5 美分,单次责任上限 8.68 美分。单看一个单元,风险很小。
但规模改变的是概率结构。当月处理量到百万级,即使错误率很低,「本月至少出现一次错误」也接近必然。合同如果只写「单次事故上限」,不写「年度累计上限」,供应商面对的是一个由百万次独立事件组成的尾部风险。
正确的写法是两层上限:
单次事故上限 = 单客户月费 × 3
年度累计上限 = 单客户月费 × 12
单次上限保证个案可处理,年度上限保证财务可预算。两层之间留出的空间,用来覆盖同一客户在一年内多次出错的场景。
规模还带来一个反向问题:客户越大,单次事故对其业务的影响越大,但按「已付费用」算出的上限越小。前 5 大客户贡献 LumenDesk 31% 的收入,这些客户的合同往往要求更高的上限、更长的赔偿期和专门的响应团队。标准条款卖给他们,签不下来;为他们定制条款,又会让责任敞口集中。
纯 API 的责任最容易被低估
Verba 按分钟计费,每分钟 0.008 美元。客户把转写结果接进客服质检、医疗记录或字幕系统,一次转写错误可能触发下游的返工、合规调查或客户投诉。
按已付费用封顶,Verba 对每分钟输出的责任是 0.008 美元。这个数字和下游损失之间没有关系。所以纯 API 产品的合同要把三件事写清楚。
第一,明确排除间接损失。利润损失、商誉损失、数据重建成本、第三方索赔,原则上不赔。第二,要求客户在接入侧做置信度阈值与人工兜底。合同可以写「客户应在低置信度场景配置人工复核」,把一部分注意义务转移给最了解业务风险的一方。第三,把赔偿与支持分层。标准合同只赔服务抵扣,企业合同才提供有限赔偿,且需要单独报价。
Verba 的企业客户有 26 家,贡献 18% 的收入,企业 CAC 是 6,000 美元。为这 18% 的收入定制责任条款,成本可控;为全部 1,450 个账户开放同样的赔偿,风险不可控。责任条款要跟着客户分层走,而不是跟着产品功能走。
客户误用与共同过错
很多事故不是模型单方面出错,而是客户把输出用在了不该用的地方。合同要区分「输出错误」与「使用错误」,否则供应商会为客户的判断失误买单。
常见的客户误用有三类。第一,超出约定场景使用。合同写明用于合同初筛,客户却直接拿去签发。第二,忽略置信度提示。产品标了低置信度,客户仍然跳过人工复核。第三,输入数据本身有问题。客户上传了过期模板或错误附件,模型基于错误输入给出错误输出。
对这三类情况,合同可以约定客户义务:在指定场景内使用、对低置信度输出配置人工复核、保证输入数据合法且准确。客户违反义务导致的损失,供应商不承担或按比例分担。
共同过错条款的价值不在于打官司,而在于事前对齐。客户法务看到「我们也有责任」,反而更愿意接受一个清晰的责任上限;只写「供应商全担」的合同,通常走不到签字那一步。
用代码把责任账算清楚
下面的模型把三件事放进同一套整数运算:单案件成本、复核占比、责任上限摊到交付单元。
// file: src/scale/09-1-output-liability.ts
// tier: L1
// verify: node --test test/scale/09-1-output-liability.test.ts
// 责任边界:上限按合同额算,缓冲按人工复核算。
import { type Bps } from "../core/rate.ts";
import { type Cents } from "../core/money.ts";
export type LiabilityTerms = {
monthlyFeeCents: Cents;
capMonths: number;
};
export type ReviewEconomics = {
aiCostCents: Cents;
reviewCostCents: Cents;
platformCostCents: Cents;
};
/** 单客户责任上限 = 月费 × 上限月数,常见写法是 12 个月。 */
export function liabilityCapCents(terms: LiabilityTerms): Cents {
return terms.monthlyFeeCents * terms.capMonths;
}
/** 单案件总成本 = AI + 人工复核 + 平台。 */
export function unitCostCents(econ: ReviewEconomics): Cents {
return econ.aiCostCents + econ.reviewCostCents + econ.platformCostCents;
}
/** 人工复核占总成本的比例,向下取整到基点。 */
export function reviewShareBps(econ: ReviewEconomics): Bps {
const total = unitCostCents(econ);
if (total === 0) return 0;
return Math.floor((econ.reviewCostCents * 10_000) / total);
}
/** 单客户月度复核支出 = 月案件量 × 单件复核成本。 */
export function monthlyReviewCents(casesPerMonth: number, reviewCostCents: Cents): Cents {
return casesPerMonth * reviewCostCents;
}
/** 上限相当于多少个月的复核支出。 */
export function capInReviewMonths(capCents: Cents, monthlyReviewCents: Cents): number {
if (monthlyReviewCents === 0) return 0;
return Math.round((capCents / monthlyReviewCents) * 10) / 10;
}
/** 上限摊到每个交付单元,得到合同允许的单单元最大责任。 */
export function capPerUnitCents(capCents: Cents, annualUnits: number): Cents {
if (annualUnits === 0) return 0;
return Math.round(capCents / annualUnits);
}
export const CLAUSEPILOT_ECON: ReviewEconomics = {
aiCostCents: 2_200,
reviewCostCents: 3_500,
platformCostCents: 800,
};
export const CLAUSEPILOT_TERMS: LiabilityTerms = {
monthlyFeeCents: 924_000,
capMonths: 12,
};
export const CLAUSEPILOT_MONTHLY_CASES = 38;
跑出来的关键数字:单案件成本 6,500 美分;复核占比 5,384 个基点,即 53.8%;单客户上限 11,088,000 美分,即 110,880 美元;摊到 456 个案件是 24,316 美分,即 243.16 美元;上限相当于 83.4 个月的复核支出。
代码里有两个刻意的选择。第一,复核占比向下取整,避免把 53.846% 写成 53.9%,在合同里高估缓冲。第二,上限摊到单元时四舍五入到美分,保证对账时能还原。责任条款最终要落到发票和赔付单上,算不清的数写不进合同。
保险与准备金
责任上限之外,还有一层是保险。科技责任险通常覆盖软件服务中的错误与遗漏,但 AI 输出往往有单独的子限额或除外条款。投保前要确认三件事:模型输出是否在承保范围内;人工复核流程是否被列为承保前提;知识产权侵权是否有单独保额。
准备金是另一条腿。没有保险覆盖的部分,公司要按合同上限留出准备。准备金的规模不需要精确到每个客户,但要有公式:
准备金 = 单客户上限 × 预计同时索赔客户数
预计同时索赔客户数是一个管理判断,不是概率模型。它的作用是把「最坏情况」变成一个董事会能看懂的数,而不是等到事故发生时才发现所有上限加起来超过了现金。
ClausePilot 的单客户上限是 110,880 美元,前 3 大客户贡献 34% 的收入。如果这三家同时索赔,上限合计 332,640 美元(110,880 × 3),相当于其月度毛利 575,450 美元的 57.8%(332,640 ÷ 575,450)。这个比例还在可承受范围内;如果上限写成 24 个月费用,同一场景就会超过整月毛利。
责任条款如何影响销售周期
企业采购的安全审查周期差异很大:LumenDesk 平均 6 周,Verba 3 周,ClausePilot 11 周。责任条款通常是审查的最后一关,因为它同时牵动法务、财务与业务三方。
把责任谈判放在安全审查之前,可以缩短整体周期。做法是先给客户一份标准责任条款模板,让法务在技术评估阶段就提出红line,而不是等到安全审查结束再开始谈。模板里预先写好三层结构:基础服务承诺、列举场景赔偿、总额上限与 carve-out。客户改的是参数,不是结构,往返次数会明显减少。
反过来,如果每单都从零谈责任条款,销售周期会被拉长,企业 CAC 也会上升。ClausePilot 的企业 CAC 是 42,000 美元,其中包含售前、审查与法务成本;责任条款每多一轮往返,这部分成本就再增加一层。
小结
- 责任边界不是免责声明,而是错误发生后的发现、止损、赔偿与升级机制。
- 三种写法里,分层共担最适合 AI 产品:基础服务承诺、列举场景赔偿、其他错误有限补救、总额封顶。
- 按「12 个月已付费用」封顶,ClausePilot 单客户上限 110,880 美元,摊到每案件 243.16 美元。
- LumenDesk 单次对话的责任上限是 0.0868 美元,是单次变动成本 0.015 美元的 5.8 倍。
- Verba 按分钟计费,单分钟责任上限等于单价 0.008 美元,必须靠排除间接损失与接入侧兜底控制风险。
- ClausePilot 的人工复核占单案件成本 53.8%,单客户上限相当于 83.4 个月的复核支出,复核是上限成立的前提。
- 责任条款要设单次与年度两层上限,并按客户分层提供不同赔偿,不能一套条款卖所有客户。
- 错误分级、客户义务与共同过错要写进合同附件,否则「输出错误」在事故发生时无法界定。
阅读导航:上一节:8.3 合规作为差异化 · 下一节:9.2 SLA、可用性与赔付 。
常见错误与边界
- 把「输出仅供参考」当成责任条款,实际没有约定错误定义、赔偿方式与上限。
- 只写单次事故上限,不写年度累计上限,低估百万级调用量下的尾部风险。
- 把责任上限乘到公司总收入上,而不是乘到单客户月费上,算出无法执行的天价赔偿。
- 在纯 API 产品里承诺按下游损失赔偿,却没有排除间接损失与要求客户配置兜底。
- 砍掉人工复核来降成本,同时保留高上限承诺,让合同承诺失去执行基础。
- 投保时假设科技责任险自动覆盖模型输出,没有核对子限额、除外条款与承保前提。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。