免责声明能挡住一部分索赔,挡不住一次错误的退款承诺;责任不是写在条款里,是写在产品怎么用模型里。
一、一条「可以全额退款」的草稿
2026 年 6 月,一位商家把 AI 草稿直接发给消费者,内容是「可以全额退款,商品您保留」。店铺政策写的是「七天无理由,运费自理」,消费者截图要求兑现,商家回头找周闻:「你们的 AI 说可以退。」
以下情境为教学假设,人物、引语和数字不代表经核实的真实案例。
他查了记录:草稿来自模型,商家没有改,直接发送;角标显示了,确认页也签了。从流程上看,产品每一步都提示过;但从结果看,消费者已经拿着截图来了。
输出责任不是「谁的模型谁负责」这么简单。 模型生成、商家发送、消费者相信,三个动作各有一份责任;产品要做的,是把这三份责任写清楚,而不是用一句「仅供参考」全部推开。
二、三档错误:事实、建议、格式
他把一年 9 件投诉里的 7 件按错误类型分成三档,剩下两件单独处理。
| 档位 | 定义 | 件数 | 占比 | 典型后果 |
|---|---|---|---|---|
| 事实错 | 订单、政策、时效说错 | 3 | 42.9% | 消费者按错信息行动 |
| 建议错 | 退款、补偿、方案给错 | 2 | 28.6% | 商家多赔或失信 |
| 格式错 | 称呼、语气、结构不对 | 2 | 28.6% | 体验差,较少赔偿 |
事实错最硬:说「明天到」但实际三天,消费者会投诉;说「支持七天无理由」但政策是三天,商家会赔。建议错最贵:一条「可以全额退款」可能直接产生现金损失。
判定顺序是先看后果,再看内容。涉及钱、期限、资格的输出,哪怕只是「建议」,也先按建议错处理;反过来,语气再差也只是格式错。顺序错了,会把最贵的一类排到最后。
三档错误的处理方式不同。 事实错要改检索与引用,建议错要加人工确认,格式错改提示词与模板;用同一套「提高准确率」去处理,三档都改不好。
事实错还要再分两类:检索没命中,和命中了过期文档。前者补检索范围,后者补文档版本;如果不分,「提高准确率」就变成了盲目扩召回,把更多过期内容捞进来。
建议错的根因通常不是模型不聪明,而是政策没被结构化。他的做法是把退款、补偿、时效做成枚举字段,模型只能在枚举里选,不能自由发挥;这样建议错会变成「选错档」,而不是「编出一条不存在的政策」。
还有一类不在表里:版权相似与隐私。它们各 1 件,单独计数,因为它们不是「说错」,而是「说了不该说的」;处理路径也不同,放在第 08 篇展开。
三、四条条款边界
条款不能消灭责任,但能划清边界。他写了四条,放在服务条款与产品内确认页两处。
| # | 边界 | 写法 | 不能写成 |
|---|---|---|---|
| 1 | 辅助定位 | 输出是草稿,需商家确认后发送 | AI 自动提供最终答复 |
| 2 | 不承诺结果 | 不保证准确率、不承担营业损失 | 保证 100% 准确 |
| 3 | 责任上限 | 累计赔偿不超过 12 个月已付费用 | 无限责任 |
| 4 | 用户义务 | 复核内容、维护知识库、及时报告 | 全部由平台负责 |
第 1 条最重要,因为它决定了产品形态:草稿必须有人点发送。自动发送是另一个档位,要单独确认,不能靠条款兜底。
第 3 条是商业条款,不是安全措施。12 个月费用能把损失封顶,但封不住一次公关事故;所以条款和产品控制要一起做。
一个人买不起高额责任险,但可以让条款、上限与保单三者对齐:合同写的上限,不该超过保单能覆盖的范围;否则条款只是纸面数字,真出事时还是自己赔。
第 4 条最容易写空。「及时报告」等于没写;他的版本是「发现后 24 小时内通过工单报告,附原文、订单号与影响范围」——有时间、有通道、有必填项,义务才可执行。
条款要能被客户读懂,而不是藏在服务条款第 12 条。他把四条边界做成客户合同的一页附表,签约时逐条讲一遍;讲不清的条款,出事时也执行不了。
免责声明不能替代控制。 写「AI 可能出错」很便宜,但它不减少错误;真正减少错误的是引用、拒答、人工复核与投诉通道。
四、七件投诉的处理路径
7 件投诉,平均处理 3.5 小时,一年 24.5 小时。时间主要花在还原上下文、判断责任与和商家沟通,不是花在回复本身。
| 步骤 | 动作 | 时限 | 产出 |
|---|---|---|---|
| 1 受理 | 记录商家、消费者、原文 | 24 小时 | 工单 |
| 2 还原 | 调模型版本、提示、检索结果 | 48 小时 | 时间线 |
| 3 定责 | 判事实、建议、格式或越界 | 72 小时 | 结论 |
| 4 处置 | 改提示、加确认、补偿或下架 | 7 天 | 动作 |
第 2 步最容易被跳过。没有模型版本与检索结果,你无法判断是模型变了、文档过期,还是商家改了提示;时间线不完整,定责就只能靠猜。
投诉处理的目标不是「免责」,是「下次不再发生」。 每件投诉要产出一个动作:改一条提示、补一条引用、加一个确认点,或者关掉一个功能。
第 4 步的补偿要有上限。他的规则是「事实错赔直接损失,建议错按政策复核,格式错道歉并改模板」;三档不同,避免一件小事赔出一个月收入。
投诉入口要放三处:对话页脚、帮助中心首屏、每封通知邮件底部。三处里至少两处可用;用户找不到入口,就会去公开平台,而公开平台的回应成本高得多。
公开评价和工单要用两套时限。公开评价 24 小时内必须回应,因为它在被其他人看;工单可以 72 小时内定责,因为要还原上下文。把两者混成一个队列,要么评价回得太慢,要么工单被催得太急。
同一商家三个月内两次同类投诉,是控制点失效的信号。这时候不该再按单件处理,而要升级成功能级整改:关掉某个场景、换一条提示、或者加一道确认。
处理完要回写知识库。把结论写成一条帮助中心文章,下次同类问题先看文章;否则同一件事会被反复走工单,处理成本永远下不来。
复盘只问三个问题:这类错误还能不能发生、发生后能否在 48 小时内还原、补偿是否超过上限。三个问题各写一行,比一份十页报告有用。
投诉记录保存两年就够,到期删除。保存记录本身也是个人信息处理;为了「以后可能有用」无限期留着,和产品里别处的删除承诺自相矛盾。
复算:
投诉:9 件/年 = 三档 7(事实 3 + 建议 2 + 格式 2)+ 版权 1 + 隐私 1
占比:3 ÷ 7 = 42.9%;2 ÷ 7 = 28.6%;2 ÷ 7 = 28.6%
成本:7 × 3.5 h = 24.5 h/年
单件分布:受理 0.5 + 还原 1.2 + 定责 0.8 + 处置 1.0 = 3.5 h
责任上限:29 美元 × 12 个月 = 348 美元/席
复算里 348 美元是单席上限,不是总赔偿;客户有 10 席时,上限是 3,480 美元。条款里的「12 个月费用」要写清按什么口径算,否则出事时又是一轮解释。
五、行动清单与复算验收
- 把投诉按事实、建议、格式三档分类。
- 为每档写一条处理路径与时限。
- 在条款里写清辅助定位、不承诺结果、责任上限、用户义务。
- 把「草稿需确认」写进产品,而不是只写进条款。
- 每件投诉产出至少一个产品动作。
- 保留模型版本、提示与检索结果,能在 48 小时内还原。
- 给补偿定上限,按档位区分。
- 每季度复盘投诉,重复出现的错误升级为控制点。
验收标准:任取一件投诉,都能说出它属于哪一档、按哪条路径处理、产出了什么动作。
前四条是「把边界写清」,后四条是「把处理跑通」。如果只有一小时,先做第五条:没有产品动作的投诉复盘,只是把同一件事再讲一遍。
使用边界与实操验收
条款不是法律意见。 责任上限、免责条款是否有效,受当地法律与合同类型约束;本文只讨论产品侧的边界设计,不构成法律意见。
免责声明不减少错误。 它的作用是划清责任,不是提高质量;把免责声明当成质量方案,是最常见的错位。
责任上限不是越低越好。 上限太低,企业客户不会签;太高,一个人赔不起。12 个月费用是一个常见折中,但仍要按自己的合同与保险评估。
建议错比事实错更贵。 事实错通常可以更正,建议错可能已经产生现金损失;涉及钱、期限、资格的输出,必须加人工确认。
投诉通道要显眼。 用户找不到投诉入口,就会去公开平台;公开平台的成本,比一封工单高得多。
本文的数字是教学假设。 7 件、3.5 小时、348 美元都是演示口径,换成自己的产品要重算。
关键参考与核验范围
- EU AI Act 官方文本 :用于核对透明度、人工监督与责任分配的原文结构。
- NIST AI 风险管理框架 :用于核对风险处置、监测与沟通的通用流程。
- OWASP LLM Top 10 :用于核对错误信息、越界输出与不当建议的风险条目。
以上链接于 2026-10-27 实测可公开访问;未核验版本、条款更新与适用范围。核验日期:2026-10-27。
范围上只讨论一人产品如何处理 AI 输出错误与责任边界,不判定任何辖区的责任规则,也不提供法律意见。
系列导航
- 上一篇:披露与标识:六处披露、两万三千次角标与两版文案
- 下一篇:人工复核:每月四百一十次、八点二小时与一条升级路径
- 回到目录:一个人的 AI 合规:六个功能、二十二项供应商条款与一次客户审查
- 相关阅读:一个人的企业客户:九家询价、一百四十八道问卷与 134 天的第一单
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。