用户问「我的对话会不会被拿去训练」时,答案不该取决于你当时的心情,而该取决于一页写好的台账。
一、七个来源,两个他答不上来
2026 年 4 月,一位商家在续费前问周闻:「我们和消费者的对话,会不会被你们拿去训练?」他第一反应是「不会」,但话到嘴边停住了——他不知道帮助文档里的旧工单、抓来的竞品页面和一份第三方示例数据,算不算「训练数据」。
以下情境为教学假设,人物、引语和数字不代表经核实的真实案例。
他花了一个下午,把进入模型上下文的东西列成七个来源。列完发现,其中两个来源的许可状态说不清:公开网页和第三方示例数据集。
这张表最初只有「来源」和「用途」两列,看起来很干净;加上许可、保留期和可删除性之后,问题才浮出来。台账的价值不在于列全,而在于逼你回答那三个不舒服的列。
说不清许可,就是不能用。 合规问题里最危险的不是「明确禁止」,而是「以为可以」;前者会让你停手,后者会让你在半年后收到一封律师函。
二、七个来源与四列台账
他给每个来源写了四列:从哪来、许可是什么、保留多久、能不能删。
| # | 来源 | 许可 | 保留 | 可删除性 |
|---|---|---|---|---|
| 1 | 客户对话 | 客户授权,合同约定 | 30 天 | 可,按客户与时间 |
| 2 | 订单与退款记录 | 客户授权,最小字段 | 90 天 | 可,按订单号 |
| 3 | 帮助中心文章 | 自有内容 | 长期 | 可,版本化 |
| 4 | 政策与服务条款 | 自有内容 | 长期 | 可,版本化 |
| 5 | 历史工单 | 客户数据,需脱敏 | 180 天 | 可,按客户 |
| 6 | 公开网页 | 不清:robots 与站点条款 | 不进入 | 不应使用 |
| 7 | 第三方示例数据集 | 不清:许可证未核 | 不进入 | 不应使用 |
第 6 类最容易误用。很多人觉得「公开网页就是公开数据」,但公开可访问不等于允许批量使用;robots 协议、站点条款和当地法律可能给出不同答案。
第 7 类的问题在许可证。示例数据集常写着「仅用于研究」或「禁止商用」,而一人产品是商用;没核清之前,它只能停留在演示环境。
第 5 类历史工单是客户数据,保留 180 天比对话的 30 天更长,因为它要用于复盘与培训;但「用于培训」本身要写进合同,不能默认成立。保留期越长,删除请求越难做,这条要在台账里标红。
七个来源里,五个能说清,两个说不清。 28.6% 的说不清比例不算高,但足以让整个数据链路失去可辩护性。
这张表还有一个用途:客户问「你们的数据从哪来」时,直接把四列发过去;能发出去的表,才说明你真的知道答案。
三、三条个人信息路径
来源之外,个人信息还有三条进入模型的路径。
| 路径 | 典型内容 | 风险 | 处理 |
|---|---|---|---|
| 对话正文 | 姓名、电话、地址、订单细节 | 高 | 发送前脱敏 |
| 订单字段 | 收件人、手机号、支付尾号 | 高 | 最小字段 + 掩码 |
| 日志与评测回放 | 历史对话原文 | 中 | 只存哈希与摘要 |
第一条最直接:消费者在对话里说「我叫张三,电话 138…,地址…」,这些内容会原样进入提示词。模型供应商可能保留 30 天,也可能有人工审阅;你没有义务替消费者冒险。
这条路径也最难完全堵住。用户可能在第三句话才说出地址,而你的正则只扫了第一段;所以脱敏要作用在整段上下文,而不是首条消息。
第二条常被忽略:订单查询需要订单号,但不需要收件人全名和完整地址。他的做法是只传订单号与状态,需要地址时传「城市 + 区」,不传门牌。
最小化不是把字段删到模型答不出来。删得太多,回复会变成「请提供订单号」的循环;他的做法是先保留订单号与状态,再按问题类型决定是否补城市,能答就不补。
第三条是回放。为了评测,他把历史对话存下来重跑;这些副本不在主库的删除流程里,容易被遗忘。后来改成只存哈希、功能标签与评分,不存原文。
回放还有一个隐性成本:它把「已经删除」的数据又复制了一份。客户注销后,主库删了,评测集里还有;这类副本必须在数据删除清单里单独列一行。
三条路径对应三种处理:发送前脱敏、字段最小化、回放不留原文。 只做第一条,另外两条仍会把个人信息留在你别的地方。
四、五条脱敏规则与十八小时清理
脱敏不是把整段对话删掉,而是把可识别个人的片段替换成占位符。他定了五条规则。
| # | 规则 | 替换为 | 例 |
|---|---|---|---|
| 1 | 手机号 | [PHONE] | 138****1234 → [PHONE] |
| 2 | 邮箱 | [EMAIL] | a@b.com → [EMAIL] |
| 3 | 地址 | [ADDR] | 门牌与街道 → [ADDR] |
| 4 | 订单号 | 哈希前 8 位 | 2026… → #a1b2c3d4 |
| 5 | 支付尾号 | [CARD] | 尾号 8899 → [CARD] |
规则要写在发送层,不是写在提示词里。写在提示词里,模型仍能看见原文;写在发送层,原文不离开你的服务。
发送层还会留下一条命中记录:哪条规则命中、命中了哪一段。这条记录用于调整规则,不记录替换后的原文;否则脱敏又会生成一份新的个人数据副本。
清理两个说不清的来源花了 18 小时:删除抓取脚本、清空示例数据集、重跑一次评测确认没有残留。这个数字不大,但它必须在第一次客户审查之前完成。
18 小时的分配也值得记:抓取脚本 6 小时、示例数据 4 小时、重跑评测 8 小时。最贵的不是删,是证明删干净了——重跑评测占了一半。
脱敏的验收标准是「日志里搜不到」:拿手机号、邮箱、地址各搜一次,搜不到才算做完;只看代码里有没有正则,不算。
复算:
来源:7 个 = 可说明 5 + 许可不清 2
不清比例:2 ÷ 7 = 28.6%
路径:3 条 = 对话正文 + 订单字段 + 日志回放
规则:5 条 = 手机号 + 邮箱 + 地址 + 订单号 + 支付尾号
清理:18 h(抓取脚本 6 + 示例数据 4 + 重跑评测 8)
台账维护:7 来源 × 0.5 h/月 = 3.5 h/月 = 42 h/年
复算里 42 小时是持续成本,不是一次性成本。来源会变、许可会变、保留期会变;台账不维护,三个月后就会重新变成「说不清」。
季度复核只问三个问题:有没有新来源、有没有来源改许可、有没有来源的保留期到了却没删。三个问题各花 30 分钟,比一次客户审查便宜得多。
五、行动清单与复算验收
- 列出所有进入模型上下文的数据来源。
- 给每个来源写许可、保留期与可删除性三列。
- 把许可不清的来源移出生产环境。
- 标出对话、订单字段、日志回放三条个人信息路径。
- 在发送层实现五条脱敏规则,而不是写在提示词里。
- 用手机号、邮箱、地址各搜一次日志,确认搜不到。
- 给台账定一个季度复核日,来源变化时当天更新。
- 把「不训练」承诺与台账一起交给客户。
验收标准:任取一个数据来源,都能说出它的许可、保留期和删除方式。
前四条是「把来源看清」,后四条是「把路径堵住」。如果只有一小时,先做第三条:许可不清的来源留在生产环境,后面所有承诺都不成立。
使用边界与实操验收
台账不是法律意见。 许可是否成立、公开网页能否使用、第三方数据能否商用,要以许可证原文、站点条款与当地法律为准;本文只提供记录方法。
「公开」不等于「可用」。 公开网页可能受 robots、版权与数据库权利约束;不确定时,默认不用,比事后删除便宜。
脱敏不能保证匿名。 多条信息组合仍可能重新识别;高风险场景要做更严格的聚合或干脆不发送。
保留期要写进删除任务。 台账里的 30 天、90 天、180 天,必须对应到实际的清理脚本;只写在表里,等于没有。
数据来源会随功能变化。 新增一个知识库、换一个模型供应商、接入一个新的工单系统,都要重跑这张表。
不要用「用户同意」覆盖一切。 同意有范围、有期限、可撤回;把同意当成万能许可,是最常见的自欺。
关键参考与核验范围
- GDPR 第 28 条:处理者 :用于核对处理者义务、子处理者与数据处理的合同边界。
- OWASP LLM Top 10 :用于核对敏感信息泄露与训练数据相关的风险条目。
- NIST 生成式 AI 风险画像 :用于核对数据来源、隐私与信息完整性的风险清单。
以上链接于 2026-10-27 实测可公开访问;未核验版本、条款更新与适用范围。核验日期:2026-10-27。
范围上只讨论一人产品如何记录数据来源与处理个人信息路径,不判定任何许可证或司法辖区的合法性,也不提供法律意见。
系列导航
- 上一篇:你的 AI 功能属于哪一档:六个功能、三档风险与十一项动作
- 下一篇:模型供应商审查:两家、十一项条款与二十八小时
- 回到目录:一个人的 AI 合规:六个功能、二十二项供应商条款与一次客户审查
- 相关阅读:一个人的隐私工程:数据地图、最小化与删除权
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。