《AI Agent 产品开发·任务定义与能力边界》9.2 个性化的边界与越界感

同一个偏好,用对了是「懂我」,用过了是「监视我」。本节从频次、渠道、内容三个维度给出越界信号清单,用 B Quill 的行业偏好说明个性化应该停在哪一步,解释可见性如何把个性化换成信任,并给出上线前的五个自查问题与可运行的判定模型,帮助产品在越界发生前主动收敛。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

上一节讨论了什么值得记。这一节要讨论另一个问题:记住之后,怎么用才不让人反感。同样一条信息,用在当前任务里是「懂我」,跨到另一个场景里就是「你怎么知道」;用一次是体贴,反复提起就是压力。

个性化的边界不在「记不记得住」,而在「用的方式」。用户能接受 Agent 了解自己的工作习惯,但很难接受它把这些了解变成一种持续的、跨场景的注视。产品要做的不是少记,而是把「用」的规则写清楚。

越界感从三个维度来

用户感到「被监视」,通常不是因为某一条信息本身,而是因为三个维度同时越过了预期:出现得太频繁、出现在不该出现的渠道、内容超出了任务需要。

维度合规区间警戒区间越界区间
频次一次、按需反复提及持续主动提起
渠道当前任务上下文相邻场景产品之外
内容与任务直接相关个人偏好敏感信息

三个维度不是独立的。一条任务相关信息,在正确渠道用一次,几乎没有越界感;同样的信息,跨到另一个产品、每天主动提醒,就会变成监视。判断时要看组合,而不是只看单条。

频次的关键是「谁发起」。用户问起时使用,是一次按需;Agent 主动反复提起,是另一回事。个性化最容易犯的错,是把「记住」当成「可以随时说」。

渠道的关键是「上下文是否连续」。在同一个任务里使用客户历史,用户认为是理所当然;在另一个不相关的任务里突然引用,用户会问「你怎么知道」。跨上下文使用,必须让用户看见依据,并且能关掉。

内容的关键是「任务相关性」。行业偏好、图表习惯、回复语气,这些与工作直接相关;家庭情况、健康状况、情绪状态,这些即使被观察到,也不该主动使用。敏感内容没有「用得好」的版本,只有「不用」。

B Quill 的行业偏好:个性化应该停在哪一步

B Quill 是 Meridian 的客户报告起草 Agent,月报告量 606 份,人工基线 4.2 小时一份。它的任务是根据客户数据包、上月报告和行业模板,生成 12–20 页的月报初稿。

在这个任务里,行业偏好是有用的个性化。制造业客户习惯看瀑布图,咨询客户习惯看对比表;有的客户喜欢简洁书面语,有的喜欢带结论先行的摘要。B 记住这些偏好,可以减少每次审改时的重复调整。

一次采纳率 63%,小改率 28%,返工率 9%。三档加起来说明:大部分初稿需要人动,但动的是细节,不是重写。行业偏好如果能把这些细节提前对齐,审改时间就会下降。这是个性化的正当价值。

但 B 的个性化应该停在「选图表、选措辞」这一步,不能继续往前。它不应该根据行业偏好推断客户的经营状况,也不应该在报告里写「贵司作为制造业企业,通常更关注产能」。前者是越界推断,后者是让客户感到被贴标签。

用途是否合适理由
选图表类型合适与报告呈现直接相关
选措辞风格合适与客户阅读习惯相关
推断经营重点不合适超出数据包能支持的范围
在正文里点明「因为你是制造业」不合适让客户感到被分类,而不是被服务

个性化的价值在于减少重复劳动,不在于展示「我懂你」。一旦 Agent 开始向用户证明自己懂,越界感就开始了。

越界信号清单

把上面的维度落成可检查的信号,产品评审时逐条对照:

频次信号:

  • 用户没有问,Agent 主动提起过去的偏好。
  • 同一个偏好在一次任务里被重复引用多次。
  • 每天都在提醒「根据你的习惯」。
  • 用户已经否认过,Agent 仍然按原偏好执行。

渠道信号:

  • 在当前任务里引用另一个客户的信息。
  • 在公开渠道(群聊、共享文档)里提到个人偏好。
  • 把产品 A 里学到的偏好用到产品 B。
  • 在用户没有预期的地方出现「我还记得你……」。

内容信号:

  • 使用与任务无关的个人信息。
  • 对用户的情绪、健康、家庭状况做推断。
  • 把观察到的行为说成用户的性格。
  • 在输出里暴露记忆的来源细节,让用户感到被记录。

三类信号里,渠道信号最容易被忽略,因为它常常被当成「能力」来宣传:跨产品记住你、跨场景理解你。但对用户来说,跨场景恰恰是最像监视的部分。产品团队要区分「技术上能跨」和「产品上该跨」。

用可见性换信任

个性化不是不能做,而是要让用户看见它在做什么。可见性至少包含三层:

层次用户看到什么作用
依据这条个性化来自哪里让用户判断是否合理
范围它会被用在哪里让用户知道边界
开关怎么关掉、怎么删除让用户保留控制权

三层里最重要的是开关。一个能随时关掉的个性化,用户更愿意尝试;一个关不掉的个性化,即使再准,也会让人不安。

B Quill 可以在报告草稿的图表旁标一句「按该客户行业模板选择瀑布图」,并提供一个「换回默认图表」的按钮。这句话和这个按钮,就是可见性。用户看到依据,知道可以改,就不会觉得被暗中安排。

可见性还有一个作用:它逼产品团队把个性化的依据写清楚。如果一条个性化说不出依据,它大概率不该存在。说不清来源的偏好,往往是推断出来的;推断出来的偏好,正是越界感的高发区。

个性化的三个产品规则

把上面的讨论压缩成三条规则,可以直接写进产品文档。

规则一:只在与任务直接相关的上下文里使用。 行业偏好用于选图表,客户历史用于分诊,回复语气用于生成文案。离开这个上下文,个性化就失去正当性。

规则二:主动使用要有理由,且理由要对用户可见。 Agent 主动提起一条偏好时,必须能回答「为什么现在提」。答不上来,就不要提。

规则三:用户可以随时否认,否认后立即停止。 否认不是新增一条相反偏好,而是删除原偏好。用户说「我没有这个习惯」,产品应该把它从记忆里移除,而不是记成「用户不喜欢被问习惯」。

三条规则看起来简单,但它们覆盖了大部分越界场景。频次越界,通常是违反了规则二;渠道越界,通常是违反了规则一;内容越界,通常是三条都违反了。

个性化与自主档的关系

不同自主档的 Agent,个性化的风险不同。

案例自主档个性化用在哪越界后果
A Relay建议客户历史、队列习惯建议偏差,人可纠正
B Quill草稿行业模板、措辞风格初稿带偏见,审改可发现
C Runner执行客户价格敏感度、补货习惯动作错误,可能不可逆

A 和 B 的个性化错了,人还有机会改;C 的个性化错了,可能已经改了价格或库存。所以执行档的个性化要更保守:能用规则表达的,不要用偏好推断;能不带个人信息的,不要带。

C 的自动完成率 78%,22% 转人工,审计抽检 8%。这组数字说明 C 有一层事后检查,但审计覆盖不了全部。个性化如果让 C 对某个客户「更敢自动执行」,风险就会集中在那些被判定为「熟悉」的客户身上,而审计未必抽得到。

把越界判断写成可运行的模型

下面这个模型把频次、渠道、内容三个维度做成信号,judge 返回 fine、watch、crossed 三档。B Quill 的行业偏好也写在同一个文件里,用来说明「用在哪一步」和「怎么解释依据」。

// file: src/task/09-2-personalization-edge.ts
// tier: L2
// verify: node --test test/task/09-2-personalization-edge.test.ts

// 个性化的越界感:同样一条信息,频次、渠道、内容任一越界,
// 「懂我」就会变成「监视我」。

export type Frequency = "once" | "repeated" | "continuous";
export type Channel = "in-context" | "cross-context" | "outside-product";
export type Content = "task-relevant" | "personal" | "sensitive";

export type Signal = {
  readonly frequency: Frequency;
  readonly channel: Channel;
  readonly content: Content;
};

export type Verdict = "fine" | "watch" | "crossed";

// 顺序即优先级:敏感内容与产品外渠道直接越界,其余按组合降级。
export function judge(signal: Signal): Verdict {
  if (signal.content === "sensitive") return "crossed";
  if (signal.channel === "outside-product") return "crossed";
  if (signal.content === "personal" && signal.channel === "cross-context") {
    return "crossed";
  }
  if (signal.content === "personal" && signal.frequency === "continuous") {
    return "watch";
  }
  if (signal.channel === "cross-context") return "watch";
  if (signal.content === "personal" && signal.frequency === "repeated") {
    return "watch";
  }
  return "fine";
}

export function explainVerdict(signal: Signal): string {
  const verdict = judge(signal);
  if (verdict === "crossed") {
    return signal.content === "sensitive"
      ? "内容敏感,任何渠道都不该主动使用"
      : "渠道超出当前任务上下文,用户会感到被监视";
  }
  if (verdict === "watch") {
    return "尚未越界,但频次或渠道已超出任务需要,应主动收敛";
  }
  return "与当前任务直接相关,且只在本次上下文使用";
}

// B Quill 的行业偏好:用于选图表与措辞,不用于推断客户经营状况。
export type IndustryPreference = {
  readonly industry: string;
  readonly preferredChart: string;
  readonly preferredTone: string;
};

export const QUILL_PREFERENCE: IndustryPreference = {
  industry: "manufacturing",
  preferredChart: "waterfall",
  preferredTone: "plain",
};

export type DraftStyle = {
  readonly chart: string;
  readonly tone: string;
};

export function applyPreference(
  base: DraftStyle,
  preference: IndustryPreference | null,
): DraftStyle {
  if (!preference) return base;
  return { chart: preference.preferredChart, tone: preference.preferredTone };
}

// 可见性换信任:每条个性化都要能回答「依据是什么、存在哪里、怎么关掉」。
export type VisibleBasis = {
  readonly basis: string;
  readonly storedAt: string;
  readonly canDisable: boolean;
};

export function explainBasis(preference: IndustryPreference): VisibleBasis {
  return {
    basis: `行业模板:${preference.industry}`,
    storedAt: "客户档案的行业字段",
    canDisable: true,
  };
}

export function isTrustworthy(basis: VisibleBasis): boolean {
  return basis.basis.length > 0 && basis.storedAt.length > 0 && basis.canDisable;
}

judge 的顺序体现优先级:敏感内容直接越界,产品外渠道直接越界,个人信息跨上下文也直接越界;剩下的组合才进入 watch 或 fine。这个顺序不是法律判断,而是产品默认值:宁可把边界画得保守一点,也不要让用户第一次发现时已经越界很久。

explainVerdict 把判断翻译成一句人话,产品可以直接用在设置页或帮助文档里。用户不需要理解「三维信号」,只需要知道「这条个性化为什么被收敛」。

explainBasis 和 isTrustworthy 把可见性做成结构:依据、存储位置、能否关闭。三者缺一,这条个性化就不应该上线。模型很小,但它把「用可见性换信任」这句话变成了可以检查的条件。

个性化上线前的检查

上线前可以用下面五个问题自查:

  1. 这条个性化用在哪一个任务步骤?说不出步骤,就不该用。
  2. 它的依据是什么?说不出依据,就不该记。
  3. 用户在哪里能看到它?看不到,就不该悄悄用。
  4. 用户怎么关掉它?关不掉,就不该默认开启。
  5. 如果它错了,最坏后果是什么?后果不可逆,就应该降级为提示。

五个问题都过,个性化才算合格。只过前两个,用户会觉得被监视;只过后两个,产品可能根本没有个性化。

还要注意「个性化」和「自动化」的区别。个性化是让输出更贴合用户,自动化是让系统替用户做决定。两者经常一起出现,但风险不同。B 的行业偏好是个性化,C 的自动改价是自动化;前者错了可以改稿,后者错了可能已经影响客户。

小结

  • 越界感来自频次、渠道、内容三个维度的组合,不是某一条信息本身。
  • 频次看「谁发起」,渠道看「上下文是否连续」,内容看「与任务是否相关」。
  • B Quill 的行业偏好应该停在选图表、选措辞,不能用来推断经营状况或给客户贴标签。
  • 越界信号分三类:主动反复提起、跨上下文使用、使用无关或敏感信息。
  • 可见性包含依据、范围、开关三层,开关是最重要的一层。
  • 三条产品规则:只在相关上下文用、主动使用要有可见理由、用户否认后立即停止。
  • 执行档的个性化要更保守,因为错误可能不可逆,而审计覆盖不了全部。
  • 个性化减少重复劳动,不负责向用户证明「我懂你」。

阅读导航:上一节:9.1 用户期待它记得什么 · 下一节:9.3 忘记的权利:删除与重置 。

常见错误与边界

  1. 把「记得」当成「可以随时说」。 用户问起时使用是按需,主动反复提起是压力;频次越界最常见的来源就是把记忆当成谈资。
  2. 把跨场景使用当能力宣传。 技术上能跨不等于产品上该跨;跨上下文使用必须有可见依据和关闭入口。
  3. 用个性化推断经营状况。 行业偏好只能影响呈现方式,不能用来推断客户的重点、预算或风险。
  4. 在输出里点明「因为你是某类客户」。 这会让客户感到被分类,而不是被服务;个性化应该体现在结果里,不是标签里。
  5. 只做个性化,不做可见性。 用户看不到依据、范围、开关,再准的个性化也会被当成监视。
  6. 执行档照搬建议档的个性化。 C 的个性化错误可能不可逆,标准应该比 A、B 更保守。

这一节讲的是「怎么用」。下一节处理个性化的最后一步:当用户想彻底忘掉时,产品能不能真的做到。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图