《AI Agent 产品开发·交互、信任与上线》9.2 谁能看见谁的操作

多人共用 Agent 后,「谁能看见谁的操作」不能靠默认全透明解决。本节给出一张角色与对象的可见性矩阵,区分完整、摘要、掩码、不可见四级,用 C Runner 的审计场景说明审计员能看什么、客户字段为什么必须掩码,并给出可运行的权限模型与上线检查清单。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

共享上下文解决的是「记在谁名下」,接下来要解决「给谁看」。一个 Agent 接入团队之后,操作记录会同时属于很多人:执行者想知道自己做了什么,组长想知道组里发生了什么,审计想知道有没有越界,管理者想知道整体风险。把所有这些需求都指向同一个「全透明」界面,是最省事也最危险的做法。

这一节给出一张角色与对象的可见性矩阵,解释为什么全透明不可行,并用 C Runner 的审计场景说明「看见」和「看懂」之间的差别。

可见性不是开关,是矩阵

把可见性做成一个「开/关」的开关,产品很快会陷入两难:开,所有人看到所有东西;关,谁都看不到,出了问题也无法追。真实需求是中间地带:不同角色对不同对象,应该看到不同程度。

先定义四种程度:

级别含义典型用途
完整看到原始内容与全部字段本人操作、审计记录
摘要看到结论、状态与数量,不看到明细组长看组内动态
掩码看到结构,敏感字段被替换客户联系方式、证件号
不可见完全看不到入口与内容一线看他人审计记录

再定义角色与对象。角色不需要按组织架构画得很细,先覆盖四类就够:一线执行者、组长、审计员、管理员。对象也不需要穷举,先覆盖四类:自己的操作、同事的操作、审计记录、客户字段。

两两组合,就得到一张 4×4 的矩阵:

角色 \ 对象自己的操作同事的操作审计记录客户字段
一线执行者完整摘要不可见掩码
组长完整完整摘要掩码
审计员完整完整完整掩码
管理员完整摘要摘要掩码

这张矩阵有两个刻意设计。第一,没有任何角色对客户字段是「完整」;第二,管理员对审计记录只有摘要,审计员才有完整权限。前者保护客户,后者保护审计的独立性。

为什么「全透明」不可行

全透明的诱惑在于「公平」:既然大家都在一个团队,为什么不能互相看?但全透明会同时破坏四件事。

第一,它会制造表演。 当每个人知道自己的每一步都被同事看到,行为会向「看起来正确」倾斜,而不是向「实际有效」倾斜。Agent 的操作记录尤其容易变成表演材料:坐席会倾向于采纳看起来更规整的建议,而不是更适合客户的建议。

第二,它会诱发窥探。 同事的操作里包含客户的原始描述、个人的处理习惯、甚至临时写下的判断。这些信息对完成工作未必必要,但对好奇心的满足很充分。可见性一旦超过工作需要,就会从协作工具变成观察工具。

第三,它会稀释责任。 当所有人都能看到所有操作,出了问题很容易变成「大家都看到了,但没人负责」。可见性应该跟着责任走:谁对结果负责,谁需要看到足够判断的细节;无关的人看到越多,责任越模糊。

第四,它会放大一次泄露的后果。 全透明意味着任何一个账号被盗、任何一次误分享,都会暴露整个团队的操作历史。分层可见性不是不信任同事,而是给事故设置一个更小的爆炸半径。

全透明还有一个隐性成本:它会让记录本身失真。当执行者知道审计记录会被人事或管理者直接看到,他们会减少在记录里写真实判断,转而写「安全的话」。审计记录一旦变成对外表演,就失去了事后判断的价值。

C Runner 的审计场景

C Runner 是 Kettle 的电商运营任务执行 Agent,月任务量 13,200 个,运营团队 24 人。它自动处理上下架检查、价格异常和库存跟进,动作包括改价、改库存、下架和发通知。

C 的自主档是执行,所以审计不是可选项。它按 8% 抽检,单次复核 12 分钟,摊到每个任务是 0.96 分钟;月人工小时 211.2 小时,月人工成本 6,336 美元。审计发现错误率 1.7%,其中 86% 可回滚,14% 是不可回滚的已发出通知类动作。

在这个场景里,审计员需要看到什么?他需要看到每个动作的规则依据、执行时的数据快照、以及动作前后的状态差异。没有这些,他无法判断一个改价是「规则正确执行」还是「规则本身错了」。所以审计员对审计记录和同事操作都应该是完整可见。

但审计员不需要看到客户的完整联系方式。判断改价是否正确,看的是价格、库存、规则版本和快照,不是客户的手机号。客户字段对审计员也应该是掩码,这不是不信任审计员,而是最小必要原则:能完成判断的最小信息集,就是应该给的信息集。

一线执行者则是另一种情况。他需要看到自己的操作完整记录,方便复盘;需要看到同事操作的摘要,知道组里在做什么、有没有重叠;但不需要看到他人的审计记录。审计记录里包含对错误的判定,过早暴露会让执行者把注意力放在「不被记错」而不是「做对」。

组长介于两者之间:同事操作完整可见,审计记录只看摘要。组长需要知道谁做了什么,但不需要替代审计员做逐条判定;他需要的是趋势和异常,而不是原始证据。

管理员只拿摘要,是刻意的职责分离。管理员掌握权限和配置,如果同时掌握完整审计记录,就具备了「既改规则又改证据」的能力。把两者分开,是为了让审计记录在被质疑时仍然可信。

可见性的三条设计原则

原则一:可见性跟着责任走,不跟着职级走。 职位高不等于需要看到全部;谁对某类结果负责,谁才需要对应的细节。管理员看不到完整审计记录,不是降权,而是避免责任冲突。

原则二:默认最小必要,扩大要显式。 新角色默认只有完成工作所需的最小可见性;需要更多,走显式申请或配置。默认全开再往回收,几乎一定会漏掉某个入口。

原则三:敏感字段永远掩码,除非有单独的授权路径。 客户字段、个人联系方式、支付信息,不应该因为「这个角色级别高」就明文展示。需要明文时,应该是单次、可审计、有理由的授权,而不是角色的默认能力。

三条原则落到产品上,就是一张矩阵加一套授权流程。矩阵决定常态,授权流程处理例外;没有例外流程,矩阵会被绕过;没有矩阵,例外会变成常态。

矩阵之外:还要记录「谁看过」

可见性矩阵回答「能不能看」,审计还要回答「谁看过」。尤其是在客户字段、完整操作记录这类敏感对象上,查看行为本身也应该留下记录。

这不是要给每个人装监控,而是为了在出现泄露时能定位范围:是某个账号被滥用,还是某个界面对所有人开放了入口。查看日志不需要展示给所有人,但必须在事故调查时可导出、可核对。

查看日志的最小字段包括:谁、在什么时间、看了哪个对象、通过哪个入口、看了多久。字段不多,但缺一个就很难还原现场。

把矩阵写成可运行的模型

下面这个模型把 4×4 矩阵、掩码规则和 C Runner 的审计账写在一起。levelOf 回答「这个角色对这个对象能看到什么」,transparencyGaps 回答「谁看不到全部」,auditLoad 把抽检比例摊到每个任务。

// file: src/trust/09-2-role-visibility.ts
// tier: L2
// verify: node --test test/trust/09-2-role-visibility.test.ts

// 可见性不是一个开关,而是一张角色 × 对象的矩阵。
// 本节说明为什么没有角色应该看到全部,以及审计角色能看到什么。

import { RUNNER } from "../cases.ts";
import { applyRate, divide, type Bps } from "../core/rate.ts";

export type Role = "operator" | "lead" | "auditor" | "admin";
export type ObjectKind =
  | "own-action"
  | "mate-action"
  | "audit-record"
  | "customer-field";
export type Level = "full" | "summary" | "masked" | "none";

export const VISIBILITY: Record<Role, Record<ObjectKind, Level>> = {
  operator: {
    "own-action": "full",
    "mate-action": "summary",
    "audit-record": "none",
    "customer-field": "masked",
  },
  lead: {
    "own-action": "full",
    "mate-action": "full",
    "audit-record": "summary",
    "customer-field": "masked",
  },
  auditor: {
    "own-action": "full",
    "mate-action": "full",
    "audit-record": "full",
    "customer-field": "masked",
  },
  admin: {
    "own-action": "full",
    "mate-action": "summary",
    "audit-record": "summary",
    "customer-field": "masked",
  },
};

export function levelOf(role: Role, object: ObjectKind): Level {
  return VISIBILITY[role][object];
}

export function canSee(role: Role, object: ObjectKind): boolean {
  return levelOf(role, object) !== "none";
}

export function seesFull(role: Role, object: ObjectKind): boolean {
  return levelOf(role, object) === "full";
}

export type TransparencyGap = {
  readonly role: Role;
  readonly fullObjects: number;
  readonly missing: readonly ObjectKind[];
};

// 「全透明」不可行的结构性原因:客户字段对任何角色都不应明文可见。
export function transparencyGaps(): readonly TransparencyGap[] {
  const roles: readonly Role[] = ["operator", "lead", "auditor", "admin"];
  const objects: readonly ObjectKind[] = [
    "own-action",
    "mate-action",
    "audit-record",
    "customer-field",
  ];
  return roles.map((role) => {
    const missing = objects.filter((object) => !seesFull(role, object));
    return {
      role,
      fullObjects: objects.length - missing.length,
      missing,
    };
  });
}

export function noRoleSeesEverything(): boolean {
  return transparencyGaps().every((gap) => gap.missing.length > 0);
}

export function maskCustomerField(value: string): string {
  if (value.length <= 2) return "*".repeat(value.length);
  return value[0] + "*".repeat(value.length - 2) + value[value.length - 1];
}

export type AuditLoad = {
  readonly sampledTasks: number;
  readonly reviewMinutes: number;
  readonly humanHours: number;
  readonly perTaskMinutes: number;
};

// C Runner 的审计账:8% 抽检、单次 12 分钟,摊到每个任务是 0.96 分钟。
export function auditLoad(
  monthlyTasks: number,
  sampleBps: Bps,
  reviewMinutes: number,
): AuditLoad {
  const sampledTasks = applyRate(monthlyTasks, sampleBps);
  const totalMinutes = sampledTasks * reviewMinutes;
  return {
    sampledTasks,
    reviewMinutes: totalMinutes,
    humanHours: totalMinutes / 60,
    perTaskMinutes: (sampleBps / 10_000) * reviewMinutes,
  };
}

export const RUNNER_AUDIT = {
  monthlyTasks: RUNNER.monthlyTasks,
  sampleBps: 800,
  reviewMinutes: 12,
} as const;

export function auditCoverageBps(sampled: number, total: number): Bps {
  return divide(sampled, total);
}

// 审计员能看全量审计记录与同事动作,但客户字段仍然是掩码。
export function auditorPacket(): {
  readonly action: Level;
  readonly audit: Level;
  readonly customer: Level;
} {
  return {
    action: levelOf("auditor", "mate-action"),
    audit: levelOf("auditor", "audit-record"),
    customer: levelOf("auditor", "customer-field"),
  };
}

VISIBILITY 是整张矩阵的唯一来源。产品里的权限判断、界面渲染、导出接口都应该读同一张表,而不是各自写一套 if role === "auditor"。一张表的好处是评审时能一眼看完,坏处是改一处会影响所有入口,所以每次改动都要跑完整的权限用例。

transparencyGaps 不是用来证明「我们的权限很严」,而是用来检查「有没有角色意外看到了全部」。它返回每个角色缺失的完整对象;只要每个角色都至少缺一个,就说明没有角色是全透明的。当前矩阵里,四个角色都缺客户字段,审计员缺的恰好只有这一项。

maskCustomerField 把掩码规则写死:长度大于 2 时保留首尾,中间全部替换;长度不超过 2 时全部替换。规则很简单,但它把「客户字段永远不明文」从一句口号变成了一个函数。所有展示客户字段的界面都应该经过它,而不是各自决定怎么截断。

auditLoad 复算 C Runner 的审计账:13,200 个任务按 8% 抽检是 1,056 个,每个 12 分钟是 12,672 分钟,折合 211.2 小时,摊到每个任务是 0.96 分钟。这组数字说明审计不是「顺手看一眼」,而是一项需要排班的工作量。

auditorPacket 把审计员的可见性压成一个三字段对象:动作完整、审计完整、客户掩码。它是矩阵的一个切片,也是审计界面最小权限集的声明。

上线前的检查

  1. 每个角色是否都能说清「我需要看什么才能完成工作」?说不清,就先按最小必要给。
  2. 客户字段是否在所有界面都经过掩码?只要有一个界面明文展示,矩阵就形同虚设。
  3. 管理员是否能同时修改规则和查看完整审计记录?能,就缺少职责分离。
  4. 查看敏感对象的行为是否有日志?没有,事故发生后无法定位范围。
  5. 扩大可见性是否有显式流程?没有,矩阵会被临时需求一点点撑开。

五个问题里,第三和第四最容易被忽略。它们不影响日常使用,只影响出事之后能不能说清楚。可见性设计的好坏,往往不是在上线当天体现,而是在第一次事故调查时体现。

小结

  • 可见性是角色与对象的矩阵,不是开/关开关。
  • 四级程度:完整、摘要、掩码、不可见;四个角色、四类对象就足以覆盖多数团队。
  • 全透明会制造表演、诱发窥探、稀释责任、放大泄露后果,还会让记录本身失真。
  • C Runner 的审计员需要完整审计记录与同事操作,但客户字段仍然掩码。
  • 一线执行者看自己的完整记录、同事的摘要,不看他人审计记录;组长看同事完整、审计摘要。
  • 管理员对审计记录只有摘要,是为了避免「既改规则又改证据」。
  • 三条原则:可见性跟责任走、默认最小必要、敏感字段永远掩码。
  • 矩阵之外还要记录「谁看过」,查看日志是事故调查的最小抓手。

阅读导航:上一节:9.1 共享上下文与个人边界 · 下一节:9.3 冲突与覆盖 。

常见错误与边界

  1. 用职级代替责任决定可见性。 职位高不代表需要看全部,管理员看不到完整审计记录是职责分离,不是降权。
  2. 把客户字段的掩码做成前端截断。 前端截断只改变显示,数据仍然完整传到浏览器;掩码必须在数据出口完成。
  3. 审计员默认明文看客户信息。 判断动作是否正确不需要手机号,最小必要原则同样适用于审计角色。
  4. 只做矩阵,不做查看日志。 矩阵回答「能不能看」,日志回答「谁看过」;事故调查两者都需要。
  5. 给每个角色都开一个例外。 例外多了,矩阵就名存实亡;例外应该有统一入口、单次授权、可审计。
  6. 把全透明当成团队信任的证明。 信任来自责任清楚,不来自互相看见;全透明往往先破坏的是记录的真实性。

可见性解决的是「看」的边界。下一节处理更棘手的情况:两个人同时改同一个东西,或者人与 Agent 同时改,谁说了算。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图