《AI Agent 产品开发·交互、信任与上线》4.2 审批疲劳与摩擦设计

审批疲劳不是用户懒,而是审批密度超过了人的判断能力。本节给出审批密度的量化方法,说明「同意率 99%」为什么是危险信号,用 C Runner 的 8% 抽检、12 分钟复核算出 0.96 分钟与 6,336 美元的审计成本,并给出限额、抽样、事后审计三种替代审批的方案。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

审批点设对了位置,不代表审批还能起作用。一个每天要按任务签 600 次的审批,和一个每月只签 1 次的审批,对审批人的要求完全不同。前者很快会训练出「看到弹窗就点同意」的条件反射,后者才有空间让人真正读一遍依据。

这一节的核心判断是:过多审批会训练用户无脑点同意,等于没有审批。审批疲劳不是用户态度问题,而是产品把判断成本压到了人无法承受的密度。解决方向不是提醒用户「请认真审批」,而是减少审批、改变审批形式,或者把审批换成事后审计。

审批密度怎么量

审批密度不能只数「一天弹几次窗」,要把三个量放在一起:

量含义三案例对照
审批点/动作类型哪些动作需要停下来A 0/1,B 1/2,C 3/5
单次决策成本每次审批要读多少信息、做多少判断B 约 96 分钟审改,C 单次复核 12 分钟
审批次数/任务量每个任务平均触发几次审批A 0,B 1,C 按风险分层

只看第一行,C 的 3/5 看起来最密;只看第二行,B 的 96 分钟最重;只看第三行,C 的 13,200 个任务最容易堆出高频审批。三个量必须一起看,才能判断审批是「有信息量的决策」还是「机械点击」。

B 的审批密度是 1/2,但它的一次审批是 96 分钟的实质审改,不是点一下同意。B 的 63% 一次采纳、28% 小改、9% 返工,说明审批人确实在读、在改、在拒绝。这种审批不疲劳,因为每次决策都有足够的信息量和时间。

A 没有独立审批点,但它的采纳确认平均 32 秒,78% 采纳、22% 修改。32 秒不是疲劳信号,因为 22% 的修改证明人在判断;如果采纳率变成 99%、确认时间仍然是 32 秒,那才是疲劳。

C 的 3 个审批点按动作类型分层,正常情况下大部分任务只触发一次检查,只有改价、下架、发通知才进入审批。如果 C 按任务逐个审批,每天 600 个任务就是 600 次点击,审批很快会失效。

同意率 99% 为什么危险

99% 的同意率有两种解释:一种是 Agent 真的做得好,另一种是审批人根本没看。区分两者要看三个信号:

  1. 决策时长。 如果中位决策时间稳定低于阅读依据所需的时间,说明审批人没有读。A 的采纳确认平均 32 秒,是在有 22% 修改的前提下成立的;99% 同意加 32 秒以内,意味着几乎没有修改,审批失去了信息量。
  2. 拒绝记录。 连续多周没有任何拒绝、退回或修改,不是质量稳定的证明,而是审批没有产生判断。健康的审批一定会有少量拒绝,因为边界案例总会出现。
  3. 修改分布。 如果所有修改都集中在同一两个字段,其他字段从未被质疑,说明审批人只看了自己熟悉的部分,其余部分是形式通过。

99% 同意率的危险不在于数字本身,而在于它让团队误以为「审批有效」。真正的信号是:审批是否改变了结果。A 的 22% 修改率、B 的 9% 返工率,都是审批在起作用的证据;一个从不改变结果的审批,只是流程里的一个点击。

三种替代审批的方案

当审批密度超过判断能力时,不要靠提醒用户「认真点」,而要把审批换成更合适的控制方式。

方案做法适用条件C 的成本
限额限额内自动执行,超限才审批动作可量化、可设上限低风险动作自动,超限转审批
抽样按比例抽检,未抽中不阻断动作可回滚、错误可事后发现8% × 12 分钟 = 0.96 分钟/任务
事后审计先执行,事后核对并补偿动作可补偿、延迟发现可接受0.96 分钟/任务,另加补偿成本

C 的审计抽检是 8%,单次复核 12 分钟,折合每任务 0.96 分钟。按月 13,200 个任务算,审计人工是 211.2 小时,成本 6,336 美元。这个数字已经包含在 C 的 4.04 分钟人工账里:0.96 分钟审计加 3.08 分钟转人工。

如果改成每个任务都审批,单次仍按 12 分钟算,审计这一项会变成 2,640 小时、79,200 美元。也就是说,逐单审批会把 C 的审计人工从 6,336 美元推高到 79,200 美元,是抽检方案的 12.5 倍。这个倍数不是精确预测,而是说明审批密度如何直接吃掉 Agent 的成本优势。

这个反事实不是要否定审批,而是提醒:审批的成本必须和它拦下的错误相称。如果审批拦下的错误价值低于审批本身的人工成本,就应该换控制方式,而不是继续加人。反过来说,如果某类错误一旦发生就无法补偿,那么再高的审批成本也是值得的。

判断标准可以写成一句话:审批的成本上限,由不可逆错误的期望损失决定,而不是由流程习惯决定。 这句话也解释了为什么 C 的改库存可以抽样,发通知却必须审批。

三种方案都有边界。限额要求动作可量化,抽样要求错误可事后发现,事后审计要求动作可补偿。发通知不可补偿,所以它不能抽样,也不能事后审计,只能保留审批。B 的发布不可逆,所以 B 的 1 个审批点不能换成抽样;它能优化的是审批界面的信息,而不是取消审批。

摩擦设计:让同意变难一点

审批疲劳的反面不是「增加摩擦」,而是「把摩擦放在正确的位置」。摩擦设计有三个层次:

摩擦层次做法适用场景风险
无摩擦默认同意,一键通过低风险、可回滚动作审批形式化
轻摩擦展示依据,需主动点击同意常规审批用户可能跳过依据
重摩擦需填写理由或二次确认不可逆、高代价动作用户寻找绕过路径

重摩擦不能滥用。发通知、发布报告这类不可逆动作值得重摩擦;改库存、低风险改价不值得。把所有审批都做成二次确认,用户会寻找批量通过、默认同意、委托他人等绕过路径,摩擦反而变成了流程漏洞。

摩擦的设计目标不是让用户慢,而是让用户在慢下来的几秒里看到关键信息:原值、新值、影响范围、触发规则。没有这些信息,再重的摩擦也只是多一次点击。

把疲劳信号写成模型

下面的模型把审批密度、审计成本与疲劳信号放在一起:前者算钱,后者判断审批是否还有信息量。

// file: src/trust/04-2-approval-fatigue.ts
// tier: L2
// verify: node --test test/trust/04-2-approval-fatigue.test.ts

// 审批疲劳:审批密度必须和单次决策成本一起看。
// C 的 8% 抽检、12 分钟复核、30 美元/小时均来自事实表。

import { HOUR_CENTS, RUNNER } from "../cases.ts";
import { applyRate } from "../core/rate.ts";
import { format, mul } from "../core/money.ts";

// 8% × 12 分钟 = 0.96 分钟;用「百分之一分钟」做整数运算。
export const SAMPLE_BPS = 800;
export const REVIEW_CENTI_MINUTES = 1200;

// A 的采纳确认平均 32 秒;低于这个锚点且同意率极高,视为无脑点同意。
export const CONFIRMATION_ANCHOR_SECONDS = 32;

export const CENTS_PER_MINUTE = HOUR_CENTS / 60;

export function sampledReviewMinutes(): number {
  return applyRate(REVIEW_CENTI_MINUTES, SAMPLE_BPS) / 100;
}

export function auditCentsPerTask(minutes: number): number {
  return Math.round(minutes * CENTS_PER_MINUTE);
}

export function monthlyAuditCents(tasks: number, minutes: number): number {
  return mul(auditCentsPerTask(minutes), tasks);
}

export function approvalHours(tasks: number, reviewMinutes: number): number {
  return (tasks * reviewMinutes) / 60;
}

export function approvalCostCents(
  tasks: number,
  reviewMinutes: number,
): number {
  return Math.round(approvalHours(tasks, reviewMinutes) * HOUR_CENTS);
}

export type FatigueReading = {
  readonly agreementRate: number;
  readonly medianSeconds: number;
  readonly suspect: boolean;
  readonly reason: string;
};

export function fatigueSignal(
  decisions: number,
  approvals: number,
  medianSeconds: number,
): FatigueReading {
  if (decisions <= 0) {
    return {
      agreementRate: 0,
      medianSeconds,
      suspect: false,
      reason: "没有审批记录",
    };
  }
  const agreementRate = approvals / decisions;
  const suspect =
    agreementRate >= 0.99 &&
    medianSeconds <= CONFIRMATION_ANCHOR_SECONDS;
  return {
    agreementRate,
    medianSeconds,
    suspect,
    reason: suspect ? "同意率过高且决策过快" : "未触发疲劳信号",
  };
}

export type AlternativeKind = "quota" | "sampling" | "post-audit";

export type Alternative = {
  readonly kind: AlternativeKind;
  readonly minutesPerTask: number;
  readonly note: string;
};

export function alternative(kind: AlternativeKind): Alternative {
  if (kind === "quota") {
    return {
      kind,
      minutesPerTask: 0,
      note: "限额内自动执行,超限才审批",
    };
  }
  if (kind === "sampling") {
    return {
      kind,
      minutesPerTask: sampledReviewMinutes(),
      note: "按比例抽检,未抽中不阻断",
    };
  }
  return {
    kind,
    minutesPerTask: sampledReviewMinutes(),
    note: "事后审计,发现问题再补偿",
  };
}

export const C_APPROVAL_TAX: {
  readonly sampleMinutes: number;
  readonly monthlyMinutes: number;
  readonly monthlyCost: string;
} = {
  sampleMinutes: sampledReviewMinutes(),
  monthlyMinutes: RUNNER.monthlyTasks * sampledReviewMinutes(),
  monthlyCost: format(
    monthlyAuditCents(RUNNER.monthlyTasks, sampledReviewMinutes()),
  ),
};

sampledReviewMinutes 用 8% 乘 12 分钟得到 0.96 分钟;monthlyAuditCents 把 13,200 个任务乘回去,得到 633,600 美分,即 6,336 美元。approvalHours 与 approvalCostCents 算的是另一个反事实:如果每个任务都审批,人工会变成 2,640 小时、79,200 美元。

fatigueSignal 用两个条件判断疲劳:同意率达到 99%,且中位决策时间不超过 32 秒。两个条件同时成立时,审批人既没有拒绝,也没有花时间读,审批已经退化成点击。alternative 则把限额、抽样、事后审计折算成每任务分钟数,方便和审批方案直接比较。

审批疲劳的检查清单

  • 同时记录审批点密度、单次决策成本、每任务审批次数,不能只看其中一个。
  • 监控同意率、决策时长、拒绝记录与修改分布,识别形式化审批。
  • 对可回滚动作优先用限额或抽样,不逐单审批。
  • 对可补偿动作可以用事后审计,但要单独预算补偿成本。
  • 不可逆动作保留审批,不用抽样替代。
  • 摩擦只加在不可逆、高代价动作上,并展示判断所需信息。
  • 审批界面提供批量处理,但批量通过要有额外确认。
  • 把审批成本与不可逆错误的期望损失做比较,低价值错误不值得高成本审批。
  • 定期回看审批日志,确认审批仍在改变结果,而不是只留下同意记录。
  • 新审批点上线前先做小范围试用,观察同意率与决策时长是否立即失真。

小结

  • 审批疲劳是密度问题,不是态度问题;过多审批会训练用户无脑点同意。
  • 审批密度要同时看审批点/动作类型、单次决策成本、每任务审批次数。
  • A 的 32 秒确认不疲劳,因为 22% 的修改证明人在判断。
  • 同意率 99% 加决策时间过短,是审批形式化的危险信号。
  • C 的 8% 抽检、12 分钟复核,折合 0.96 分钟/任务、6,336 美元/月。
  • 逐单审批会把 C 的人工推到 2,640 小时、79,200 美元,是审计方案的 12.5 倍。
  • 限额、抽样、事后审计各有适用条件,不可逆动作只能保留审批。
  • 摩擦要加在不可逆、高代价动作上,并展示原值、新值、影响范围与触发规则。

阅读导航:上一节:4.1 什么时候停下来问 · 下一节:4.3 授权与转授权 。

常见错误与边界

  1. 把审批次数当成控制力度。 审批越多不等于控制越强,超过判断能力后审批会退化成点击。
  2. 只看同意率。 99% 同意可能是质量好,也可能是没人看;要结合决策时长、拒绝记录与修改分布。
  3. 对不可逆动作做抽样。 发通知、发布报告无法事后撤回,抽样会让小概率错误直接变成客户事故。
  4. 把摩擦当成解决方案。 只加二次确认、不给判断信息,用户会寻找批量通过或委托绕过。
  5. 忽略补偿成本。 事后审计省下的是审批时间,不是补偿成本;补偿要单列预算。
  6. 用平均值掩盖低频事件。 补偿和不可回滚错误是低频高成本事件,摊进日常人工会让预算失真。

下一节处理审批的授权关系:审批人不在时谁能替,替到多大额度,替多久,以及转授权为什么必须留痕。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图