《AI Agent 产品开发·任务定义与能力边界》6.1 建议、草稿、审批、执行四档

自主度不是能力等级,而是责任分配。本节把建议、草稿、审批、执行四档拆成谁提出、谁决定、谁执行、谁兜底,给出每档用户可见的界面差异,用 A Relay、B Quill、C Runner 各占一档做对照,并用一个判定函数说明同一任务换档后产品形态如何改变。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

上一节把输出契约写成了可消费的结构,回答的是「交付物长什么样」。这一节往前一步,回答「这件事由谁承担到哪一步」。很多团队把自主度当成能力等级:模型越强,档位越高,仿佛四档是四级台阶,迟早要爬上去。这个理解会把产品带偏,因为四档之间变的不是模型能力,而是责任的位置。

建议、草稿、审批、执行四档,每档都在回答同一个问题:它承担到哪一步。是只给候选,还是产出可编辑的初稿;是等人批准后动系统,还是自己判断并执行、由人事后审计。档位越高,机器碰到的外部状态越靠后,人的介入越晚,但责任不会消失,只会换一种方式落在人身上。

四档分别承担到哪一步

先把四档拆成四个可回答的问题:谁提出、谁决定、谁执行、人还要做什么。四档的定义必须能落到这四个位置上,否则「我们用了审批档」就只是一句口号。

档位谁提出谁决定谁执行人还要做什么
建议机器人人逐条判断是否采纳
草稿机器人人审改、核查、发布
审批机器人机器批准备案、处理例外
执行机器机器机器事后审计、兜底

建议档的机器只负责生成候选。它可以说「这单应该进账单队列、优先级 P2、用模板 7」,但点确认的是人,执行动作的也是人。机器承担的是「想」,人承担的是「定」和「做」。

草稿档的机器负责生成一份可编辑的初稿。人不是在几个选项里选一个,而是在原文上改。改完由人发布,所以机器承担的是「写」,人承担的是「改」和「发」。草稿档的关键不是输出更长,而是输出必须可编辑、可追源。

审批档的机器提出一个具体动作,人批准后由机器执行。这里发生了一次责任切换:人不再亲手做,而是为「允许机器做」负责。审批档的产品必须把动作的对象、前后值、回滚方式写在批准界面上,否则人批的不是一个动作,而是一个盲盒。

执行档的机器自己判断、自己执行,人退到事后审计。人不再逐单确认,但仍要抽样检查、处理异常、在事故发生时兜底。执行档不是「人不管了」,而是「人从操作者变成审计者和责任人」。

用户看到的差别

同一套模型能力,换一档之后用户看到的界面可以完全不同。用户不会读产品文档里的档位定义,他们只通过界面理解自己要承担什么。下面这张表是四档最直接的产品差异。

档位用户看到用户的主要动作出错时的第一反应
建议一条带依据的建议卡片点采纳、改选、忽略我怎么判断错了
草稿一份可编辑的初稿逐段改、核查、发布我审的时候为什么没看出来
审批一个待批动作,含前后值批准、驳回、要求重算我批的时候依据够不够
执行一条执行回执,含影响范围抽查、撤回、升级它做了什么,能不能撤

这四行的差别不是文案,而是交互结构。建议档必须让「依据」和「采纳按钮」同时可见,因为人要在几十秒内做判断;草稿档必须让「原文」和「来源」同时可见,因为人要在原文上改;审批档必须让「动作」和「回滚」同时可见,因为人批的是副作用;执行档必须让「回执」和「审计入口」同时可见,因为人只能在事后追。

如果界面结构和档位不匹配,用户会按错误的预期使用产品。一个执行档的产品如果只给一句「已完成」,用户无法审计;一个建议档的产品如果直接改了系统,用户会以为自己在用执行档,直到出错才发现没有人确认过。

同一件任务换一档会变成什么

拿 A Relay(Northwind 的客服工单分诊 Agent)的分诊任务做例子。任务本身不变:读一张新工单,给出队列、优先级和首响模板。换一档,产品形态就换一次。

档位同一个分诊任务的样子人的工作量机器碰系统吗
建议建议卡片,人点确认后才写入每单确认 0.75 分钟,机器耗时 0.30 分钟不计入人工不碰
草稿一份分诊说明,人改完再自己路由审改时间取决于草稿质量,需要另行测量不碰
审批一个「写入队列与优先级」的待批动作每单批准,批准时间取决于动作的可读性批准后碰
执行机器直接写入,人按比例抽检人工变成审计摊销,需要另设抽检比例直接碰

A 实际选的是建议档。事实表里,它每单人工 0.75 分钟,模型 0.30 分钟,合计人机 1.05 分钟;月工单 26,400 单,人工从 1,540 小时降到 330 小时,月省 34,651.2 美元,节省率 75.0%。这些数字只在建议档成立,不能直接搬到另外三档。换档之后,人的动作变了,时间账必须重算。

这也是四档最容易被忽略的地方:档位不是给同一个时间账换一个标签,而是换一套责任结构。建议档的 0.75 分钟是「确认」;草稿档的时间是「审改」;审批档的时间是「批准」;执行档的时间是「审计摊销」。四种动作的时长、误差和失败方式都不同,不能用一个系数互相换算。

三个案例各占一档

三个案例刚好覆盖建议、草稿、执行三档,审批档是空位。这不是案例设计漏了一档,而是审批档最难落地:它要求人既不亲手做,又要为机器的动作负责。

案例档位机器承担人承担为什么停在这里
A Relay建议生成队列、优先级、模板候选逐单确认并执行分诊错误影响客户体验与 SLA 承诺
B Quill草稿生成 12–20 页报告初稿审改、事实核查、发布产出需人加工,审改不可压缩
C Runner执行判断、改价格或库存、发通知8% 抽检、转人工兜底动作可回滚,审计有效

A 停在建议档,不是因为模型做不到直接写队列,而是因为团队坚持人在决策链上。B 停在草稿档,不是因为模型写不出报告,而是因为报告要由顾问署名,审改本身就是责任的一部分。C 走到执行档,不是因为模型更聪明,而是因为它把动作限制在可回滚范围内,并且建立了审计和转人工通道。

审批档的空位值得单独说。审批档的产品形态是「机器提出动作,人点批准,机器执行」,它适合那些动作本身可枚举、可预览、可回滚,但错误代价又不低的任务。它最难的地方不在技术,而在界面:人必须在几秒内看懂「要改什么、从什么改成什么、改错了怎么撤」。如果这个界面做不出来,审批档就会退化成两种东西:要么人闭眼点批准,等于执行档但没有审计;要么人逐个追问,等于建议档但多了一次点击。

用代码把档位判出来

四档的定义如果只写在文章里,评审时仍然会变成各说各话。下面这个模型把「谁提出、谁决定、谁执行、交付什么」做成判定函数。它不是让代码替产品做决定,而是让档位这个词有一个可复算的口径。

// file: src/handoff/06-1-four-levels.ts
// tier: L2
// verify: node --test test/handoff/06-1-four-levels.test.ts

// 四档不是能力等级,而是责任分配:谁提出、谁决定、谁执行、谁兜底。
// 同一件事换一档,用户看到的东西和出错后的处理方式都会变。

import { CASES, type Autonomy } from "../cases.ts";

export type LevelSpec = {
  readonly level: Autonomy;
  readonly label: string;
  readonly proposer: "machine" | "human";
  readonly decider: "machine" | "human";
  readonly executor: "machine" | "human";
  readonly userSees: string;
  readonly machineBears: string;
  readonly humanBears: string;
};

export const LEVEL_ORDER: readonly Autonomy[] = [
  "advise",
  "draft",
  "approve",
  "execute",
];

export const LEVEL_SPEC: Record<Autonomy, LevelSpec> = {
  advise: {
    level: "advise",
    label: "建议",
    proposer: "machine",
    decider: "human",
    executor: "human",
    userSees: "一条建议卡片,带队列、优先级和模板号,等人点确认",
    machineBears: "生成候选与依据",
    humanBears: "判断、决定、执行",
  },
  draft: {
    level: "draft",
    label: "草稿",
    proposer: "machine",
    decider: "human",
    executor: "human",
    userSees: "一份可编辑的初稿,人在原文上改,改完自己发布",
    machineBears: "生成初稿与来源标注",
    humanBears: "审改、事实核查、发布",
  },
  approve: {
    level: "approve",
    label: "审批",
    proposer: "machine",
    decider: "human",
    executor: "machine",
    userSees: "一个待批动作,写明对象、前后值和回滚方式,人点批准",
    machineBears: "执行已批准的动作",
    humanBears: "审批与例外处理",
  },
  execute: {
    level: "execute",
    label: "执行",
    proposer: "machine",
    decider: "machine",
    executor: "machine",
    userSees: "一条执行回执,写明做了什么、影响范围、怎么撤回",
    machineBears: "判断、执行、留痕",
    humanBears: "事后审计与兜底",
  },
};

export type OutputForm = "answer" | "draft" | "action";

export type LevelInput = {
  readonly proposer: "machine" | "human";
  readonly decider: "machine" | "human";
  readonly executor: "machine" | "human";
  readonly output: OutputForm;
};

// 从「谁提出、谁决定、谁执行、交付什么」反推档位。
// 建议与草稿的区别不在决定权,而在交付物是答案还是可编辑草稿。
export function classifyLevel(input: LevelInput): Autonomy | null {
  if (input.proposer !== "machine") return null;
  if (input.decider === "human" && input.executor === "human") {
    if (input.output === "answer") return "advise";
    if (input.output === "draft") return "draft";
    return null;
  }
  if (input.decider === "human" && input.executor === "machine") {
    return input.output === "action" ? "approve" : null;
  }
  if (input.decider === "machine" && input.executor === "machine") {
    return input.output === "action" ? "execute" : null;
  }
  return null;
}

// 同一件事换一档,变的是人点几次、机器碰不碰外部状态、失败后怎么撤回。
export type LevelDiff = {
  readonly level: Autonomy;
  readonly humanClicks: string;
  readonly machineTouchesSystem: boolean;
  readonly rollbackNeed: "none" | "edit" | "before-commit" | "after-commit";
};

export const LEVEL_DIFF: Record<Autonomy, LevelDiff> = {
  advise: {
    level: "advise",
    humanClicks: "每个任务一次确认",
    machineTouchesSystem: false,
    rollbackNeed: "none",
  },
  draft: {
    level: "draft",
    humanClicks: "每份草稿一次审改",
    machineTouchesSystem: false,
    rollbackNeed: "edit",
  },
  approve: {
    level: "approve",
    humanClicks: "每个动作一次批准",
    machineTouchesSystem: true,
    rollbackNeed: "before-commit",
  },
  execute: {
    level: "execute",
    humanClicks: "抽样审计,不逐单确认",
    machineTouchesSystem: true,
    rollbackNeed: "after-commit",
  },
};

// 三个案例各占一档:A 建议、B 草稿、C 执行。审批档在案例里是空位。
export const CASE_LEVEL: Record<"A" | "B" | "C", Autonomy> = {
  A: "advise",
  B: "draft",
  C: "execute",
};

export function levelsCovered(): readonly Autonomy[] {
  return LEVEL_ORDER.filter((level) =>
    CASES.some((profile) => profile.autonomy === level),
  );
}

export function missingRungs(): readonly Autonomy[] {
  const covered = new Set(levelsCovered());
  return LEVEL_ORDER.filter((level) => !covered.has(level));
}

// 档位越高,机器碰到的东西越靠后;但责任不会因此消失,只会换人承担。
export function accountabilityAt(level: Autonomy): string {
  return LEVEL_SPEC[level].humanBears;
}

classifyLevel 的判定顺序是固定的。先看提出者是不是机器:如果提出者是人,那它根本不是 Agent 档位问题,而是人工流程。再看决定者和执行者:两个都是人时,用交付形态区分建议与草稿;决定者是人、执行者是机器时,只有交付动作才是审批档;决定者和执行者都是机器时,只有交付动作才是执行档。

这个函数有一个刻意的限制:它不接收「模型能力」参数。档位不是由模型分数决定的,而是由责任位置决定的。一个更强的模型不会自动把建议档变成执行档;它只会让建议更准、草稿更少改、审批界面更可信。要不要换档,仍然是产品和组织要回答的问题。

LEVEL_DIFF 记录了换档时真正变化的东西:人点几次、机器碰不碰外部状态、回滚发生在提交前还是提交后。这四项比「自主度高不高」更能指导设计。比如从建议档到审批档,回滚点从「不需要」变成「提交前」,产品就必须增加动作预览和撤销窗口;从审批档到执行档,回滚点变成「提交后」,产品就必须增加审计日志和批量撤回。

换档之前先补什么

把产品从低档往高档推,不是改一个配置项。每升一档,至少要补齐四样东西,否则升上去的是风险,不是效率。

  1. 权限面。 机器从只读变成可写,必须先列出它能碰哪些表、哪些字段、哪些动作。C Runner 的动作类型是只读检查、改价格、改库存、下架、发通知,每一类都要单独授权。
  2. 回滚方案。 建议档不需要回滚,草稿档回滚是「改回去」,审批档回滚是「提交前撤销」,执行档回滚是「提交后补偿」。四种回滚的成本不同,不能共用一套说辞。
  3. 审计信号。 执行档必须能回答「它做了什么、依据是什么、能不能撤」。C 的错误中 86% 可回滚,不可回滚错误率 0.238%,这两个数字是它能进入执行档的前提,不是结果。
  4. 例外通道。 每档都要有一条人接管的路。执行档的例外通道尤其重要,因为人不再逐单看,异常必须能主动浮上来。
  5. 组织接受度。 技术上能升档,不等于组织愿意接受。A 的分数够审批档,但团队选择建议档,理由是分诊错误会影响客户体验与 SLA 承诺。这条线在第 6.3 节展开。
  6. 退出路径。 升档之后如果指标不达标,能不能退回上一档。不能退的升档不是试验,是赌博。

这六项里,最容易被跳过的是第五项。产品团队通常会把「组织接受度」当成软因素,觉得上线后自然会适应。但档位改变的是谁承担后果,后果一旦落到具体的人身上,接受度就不是软因素,而是硬约束。

小结

  • 四档不是能力等级,而是责任分配:建议、草稿、审批、执行,每档回答「它承担到哪一步」。
  • 建议档机器只提出,草稿档机器生成可编辑初稿,审批档机器执行人批准的动作,执行档机器判断并执行、人事后审计。
  • 四档的用户可见差异在交互结构:建议看依据,草稿看原文与来源,审批看动作与回滚,执行看回执与审计入口。
  • 同一件任务换一档,人的动作从确认变成审改、批准、审计摊销,时间账必须重算,不能换标签。
  • A Relay 占建议档,B Quill 占草稿档,C Runner 占执行档;审批档是空位,因为它要求人既不亲手做又要为动作负责。
  • 换档之前先补权限面、回滚方案、审计信号、例外通道、组织接受度和退出路径,六项缺一不可。
  • 模型变强不会自动升档;档位由责任位置决定,不由模型分数决定。

阅读导航:上一节:5.3 输出契约与可消费性 · 下一节:6.2 定档判据:错误代价、可回滚性与审计有效性 。

常见错误与边界

  1. 把四档当成四级台阶。 档位越高不等于产品越好;建议档的 A 月省 34,651.2 美元,执行档的 C 月省 87,585.6 美元,但两者的任务量、基线和风险完全不同,不能直接比高低。
  2. 把审批档当成执行档的过渡形态。 审批档要求人看懂动作、为动作负责;如果界面只给一个「批准」按钮,人实际上没有审批能力,产品已经是执行档但没有审计。
  3. 用模型能力解释档位。 更强的模型不会自动获得写权限;档位由谁决定、谁执行、谁兜底决定,不由模型分数决定。
  4. 换档不换时间账。 建议档的 0.75 分钟是确认,草稿档是审改,审批档是批准,执行档是审计摊销;四者不能用一个系数换算。
  5. 跳过组织接受度。 A 的分数够审批档,实际选建议档;如果忽略这条线,产品会在上线后被一线团队用脚投票。
  6. 升档没有退出路径。 不能退回上一档的升档不是试验;一旦指标不达标,团队只能硬撑或停用,两者都比回退贵。

这一节回答了「四档分别承担到哪一步」。下一节要把「为什么停在这一档」写成可打分的判据:错误代价、可回滚性、审计有效性和时延容忍。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图