《AI Agent 产品开发·交互、信任与上线》6.2 降级阶梯

本节回答 Agent 不可靠时如何按固定顺序收力:完整能力、受限能力、只读建议、人工接管四级,逐级给出触发条件与可见提示,说明为什么不能跳级、恢复为什么要逐级回爬,并用 C Runner 的模型超时走一遍完整降级路径、可运行状态机与通知预算。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

失败态处理的是「已经出错」。降级处理的是「还可能出错」:系统察觉能力不可靠,但还没到必须停摆的程度。这时最常见的两种做法都不好:一种是硬撑,继续按完整能力执行,把风险留给用户;另一种是一步到位停机,把可控的降级变成不可用的中断。

降级阶梯给出一条中间路径:完整能力 → 受限能力 → 只读建议 → 人工接管。顺序固定,一次只降一级,每一级都对用户可见。它的价值不是让系统显得优雅,而是让风险逐步收力,给用户留出反应时间。

四级降级与触发条件

级别能力范围触发条件用户看到什么
完整能力读取、判断、执行允许的动作无异常正常状态
受限能力暂停高风险动作,保留低风险执行模型超时、工具报错受限提示与暂停范围
只读建议只给建议,不执行任何动作重复超时、策略拦截、审计异常只读提示与建议列表
人工接管Agent 暂停,人继续任务回滚失败接管提示与交接信息

触发条件要写具体,不能写「系统不稳定时」。模型超时和工具报错是可观测事件,能自动触发;策略拦截和审计异常有明确来源;回滚失败是最严重的事件,直接进入人工接管。

四级不是四个开关,而是一条单调向下的路径。一旦降级,不能因为一次成功就自动跳回完整能力。恢复要按同样的阶梯逐级回爬,并且每一级都要有观察期。

为什么顺序不能跳

跳级看起来更安全:既然回滚失败,为什么还要经过只读建议,不直接人工接管?原因是跳级会跳过信息交接。只读建议这一级的作用不是继续干活,而是把「Agent 已经知道什么、建议人做什么」整理出来,交给接管的人。

如果从受限能力直接跳到人工接管,接管者拿到的是一句「系统已暂停」,不知道 Agent 之前判断了什么、哪些动作已经执行、哪些数据需要复核。他只能从头再来,降级省下的风险又变成了人工成本。

同理,从完整能力直接跳到只读建议,会跳过「暂停高风险动作」这一步。用户可能正在等一个低风险动作完成,系统却突然什么都不做,体验上像故障而不是降级。

跳级路径被跳过的信息后果
完整 → 只读建议高风险动作的暂停说明用户以为系统故障
受限 → 人工接管Agent 的判断与建议接管者从零开始
完整 → 人工接管中间两级的状态与建议交接信息全丢

顺序固定还有一个工程好处:每一级只需要定义「相对上一级少了什么」,不需要为所有跳转组合写状态。状态机小了,测试覆盖也容易做全。

降级必须对用户可见

降级最常见的失败是「悄悄降级」。系统检测到超时,自动从完整能力切到只读建议,界面没有任何提示。用户以为动作已经执行,实际上什么都没发生。等发现时,业务时点已经错过。

可见性至少包含三件事:

  1. 当前级别:用户知道现在处于哪一级;
  2. 降级原因:哪条触发条件生效,什么时候生效;
  3. 能力边界:这一级能做什么、不能做什么。

只显示一个黄色小点不算可见。用户不会去猜黄点的含义。提示要写清楚「高风险动作已暂停,低风险动作仍可执行」这类具体边界。

可见性还要考虑通知预算。C Runner 是小时级批次,每批次通知 1 次,异常另计。降级提示不要每超时一次就弹一次,否则用户会被通知淹没。正确做法是每批次汇总一次,异常级别单独升级。

C Runner 的模型超时走一遍

C Runner(Kettle 的电商运营任务执行 Agent)月任务量 13,200 个,Agent 执行耗时 2.4 分钟/任务。它按批次运行,批次内每个动作都要读取商品目录、判断异常、执行修改、写审计。

假设某个批次第一次出现模型超时。系统不应该直接停掉整个批次,而应该从完整能力降到受限能力:暂停高风险动作,保留低风险检查。用户看到「本批次有 1 次模型超时,高风险动作已暂停」。

如果同一批次继续出现超时,第二次触发「重复超时」,从受限能力降到只读建议:Agent 不再执行任何动作,只输出建议列表。用户看到「本批次已切换为只读建议,待处理项已列出」。

如果只读阶段仍然无法完成,或者出现回滚失败,才进入人工接管。接管界面要带上 Agent 已完成的检查、建议列表和需要人工确认的动作。C 的自动完成率是 78%,其余 22% 转人工,平均 14 分钟;降级到人工接管时,这 14 分钟就是接管成本的现实下限。

事件降级动作人工影响
第一次模型超时完整 → 受限高风险动作暂停
重复超时受限 → 只读建议Agent 不再执行动作
回滚失败只读建议 → 人工接管人接手,平均 14 分钟

这条路径的关键是「按事件逐级下降」,而不是「按严重度一次跳到底」。模型超时本身不一定严重,第一次可能只是瞬时抖动;重复发生才说明能力不可靠。回滚失败则是不可接受的信号,必须到人工接管。

恢复也要按阶梯

降级有阶梯,恢复也应该有。系统在受限能力下稳定运行一段时间后,可以先恢复到完整能力;但如果直接跳回,之前触发降级的问题可能还没解决。

恢复的条件要与降级对称:受限能力恢复到完整能力,需要有连续成功的观察期;只读建议恢复到受限能力,需要确认执行通道已经恢复;人工接管恢复到只读建议,需要人明确交接回来。

恢复不能自动跳级,理由和降级一样:跳级会跳过验证。系统在只读建议下「看起来正常」,不代表执行通道已经恢复。先回到受限能力跑一段,确认动作能成功,再回完整能力,风险更可控。

把阶梯写成状态机

下面这个模型把四级、触发器、可见提示和不可跳级写成状态机。degrade 只允许移到下一级;触发器要求的级别如果不是下一级,直接返回错误。

// file: src/trust/06-2-degrade-ladder.ts
// tier: L2
// verify: node --test test/trust/06-2-degrade-ladder.test.ts

// 降级阶梯:完整能力 → 受限能力 → 只读建议 → 人工接管。
// 顺序固定,一次只降一级;触发器若要求跳级,函数直接拒绝。

import { type Result, fail, ok } from "../core/result.ts";

export type CapabilityLevel =
  | "full"
  | "limited"
  | "advice-only"
  | "human-takeover";

export const LADDER: readonly CapabilityLevel[] = [
  "full",
  "limited",
  "advice-only",
  "human-takeover",
];

export type Trigger =
  | "model-timeout"
  | "tool-error"
  | "repeated-timeout"
  | "policy-block"
  | "audit-error"
  | "rollback-failed";

// 每个触发器对应它必须到达的级别;到达级别必须正好是下一级,否则拒绝。
export const TRIGGER_TARGET: Record<Trigger, CapabilityLevel> = {
  "model-timeout": "limited",
  "tool-error": "limited",
  "repeated-timeout": "advice-only",
  "policy-block": "advice-only",
  "audit-error": "advice-only",
  "rollback-failed": "human-takeover",
};

export type Notice = {
  readonly level: CapabilityLevel;
  readonly label: string;
  readonly detail: string;
  readonly executesActions: boolean;
  readonly readsOnly: boolean;
  readonly needsHuman: boolean;
};

// 降级必须对用户可见:每一级都有独立的标签与说明。
export const VISIBLE_NOTICE: Record<CapabilityLevel, Notice> = {
  full: {
    level: "full",
    label: "Full capability",
    detail: "The Agent can read, decide and execute allowed actions.",
    executesActions: true,
    readsOnly: false,
    needsHuman: false,
  },
  limited: {
    level: "limited",
    label: "Limited capability",
    detail: "High-risk actions are paused; low-risk actions still run.",
    executesActions: true,
    readsOnly: false,
    needsHuman: false,
  },
  "advice-only": {
    level: "advice-only",
    label: "Read-only advice",
    detail: "The Agent suggests what to do but executes nothing.",
    executesActions: false,
    readsOnly: true,
    needsHuman: false,
  },
  "human-takeover": {
    level: "human-takeover",
    label: "Human takeover",
    detail: "The Agent is paused. A person must continue the task.",
    executesActions: false,
    readsOnly: false,
    needsHuman: true,
  },
};

export function nextLevel(current: CapabilityLevel): CapabilityLevel | null {
  const index = LADDER.indexOf(current);
  if (index < 0 || index === LADDER.length - 1) return null;
  return LADDER[index + 1];
}

export type DegradeResult = {
  readonly from: CapabilityLevel;
  readonly to: CapabilityLevel;
  readonly trigger: Trigger;
  readonly notice: Notice;
};

export function degrade(
  current: CapabilityLevel,
  trigger: Trigger,
): Result<DegradeResult> {
  const next = nextLevel(current);
  if (next === null) {
    return fail("already at human-takeover");
  }
  const target = TRIGGER_TARGET[trigger];
  if (target !== next) {
    return fail(`cannot skip: ${trigger} targets ${target}, next allowed is ${next}`);
  }
  return ok({ from: current, to: next, trigger, notice: VISIBLE_NOTICE[next] });
}

degrade 先计算下一级,再看触发器要求的目标级别是否等于下一级。不等就拒绝,并返回一句能直接放进日志的错误信息。VISIBLE_NOTICE 把可见性做成数据结构,界面不需要自己拼文案,也不会出现某一级忘记提示的情况。

把 C 的超时路径代入:degrade("full", "model-timeout") 得到 limited;重复超时用 degrade("limited", "repeated-timeout") 得到 advice-only;如果此时出现回滚失败,degrade("advice-only", "rollback-failed") 得到 human-takeover。三次调用,正好走完三级。

降级与自主档的关系

降级不是把自主档降一级,而是改变当前任务的能力范围。C 是执行档,降级到只读建议时,它仍然是一个执行档产品,只是当前批次不执行动作。不要把降级理解为「产品退化成建议档」,否则会把临时状态写进产品定位。

对产品经理来说,降级阶梯要写进上线方案,而不是等故障时临时决定。每个触发器对应哪一级、提示文案是什么、谁来接管、多久恢复,都要提前定义。事故发生时再讨论这些,通常已经晚了。

还有一层组织含义:降级路径要有人值班。只读建议降到人工接管如果发生在深夜,接管者不在,阶梯就等于停在只读。值班安排与升级联系人,应该和阶梯一起定义。

降级与恢复的记录要和审计记录使用同一个 taskId,否则复盘时对不上。

小结

  • 降级阶梯四级固定:完整能力、受限能力、只读建议、人工接管。
  • 一次只降一级,不能跳级;跳级会跳过信息交接和状态说明。
  • 触发条件要可观测:模型超时、工具报错、重复超时、策略拦截、审计异常、回滚失败。
  • 降级必须对用户可见:当前级别、降级原因、能力边界,三者缺一不可。
  • C 的模型超时路径是完整 → 受限 → 只读建议,回滚失败才进入人工接管。
  • 恢复也要逐级回爬,不能因为一次成功就跳回完整能力。
  • 降级改变的是当前任务的能力范围,不是产品自主档。
  • 降级方案要提前写进上线文档,不能等故障时临时决定。

阅读导航:上一节:6.1 六种失败各自该长什么样 · 下一节:6.3 诚实的能力边界表达 。

常见错误与边界

  1. 悄悄降级。 系统切到只读却不提示,用户以为动作已执行;当前级别、原因、边界都要可见。
  2. 直接跳到人工接管。 跳过只读建议会丢掉 Agent 的判断与建议,接管者只能从零开始。
  3. 把降级当成产品降档。 降级是当前任务的能力范围变化,不是把执行档产品改成建议档。
  4. 恢复时直接跳回完整能力。 只读状态下正常不代表执行通道恢复;恢复要逐级验证。
  5. 每次超时都弹通知。 通知预算会被击穿;按批次汇总,异常级别单独升级。
  6. 触发器写成「系统不稳定」。 不可观测的条件无法自动执行;触发器必须是明确事件。

这一节回答「能力不可靠时怎么收力」。下一节回答一个更前置的问题:产品一开始就应该怎样诚实地表达能力边界,让用户知道什么时候该信、什么时候该问。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图