以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。
失败态处理的是「已经出错」。降级处理的是「还可能出错」:系统察觉能力不可靠,但还没到必须停摆的程度。这时最常见的两种做法都不好:一种是硬撑,继续按完整能力执行,把风险留给用户;另一种是一步到位停机,把可控的降级变成不可用的中断。
降级阶梯给出一条中间路径:完整能力 → 受限能力 → 只读建议 → 人工接管。顺序固定,一次只降一级,每一级都对用户可见。它的价值不是让系统显得优雅,而是让风险逐步收力,给用户留出反应时间。
四级降级与触发条件
| 级别 | 能力范围 | 触发条件 | 用户看到什么 |
|---|---|---|---|
| 完整能力 | 读取、判断、执行允许的动作 | 无异常 | 正常状态 |
| 受限能力 | 暂停高风险动作,保留低风险执行 | 模型超时、工具报错 | 受限提示与暂停范围 |
| 只读建议 | 只给建议,不执行任何动作 | 重复超时、策略拦截、审计异常 | 只读提示与建议列表 |
| 人工接管 | Agent 暂停,人继续任务 | 回滚失败 | 接管提示与交接信息 |
触发条件要写具体,不能写「系统不稳定时」。模型超时和工具报错是可观测事件,能自动触发;策略拦截和审计异常有明确来源;回滚失败是最严重的事件,直接进入人工接管。
四级不是四个开关,而是一条单调向下的路径。一旦降级,不能因为一次成功就自动跳回完整能力。恢复要按同样的阶梯逐级回爬,并且每一级都要有观察期。
为什么顺序不能跳
跳级看起来更安全:既然回滚失败,为什么还要经过只读建议,不直接人工接管?原因是跳级会跳过信息交接。只读建议这一级的作用不是继续干活,而是把「Agent 已经知道什么、建议人做什么」整理出来,交给接管的人。
如果从受限能力直接跳到人工接管,接管者拿到的是一句「系统已暂停」,不知道 Agent 之前判断了什么、哪些动作已经执行、哪些数据需要复核。他只能从头再来,降级省下的风险又变成了人工成本。
同理,从完整能力直接跳到只读建议,会跳过「暂停高风险动作」这一步。用户可能正在等一个低风险动作完成,系统却突然什么都不做,体验上像故障而不是降级。
| 跳级路径 | 被跳过的信息 | 后果 |
|---|---|---|
| 完整 → 只读建议 | 高风险动作的暂停说明 | 用户以为系统故障 |
| 受限 → 人工接管 | Agent 的判断与建议 | 接管者从零开始 |
| 完整 → 人工接管 | 中间两级的状态与建议 | 交接信息全丢 |
顺序固定还有一个工程好处:每一级只需要定义「相对上一级少了什么」,不需要为所有跳转组合写状态。状态机小了,测试覆盖也容易做全。
降级必须对用户可见
降级最常见的失败是「悄悄降级」。系统检测到超时,自动从完整能力切到只读建议,界面没有任何提示。用户以为动作已经执行,实际上什么都没发生。等发现时,业务时点已经错过。
可见性至少包含三件事:
- 当前级别:用户知道现在处于哪一级;
- 降级原因:哪条触发条件生效,什么时候生效;
- 能力边界:这一级能做什么、不能做什么。
只显示一个黄色小点不算可见。用户不会去猜黄点的含义。提示要写清楚「高风险动作已暂停,低风险动作仍可执行」这类具体边界。
可见性还要考虑通知预算。C Runner 是小时级批次,每批次通知 1 次,异常另计。降级提示不要每超时一次就弹一次,否则用户会被通知淹没。正确做法是每批次汇总一次,异常级别单独升级。
C Runner 的模型超时走一遍
C Runner(Kettle 的电商运营任务执行 Agent)月任务量 13,200 个,Agent 执行耗时 2.4 分钟/任务。它按批次运行,批次内每个动作都要读取商品目录、判断异常、执行修改、写审计。
假设某个批次第一次出现模型超时。系统不应该直接停掉整个批次,而应该从完整能力降到受限能力:暂停高风险动作,保留低风险检查。用户看到「本批次有 1 次模型超时,高风险动作已暂停」。
如果同一批次继续出现超时,第二次触发「重复超时」,从受限能力降到只读建议:Agent 不再执行任何动作,只输出建议列表。用户看到「本批次已切换为只读建议,待处理项已列出」。
如果只读阶段仍然无法完成,或者出现回滚失败,才进入人工接管。接管界面要带上 Agent 已完成的检查、建议列表和需要人工确认的动作。C 的自动完成率是 78%,其余 22% 转人工,平均 14 分钟;降级到人工接管时,这 14 分钟就是接管成本的现实下限。
| 事件 | 降级动作 | 人工影响 |
|---|---|---|
| 第一次模型超时 | 完整 → 受限 | 高风险动作暂停 |
| 重复超时 | 受限 → 只读建议 | Agent 不再执行动作 |
| 回滚失败 | 只读建议 → 人工接管 | 人接手,平均 14 分钟 |
这条路径的关键是「按事件逐级下降」,而不是「按严重度一次跳到底」。模型超时本身不一定严重,第一次可能只是瞬时抖动;重复发生才说明能力不可靠。回滚失败则是不可接受的信号,必须到人工接管。
恢复也要按阶梯
降级有阶梯,恢复也应该有。系统在受限能力下稳定运行一段时间后,可以先恢复到完整能力;但如果直接跳回,之前触发降级的问题可能还没解决。
恢复的条件要与降级对称:受限能力恢复到完整能力,需要有连续成功的观察期;只读建议恢复到受限能力,需要确认执行通道已经恢复;人工接管恢复到只读建议,需要人明确交接回来。
恢复不能自动跳级,理由和降级一样:跳级会跳过验证。系统在只读建议下「看起来正常」,不代表执行通道已经恢复。先回到受限能力跑一段,确认动作能成功,再回完整能力,风险更可控。
把阶梯写成状态机
下面这个模型把四级、触发器、可见提示和不可跳级写成状态机。degrade 只允许移到下一级;触发器要求的级别如果不是下一级,直接返回错误。
// file: src/trust/06-2-degrade-ladder.ts
// tier: L2
// verify: node --test test/trust/06-2-degrade-ladder.test.ts
// 降级阶梯:完整能力 → 受限能力 → 只读建议 → 人工接管。
// 顺序固定,一次只降一级;触发器若要求跳级,函数直接拒绝。
import { type Result, fail, ok } from "../core/result.ts";
export type CapabilityLevel =
| "full"
| "limited"
| "advice-only"
| "human-takeover";
export const LADDER: readonly CapabilityLevel[] = [
"full",
"limited",
"advice-only",
"human-takeover",
];
export type Trigger =
| "model-timeout"
| "tool-error"
| "repeated-timeout"
| "policy-block"
| "audit-error"
| "rollback-failed";
// 每个触发器对应它必须到达的级别;到达级别必须正好是下一级,否则拒绝。
export const TRIGGER_TARGET: Record<Trigger, CapabilityLevel> = {
"model-timeout": "limited",
"tool-error": "limited",
"repeated-timeout": "advice-only",
"policy-block": "advice-only",
"audit-error": "advice-only",
"rollback-failed": "human-takeover",
};
export type Notice = {
readonly level: CapabilityLevel;
readonly label: string;
readonly detail: string;
readonly executesActions: boolean;
readonly readsOnly: boolean;
readonly needsHuman: boolean;
};
// 降级必须对用户可见:每一级都有独立的标签与说明。
export const VISIBLE_NOTICE: Record<CapabilityLevel, Notice> = {
full: {
level: "full",
label: "Full capability",
detail: "The Agent can read, decide and execute allowed actions.",
executesActions: true,
readsOnly: false,
needsHuman: false,
},
limited: {
level: "limited",
label: "Limited capability",
detail: "High-risk actions are paused; low-risk actions still run.",
executesActions: true,
readsOnly: false,
needsHuman: false,
},
"advice-only": {
level: "advice-only",
label: "Read-only advice",
detail: "The Agent suggests what to do but executes nothing.",
executesActions: false,
readsOnly: true,
needsHuman: false,
},
"human-takeover": {
level: "human-takeover",
label: "Human takeover",
detail: "The Agent is paused. A person must continue the task.",
executesActions: false,
readsOnly: false,
needsHuman: true,
},
};
export function nextLevel(current: CapabilityLevel): CapabilityLevel | null {
const index = LADDER.indexOf(current);
if (index < 0 || index === LADDER.length - 1) return null;
return LADDER[index + 1];
}
export type DegradeResult = {
readonly from: CapabilityLevel;
readonly to: CapabilityLevel;
readonly trigger: Trigger;
readonly notice: Notice;
};
export function degrade(
current: CapabilityLevel,
trigger: Trigger,
): Result<DegradeResult> {
const next = nextLevel(current);
if (next === null) {
return fail("already at human-takeover");
}
const target = TRIGGER_TARGET[trigger];
if (target !== next) {
return fail(`cannot skip: ${trigger} targets ${target}, next allowed is ${next}`);
}
return ok({ from: current, to: next, trigger, notice: VISIBLE_NOTICE[next] });
}
degrade 先计算下一级,再看触发器要求的目标级别是否等于下一级。不等就拒绝,并返回一句能直接放进日志的错误信息。VISIBLE_NOTICE 把可见性做成数据结构,界面不需要自己拼文案,也不会出现某一级忘记提示的情况。
把 C 的超时路径代入:degrade("full", "model-timeout") 得到 limited;重复超时用 degrade("limited", "repeated-timeout") 得到 advice-only;如果此时出现回滚失败,degrade("advice-only", "rollback-failed") 得到 human-takeover。三次调用,正好走完三级。
降级与自主档的关系
降级不是把自主档降一级,而是改变当前任务的能力范围。C 是执行档,降级到只读建议时,它仍然是一个执行档产品,只是当前批次不执行动作。不要把降级理解为「产品退化成建议档」,否则会把临时状态写进产品定位。
对产品经理来说,降级阶梯要写进上线方案,而不是等故障时临时决定。每个触发器对应哪一级、提示文案是什么、谁来接管、多久恢复,都要提前定义。事故发生时再讨论这些,通常已经晚了。
还有一层组织含义:降级路径要有人值班。只读建议降到人工接管如果发生在深夜,接管者不在,阶梯就等于停在只读。值班安排与升级联系人,应该和阶梯一起定义。
降级与恢复的记录要和审计记录使用同一个 taskId,否则复盘时对不上。
小结
- 降级阶梯四级固定:完整能力、受限能力、只读建议、人工接管。
- 一次只降一级,不能跳级;跳级会跳过信息交接和状态说明。
- 触发条件要可观测:模型超时、工具报错、重复超时、策略拦截、审计异常、回滚失败。
- 降级必须对用户可见:当前级别、降级原因、能力边界,三者缺一不可。
- C 的模型超时路径是完整 → 受限 → 只读建议,回滚失败才进入人工接管。
- 恢复也要逐级回爬,不能因为一次成功就跳回完整能力。
- 降级改变的是当前任务的能力范围,不是产品自主档。
- 降级方案要提前写进上线文档,不能等故障时临时决定。
阅读导航:上一节:6.1 六种失败各自该长什么样 · 下一节:6.3 诚实的能力边界表达 。
常见错误与边界
- 悄悄降级。 系统切到只读却不提示,用户以为动作已执行;当前级别、原因、边界都要可见。
- 直接跳到人工接管。 跳过只读建议会丢掉 Agent 的判断与建议,接管者只能从零开始。
- 把降级当成产品降档。 降级是当前任务的能力范围变化,不是把执行档产品改成建议档。
- 恢复时直接跳回完整能力。 只读状态下正常不代表执行通道恢复;恢复要逐级验证。
- 每次超时都弹通知。 通知预算会被击穿;按批次汇总,异常级别单独升级。
- 触发器写成「系统不稳定」。 不可观测的条件无法自动执行;触发器必须是明确事件。
这一节回答「能力不可靠时怎么收力」。下一节回答一个更前置的问题:产品一开始就应该怎样诚实地表达能力边界,让用户知道什么时候该信、什么时候该问。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。