《AI Agent 产品开发·交互、信任与上线》3.1 可打断点设计

可打断点不是界面上的停止按钮,而是动作发生前的拦截位置。本节给出「要花钱、要写外部系统、要发消息」三类必停动作,用 A Relay、B Quill、C Runner 各列三个打断点,说明中止、暂停与回滚三种停止语义,并给出不可打断的长任务必须提供取消的判定模型。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

用户在演示里看到的是一个「停止」按钮,在产品里需要的却是一组「在什么之前停」的位置。两者的差别在事故发生时才会暴露:停止按钮只能让界面不再转圈,可打断点决定的是——在钱花出去、外部系统被写入、消息发出去之前,有没有一个明确的瞬间让人可以改变主意。

这一节把可打断点从交互细节提升为责任设计。核心判断只有一句:至少在「要花钱」「要写外部系统」「要发消息」之前停。其他步骤可以连续执行,这三类动作之前必须有可识别的拦截位置。

打断不是取消按钮

先把三个容易混用的词分开:

停止语义用户看到什么系统实际做什么适用对象
中止(abort)停止后任务结束丢弃本次未完成结果建议档、短任务
暂停(pause)停在当前位置,可继续保留已完成步骤与中间状态草稿档、可分段产出
暂停加回滚(pause-rollback)停在动作批次之间,可退回保留状态,并能反向执行已做动作执行档、有外部副作用

三案例的停止语义正好对应这三档:A Relay 是中止,B Quill 是暂停且可继续,C Runner 是暂停加回滚。第 2 章 讲过可见性要匹配责任,打断也一样:机器承担得越多,停下来的语义就必须越完整。

一个只有「中止」的界面,用在 C 身上是危险的。因为 C 已经改过的价格不会因为界面停止而自动恢复,用户以为停了,外部系统却保留着半截动作。反过来,给 A 设计复杂的回滚也没有意义:A 的建议没有落库,不采纳就是撤销。

三类必须停的动作

把动作按后果分成三类,比按步骤编号更稳定。步骤会随实现变化,后果不会。

要花钱。 包括退款、赔付、下单、改价这类直接改变资金或收入的动作。判定问题不是「金额大不大」,而是「这个动作发生后,钱能不能原路回来」。A 的单均系统成本是 0.017 美元,不需要用户逐单审批;C 的改价会直接改变商品成交价,属于业务动作,必须有拦截位置。

要写外部系统。 包括写工单字段、改库存、改商品状态、写客户报告。判定问题是「这个写入是否会被别的系统读到」。写在沙箱里的草稿不算,写进生产库才算。A 的采纳会写队列与优先级,所以「采纳前」就是它的写外部系统检查点。

要发消息。 包括发客户通知、发报告、发更正说明。判定问题是「消息出去以后能不能收回」。绝大多数渠道不能。C 的 14% 不可回滚错误,主要就落在这类已发出的通知上,所以它必须在发送前停,而不是发送后想办法。

三类动作不是每个产品都会全部出现。正确的做法是先列出 Agent 的真实动作面,再只对动作面里的类别设检查点。给一个只能读数据的产品加「发消息审批」,除了制造点击,没有别的作用。

三案例各列三个打断点

下表是三个案例的检查点清单。注意每个案例只有三个,不是因为三个刚好整齐,而是因为它们的动作面各自只需要这三个位置。

案例打断点位置拦截的动作停止语义
A Relay生成开始用户提交工单后无,纯控制点中止
A Relay生成过程中模型输出建议时无,纯控制点中止
A Relay采纳前人确认写入队列前写外部系统中止
B Quill每章生成后单章草稿完成时无,纯控制点暂停
B Quill发布前报告进入客户渠道前写外部系统、发消息暂停
B Quill补发更正前已发布报告需要更正时发消息暂停
C Runner每个动作批次之间一批动作执行完时写外部系统暂停加回滚
C Runner改价或下架前高风险动作执行前花钱、写外部系统暂停加回滚
C Runner发客户通知前通知进入发送队列前发消息暂停加回滚

A 的前两个检查点看起来有点「为了三个而三个」。确实如此:A 的模型耗时只有 0.30 分钟,生成过程短到用户来不及做复杂操作,真正有责任含义的只有「采纳前」。保留前两个是因为用户仍然需要随时停下,但不能把它们当成审批点。控制点可以多,责任点必须准。

B 的三个检查点分布在一份报告的三个不同阶段。每章生成后的暂停,是为了让用户在读到第三章时就能发现数据用错,而不是等整份报告生成完。发布前是它唯一的正式审批点。补发更正前是补偿路径上的检查点:已经发出去的报告不可撤,但更正说明也不能悄悄发。

C 的三个检查点都带有回滚语义。批次之间停,是为了让用户看到一批动作的结果再决定下一批;改价或下架前停,是因为这两个动作外部可见、代价高;发通知前停,是因为通知不可撤。C 的 86% 可回滚比例说明大部分动作能反向执行,但剩下 14% 不能,所以「发通知前」必须单独成为一个硬检查点。

不可打断的长任务必须有取消

有些步骤在技术上无法中途暂停:一次数据库事务、一次批量接口调用、一次已经提交的渲染任务。产品不能用「不支持暂停」当作不给控制的理由。做不到暂停,至少要给取消,并且取消必须回答三个问题:

  1. 已经做到哪一步? 取消后用户要知道哪些动作已经生效。
  2. 已经生效的部分怎么处理? 能反向执行的列出反向动作,不能的列出补偿动作。
  3. 取消后状态停在哪里? 是回到任务开始前,还是保留已完成部分等待人工接手。

B 的 11 分钟生成可以按章暂停,所以它的取消相对简单:停在当前章,已完成章节保留。C 的小时级批次无法在单个动作内部暂停,但可以在批次边界停;如果用户要求立即取消,系统要返回「本批已执行的动作清单 + 可回滚项 + 不可回滚项」,而不是只把界面关掉。

一个只把按钮置灰、不返回状态的「取消」,本质上是不负责任的断开。用户会以为任务停了,外部系统却还在继续。

把打断点写成模型

下面的模型把「动作面决定必停点」写成可执行判定:先列出案例能做的动作类别,再检查检查点是否覆盖,最后检查不可打断的长任务有没有取消出口。

// file: src/trust/03-1-interrupt-points.ts
// tier: L2
// verify: node --test test/trust/03-1-interrupt-points.test.ts

// 可打断点模型:先按动作面确定必须停的地方,再检查每个案例是否覆盖。
// 停止语义只有三种:中止(abort)、暂停(pause)、暂停并可回滚(pause-rollback)。

import { QUILL, RELAY, RUNNER } from "../cases.ts";

export type ActionKind = "spend-money" | "write-external" | "send-message";

export type StopSemantics = "abort" | "pause" | "pause-rollback";

export type Checkpoint = {
  readonly id: string;
  readonly phase: string;
  readonly guards: readonly ActionKind[];
  readonly semantics: StopSemantics;
};

export type LongTask = {
  readonly id: string;
  readonly interruptible: boolean;
  readonly cancelAvailable: boolean;
};

export type CasePolicy = {
  readonly key: "A" | "B" | "C";
  readonly teamSize: number;
  readonly monthlyTasks: number;
  readonly surface: readonly ActionKind[];
  readonly checkpoints: readonly Checkpoint[];
  readonly longTasks: readonly LongTask[];
};

export const MANDATORY_KINDS: readonly ActionKind[] = [
  "spend-money",
  "write-external",
  "send-message",
];

export const KIND_LABEL: Record<ActionKind, string> = {
  "spend-money": "要花钱",
  "write-external": "要写外部系统",
  "send-message": "要发消息",
};

export const CASE_POLICIES: Record<"A" | "B" | "C", CasePolicy> = {
  A: {
    key: "A",
    teamSize: RELAY.teamSize,
    monthlyTasks: RELAY.monthlyTasks,
    surface: ["write-external"],
    checkpoints: [
      {
        id: "a-generation-start",
        phase: "生成开始",
        guards: [],
        semantics: "abort",
      },
      {
        id: "a-in-flight",
        phase: "生成过程中",
        guards: [],
        semantics: "abort",
      },
      {
        id: "a-adopt",
        phase: "采纳前",
        guards: ["write-external"],
        semantics: "abort",
      },
    ],
    longTasks: [
      { id: "a-triage", interruptible: true, cancelAvailable: false },
    ],
  },
  B: {
    key: "B",
    teamSize: QUILL.teamSize,
    monthlyTasks: QUILL.monthlyTasks,
    surface: ["write-external", "send-message"],
    checkpoints: [
      {
        id: "b-section-end",
        phase: "每章生成后",
        guards: [],
        semantics: "pause",
      },
      {
        id: "b-publish",
        phase: "发布前",
        guards: ["write-external"],
        semantics: "pause",
      },
      {
        id: "b-corrective-notice",
        phase: "补发更正说明前",
        guards: ["send-message"],
        semantics: "pause",
      },
    ],
    longTasks: [
      { id: "b-report", interruptible: true, cancelAvailable: true },
    ],
  },
  C: {
    key: "C",
    teamSize: RUNNER.teamSize,
    monthlyTasks: RUNNER.monthlyTasks,
    surface: ["spend-money", "write-external", "send-message"],
    checkpoints: [
      {
        id: "c-batch-boundary",
        phase: "每个动作批次之间",
        guards: ["write-external"],
        semantics: "pause-rollback",
      },
      {
        id: "c-price-delist",
        phase: "改价或下架前",
        guards: ["spend-money", "write-external"],
        semantics: "pause-rollback",
      },
      {
        id: "c-notice",
        phase: "发客户通知前",
        guards: ["send-message"],
        semantics: "pause-rollback",
      },
    ],
    longTasks: [
      { id: "c-batch", interruptible: true, cancelAvailable: true },
    ],
  },
};

export function requiredKinds(policy: CasePolicy): ActionKind[] {
  const surface = new Set<ActionKind>(policy.surface);
  return MANDATORY_KINDS.filter((kind) => surface.has(kind));
}

export function coveredKinds(checkpoints: readonly Checkpoint[]): ActionKind[] {
  const covered = new Set<ActionKind>();
  for (const point of checkpoints) {
    for (const kind of point.guards) covered.add(kind);
  }
  return MANDATORY_KINDS.filter((kind) => covered.has(kind));
}

export function missingKinds(policy: CasePolicy): ActionKind[] {
  const covered = new Set<ActionKind>(coveredKinds(policy.checkpoints));
  return requiredKinds(policy).filter((kind) => !covered.has(kind));
}

export function cancelGaps(policy: CasePolicy): string[] {
  return policy.longTasks
    .filter((task) => !task.interruptible && !task.cancelAvailable)
    .map((task) => task.id);
}

export function auditPolicy(policy: CasePolicy): {
  readonly required: readonly ActionKind[];
  readonly missing: readonly ActionKind[];
  readonly cancelGaps: readonly string[];
} {
  return {
    required: requiredKinds(policy),
    missing: missingKinds(policy),
    cancelGaps: cancelGaps(policy),
  };
}

export function checkpointCount(policy: CasePolicy): number {
  return policy.checkpoints.length;
}

requiredKinds 只返回动作面里的必停类别:A 只有写外部系统,B 有写外部系统和发消息,C 三类都有。missingKinds 找出「能做但没停」的缺口。cancelGaps 则检查那些声明为不可打断、又没有取消出口的长任务。

把三个案例代入,缺口都是零。这个结果不是给产品发合格证,而是说明检查点清单和动作面是对齐的。如果给 A 加上「发消息」检查点,覆盖矩阵会变好看,但那个检查点永远不会触发;如果给 C 去掉「发消息」检查点,矩阵仍然能过两类,却恰好漏掉它唯一不可回滚的动作。

设计检查清单

  • 先写动作面,再写检查点。动作面包括 Agent 能读什么、能写什么、能发什么。
  • 每个检查点写清停止语义:是中止、暂停,还是暂停加回滚。
  • 三类动作至少各有一个检查点;没有该类动作就不加,避免形式主义。
  • 不可打断的长任务必须有取消,并且取消要返回已完成动作与补偿清单。
  • 检查点数量按动作类型算,不按任务量算;C 每天 600 个任务,不需要 600 个审批点。

小结

  • 可打断点不是停止按钮,而是「在什么动作之前停」的责任位置。
  • 必停的三类动作是:要花钱、要写外部系统、要发消息。
  • 停止语义分三档:中止、暂停、暂停加回滚,分别对应建议、草稿、执行三种责任。
  • A 的三个检查点里,只有「采纳前」是真正的责任点;前两个是用户控制。
  • B 的「每章生成后」让纠偏发生在整份报告完成之前,降低返工范围。
  • C 的「发通知前」是硬检查点,因为通知不可撤;其余动作可在 30 分钟内反向执行。
  • 不可打断的长任务必须提供取消,并返回已完成动作与补偿清单。
  • 检查点按动作类型设计,不按任务数量堆叠。

阅读导航:上一节:2.3 不透明的代价 · 下一节:3.2 运行中纠偏 。

常见错误与边界

  1. 把停止按钮当成可打断点。 停止只改变界面状态,不改变已经发生的外部写入;检查点必须落在动作之前。
  2. 给所有步骤加审批。 检查点按动作后果设置,不按步骤数量设置;每一步都停等于没有重点。
  3. 只做中止,不做状态保留。 用户停下后如果不知道做到了哪一步,下一次只能从头再来,打断反而增加了成本。
  4. 给不可回滚动作设计回滚按钮。 已发出的通知无法反向执行,正确做法是发送前拦截,发送后补偿。
  5. 用「技术上做不到」跳过取消。 不能暂停的长任务至少要有取消,并返回已完成动作清单;否则用户无法判断风险。
  6. 检查点与动作面脱节。 给不能发消息的 Agent 设发送审批,或给能改价的 Agent 漏掉改价拦截,都是清单好看但责任错位。

下一节处理打断之后的动作:用户已经叫停了,但不想从头再来,怎样只改一个约束、只重写一章、只跳过一步。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图