《AI Agent 游戏产品开发》8.2 涌现的收益与失控风险

涌现的收益是玩家看到设计者没写过的行为,风险是这些行为无法解释、无法复现、无法撤销。本节把失控收敛为三类:事件率过高、事件率过低、单派系占比过高,给出 3 倍、0.2 倍与 80% 三条判据与 5 分钟滚动窗口,并说明健康分只能做看板,不能替代判据。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。阈值、窗口与派系数均为教学设定值,NPC 规模见附录 B 双案例唯一事实表 。

多 Agent 系统最吸引人的地方是涌现:设计者没有写过的行为,从规则之间的相互作用里长出来。玩家会记住「上次那个 NPC 突然联合另一个派系把我围住」,这类故事无法用脚本预先编写。

涌现的另一面是失控。同样的机制也可能长出「所有 NPC 同时追着玩家说话」「某个派系吞并了其他所有派系」「整个社会突然安静下来」。这些行为同样没被写过,但它们是事故,不是惊喜。

区分两者不能靠感觉。这一节把失控收敛成三类可测量的状态,并给出一套能在 5 分钟窗口内判断的规则。

三种失控:太多、太少、太单一

状态表现玩家感知主要成因
失控事件率远超基线世界太吵,像在刷屏消息或事件预算失效
熄火事件率远低于基线世界死了,NPC 像木头规则互相抑制,无人触发
单极化单个派系占比过高其他派系消失了反馈回路让强者更强

三类失控的方向完全不同,处理方式也不同。失控要限流,熄火要放宽触发条件,单极化要引入反向机制。用同一套「降频」去处理三类,会把熄火和单极化一起推向更糟。

判据用倍数,不用绝对值

基线与版本强相关:新增一条事件规则,基线就会变。用绝对值定阈值,每次版本更新都要重调;用倍数,阈值可以跟着基线走。

三条判据:

  • 事件率高于基线 3 倍,判为失控。
  • 事件率低于基线 0.2 倍,判为熄火。
  • 单派系占比高于 80%,判为单极化。

3 倍与 0.2 倍不是精确值,而是「明显偏离」的工程近似。它们的作用是触发人工查看,不是自动下结论。真正要判断是设计意图还是故障,仍然需要人看事件序列。

观测用 5 分钟滚动窗口

窗口太短,噪声会让判据反复触发;窗口太长,事故已经扩散完才被发现。5 分钟是一个折中:方舟一场战斗 8 到 12 分钟,5 分钟窗口能覆盖半场,既能看到趋势,也不至于滞后。

窗口按滑动计算,不是按固定分桶。固定分桶会在桶边界出现跳变,同一段行为落在两个桶里会得到不同结论。滑动窗口的每个点都重新统计最近 5 分钟,趋势更平滑。

窗口内还要记录参与角色数。事件率相同但参与角色数不同,含义完全不同:8 个角色产生 10 个事件是正常互动,2 个角色产生 10 个事件是异常密集。

把判据写成可运行函数

下面的实现把事件率、派系占比、三类判定、健康分与刹车判断写成纯函数。

// file: src/swarm/emergence.ts
// tier: L1
// verify: node --test test/swarm/emergence.test.ts

// 涌现的健康度只有三种失控:太多、太少、太单一。
// 观测用滚动窗口,判据用倍数,不用绝对值——基线随版本变化。

export type Window = {
  readonly minutes: number;
  readonly events: number;
  readonly actors: number;
  readonly factionShares: readonly number[];
};

export type Baseline = {
  readonly eventsPerMinute: number;
};

export type Health = "healthy" | "runaway" | "collapse" | "monoculture";

export const RUNAWAY_RATIO = 3;
export const COLLAPSE_RATIO = 0.2;
export const DOMINANCE_LIMIT = 0.8;

export function eventsPerMinute(window: Window): number {
  if (!(window.minutes > 0)) return 0;
  return window.events / window.minutes;
}

// 单派系占比取最大值:占比过大说明其他派系已经不再产生事件。
export function dominance(shares: readonly number[]): number {
  if (shares.length === 0) return 0;
  return shares.reduce((max, share) => Math.max(max, share), 0);
}

// 先判熄火,再判失控,最后判单极化:三者同时出现时,熄火最难挽回。
export function classify(window: Window, baseline: Baseline): Health {
  const rate = eventsPerMinute(window);
  if (rate < baseline.eventsPerMinute * COLLAPSE_RATIO) return "collapse";
  if (rate > baseline.eventsPerMinute * RUNAWAY_RATIO) return "runaway";
  if (dominance(window.factionShares) > DOMINANCE_LIMIT) return "monoculture";
  return "healthy";
}

// 健康分只用于排序与看板,不替代判据:分数好看但判据不过,仍然要刹车。
export function healthScore(window: Window, baseline: Baseline): number {
  const expected = baseline.eventsPerMinute * Math.max(1, window.minutes);
  const ratio = expected > 0 ? window.events / expected : 0;
  const rateScore = 100 * (1 - Math.min(1, Math.abs(ratio - 1) / 2));
  const spread = 1 - Math.min(1, Math.max(0, dominance(window.factionShares) - 0.5) / 0.5);
  return Math.round(Math.max(0, rateScore * 0.7 + spread * 100 * 0.3));
}

export function needsBrake(window: Window, baseline: Baseline): boolean {
  return classify(window, baseline) !== "healthy";
}

eventsPerMinute 在窗口为 0 时返回 0,而不是除零。空窗口在系统刚启动或刚重启时很常见,返回 Infinity 会让判据误判成失控。

dominance 取最大占比,而不是方差或熵。最大占比直接对应「一个派系是不是独大」,计算简单、可解释,值班人员不需要统计背景就能理解。

classify 的判定顺序是熄火、失控、单极化。三者可能同时出现,比如事件率为零且某个派系占比 100%;这时报熄火,因为它是最难自动恢复的一种,需要先被人看到。

healthScore 把事件率偏离与派系分布合成一个 0 到 100 的分数。它只用于排序与看板,不参与自动决策;分数好看但判据不过时,仍然要按判据处理。

needsBrake 把判据结果转成动作。它不区分三类失控,因为刹车动作由 8.3 的档位系统决定,这里只回答「要不要进入刹车流程」。

健康分只是看板

健康分容易变成新的 KPI:团队盯着分数,把 85 分当成目标,而不是看判据。这会带来两个问题:

  • 分数是复合指标,无法定位是事件率还是派系分布出了问题。
  • 分数可以被人为拉高,比如扩大窗口或调整权重,而判据不变。

因此健康分只用于两件事:排序多个分片,找出最需要看的那个;以及给出一个随时间变化的曲线,帮助判断趋势。判据是否通过,仍然看 classify 的结果。

区分惊喜与事故的三个问题

判据只能告诉你「偏离了」,不能告诉你「这是好事还是坏事」。区分惊喜与事故要问三个问题:

  1. 可解释吗。 能不能用几条规则解释这段行为是怎么产生的?解释不了,就是事故。
  2. 可复现吗。 同样的种子与输入,能不能再次出现?不能复现,就无法验证修复。
  3. 可撤销吗。 如果玩家不喜欢,能不能在不动整体机制的情况下关掉?关不掉,风险不可控。

三个问题都过,才算惊喜。任何一个不过,都应该按事故处理,即使玩家当下觉得有趣。理由很实际:不可解释的行为无法维护,不可复现的行为无法回归,不可撤销的行为会在某次版本更新后变成灾难。

基线怎么定

基线的计算口径决定判据是否可靠。三种常见做法各有适用场景:

口径计算方式适用阶段风险
同版本均值本版本上线后的滑动均值稳定运营期早期样本少,噪声大
上一版本同期上个版本同一时段的均值版本更新后 24 小时结构变化会被误判为异常
同类型分片对比其他分片的同期均值多分片产品分片之间本身存在差异

本书采用同版本均值作为主基线,版本更新后的前 24 小时用上一版本同期兜底。这样既不会在版本刚上线时因为样本少而误报,也不会在结构变化后长期沿用旧基线。

基线要按时间段分别计算。晚间高峰与凌晨的事件率天然不同,用全天均值会让凌晨频繁误报熄火,让晚间频繁误报失控。方舟按小时分桶,每个桶有独立基线。

基线还要记录版本号。判据触发时,值班人员第一件事是确认基线属于哪个版本;用错基线会让整段排查白费。

三类失控的处置方向

三类失控的第一动作完全不同,用错方向会加重问题:

状态第一动作不该做的事
失控降消息与事件预算直接关功能
熄火检查触发条件与抑制规则增大事件预算
单极化引入反向机制调整派系初始值

失控要限流,因为问题出在产出太多。直接关功能会让玩家突然失去整个 NPC 社会,体验断崖;降预算能让世界安静下来,同时保留基本互动。

熄火要查规则,因为问题出在触发链断了。增大事件预算没有用,预算不是瓶颈,触发条件才是。常见原因是两条规则互相抑制:A 要求 B 不在场,B 要求 A 不在场,结果两个都不触发。

单极化要加反向机制,比如其他派系的联合、资源衰减、外部威胁。直接调初始值只能推迟问题,不能改变反馈回路,过一段时间又会回到同样的分布。

哪些涌现值得保留

不是所有没写过的行为都值得保留。值得保留的涌现通常满足四个条件:

  • 玩家能用一句话复述给别人听。
  • 不与付费、公平规则冲突。
  • 不依赖某个未修复的 bug。
  • 不破坏其他玩家的体验。

第一条决定了它能不能成为社交货币。玩家会讲「上次 NPC 联合起来骗我」,不会讲「上次事件率达到了每分钟 6 条」。后者的价值在数据里,不在体验里。

第二、三条是维护性要求。依赖 bug 的涌现会在修复后消失,与公平规则冲突的涌现会引发投诉。第四条在多人产品里尤其重要:一个派系把所有玩家都困住,对单个玩家是故事,对其他玩家是事故。

玩家反馈怎么用

玩家反馈是判据之外的第二个信号源,但它只能提示方向,不能直接定性:

信号能说明不能说明
投诉某类体验已经影响留存具体是哪条规则导致
社区讨论行为是否被注意、被复述行为是否普遍发生
客服工单个别玩家的强烈反应整体分布是否偏离

三类信号要分开看。投诉量上升可能是失控,也可能是某次活动带来的正常活跃;社区讨论热烈可能是惊喜,也可能是集体吐槽。把它们混成一个「舆情分」,只会得到一个无法行动的数字。

更稳的用法是:用信号定位时间段与分片,再回到回放与判据里确认。信号负责「去哪里看」,判据负责「看到了什么」。

从异常到修复的闭环

发现异常之后的处理顺序是固定的五步:

  1. 复现。 用种子回放目标场次,确认异常能稳定出现。
  2. 定位规则。 逐条关闭规则,找出哪一条是必要条件。
  3. 最小改动。 只改触发问题的那条规则或那个参数,不顺手重构。
  4. 灰度。 先在 5% 分片验证,观察判据与玩家反馈。
  5. 回归。 把这次异常写成回放用例,每次版本更新都跑一遍。

第三步最容易被跳过。团队发现异常后倾向于「顺便优化一下整套规则」,结果引入新的异常,且无法判断是哪次改动导致的。最小改动让因果链保持清晰。

第五步决定这类问题会不会重复出现。没有回放用例,同样的异常会在半年后以另一种形式回来,而团队已经换了一批人。

验收:回放与人工抽检

涌现的验收不能只看指标。指标正常但行为无聊,系统同样失败。验收要做两件事:

  • 回放抽样。 每天从线上抽取若干场次的决策日志,按 4.1 的种子回放,检查行为是否与线上一致。
  • 人工观看。 每周由策划观看若干段回放,判断行为是否「有趣且不越界」。

两件事的频率不同:回放抽样可以每天做,人工观看只能每周做。前者保证可复现,后者保证有质量。只做前者会得到一堆正确但无趣的行为,只做后者无法覆盖规模。

抽检比例按产品定。方舟的 NPC 社会是核心卖点,抽检比例要高于普通功能;消消的 Agent 只在赛后出现,抽检比例可以低一些。

小结

  • 涌现的收益是没写过的行为,风险是这些行为无法解释、复现、撤销。
  • 三类失控:事件率过高、事件率过低、单派系占比过高,方向不同,处理方式也不同。
  • 判据用倍数不用绝对值:3 倍失控、0.2 倍熄火、80% 单极化。
  • 观测用 5 分钟滑动窗口,固定分桶会在边界产生跳变。
  • 窗口内要同时看事件率与参与角色数,同样的率含义可能完全不同。
  • 判定顺序是熄火、失控、单极化,熄火最难自动恢复,应该优先被看到。
  • 健康分只做看板与排序,不替代判据,也不该成为 KPI。
  • 区分惊喜与事故要问三个问题:可解释、可复现、可撤销。
  • 验收要做回放抽样与人工观看,前者保证可复现,后者保证质量。
  • 抽检比例按产品定,核心卖点要高于普通功能。

阅读导航:上一节:8.1 多 Agent 的最小规则 · 下一节:8.3 观测与刹车:什么时候关掉涌现 。

常见错误与边界

  1. 用绝对值定阈值。 基线随版本变化,每次更新都要重调,最终没人记得当前阈值是多少。
  2. 只防失控,不防熄火。 世界太安静同样失败,而且更难被投诉发现。
  3. 把所有偏离都当成事故。 惊喜本身也是偏离,一刀切会把涌现的收益一起关掉。
  4. 用健康分替代判据。 复合指标无法定位问题,还容易被人为拉高。
  5. 只做指标验收。 指标正常但行为无聊,玩家一样会流失。
  6. 事故只处理当次。 不复现、不回归,同类行为会在下次版本更新后再次出现。

判断出异常之后,还需要一套能分级、能升级、能恢复的刹车机制。下一节给出四级刹车与冷静期规则。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图