本系列导航
- 上一篇:第三十三章:后端 API 与任务架构
- 下一篇:第三十五章:隐私、安全与数据策略
- 返回目录:Birdor 商业计划书目录
本章关键词
AI 模型路由、成本控制、prompt 模板、AI credit、降级策略、质量评估、模型选择。
适合阅读的人
- 需要理解第三十四章:AI 模型路由与成本控制的人。
- 正在把 Birdor 商业计划书转成产品、内容、技术或运营动作的人。
- 希望从 AI 开发者工具平台视角建立系统判断的人。
本章摘要
Birdor 的 AI 能力必须集中治理。不同任务需要不同模型、不同上下文、不同成本预算和不同输出结构。如果每个工具页面直接调用模型,成本、质量和隐私都会失控。
AI 路由层应负责任务识别、模型选择、prompt 模板、输入裁剪、输出结构化、成本记录、失败降级和质量评估。
34.1 任务分类
AI 任务可分为:
- 生成:AI Regex、AI Config。
- 解释:JWT、SQL、错误信息。
- 修复:JSON/YAML/Config。
- 归因:AI Log Analyzer。
- 转换:JSON to schema with descriptions。
- 建议:安全检查、排查清单。
不同任务需要不同模型和预算。正则生成可以用较低成本模型,长日志归因可能需要更强模型和更长上下文。
34.2 模型路由
模型路由考虑:
- 任务类型。
- 输入长度。
- 用户套餐。
- 质量要求。
- 成本预算。
- 模型可用性。
免费用户可用轻量模型和短上下文,Pro 用户可用更高质量模型,Team/Enterprise 可配置更严格数据策略。
34.3 Prompt 模板
Prompt 不应散落在代码里。每个 AI 工具应有版本化模板:
- system instruction。
- input schema。
- output schema。
- safety rules。
- examples。
- version。
模板版本化能帮助回滚和评估质量。
34.4 输出结构化
AI 输出应尽量是结构化 JSON,而不是自由文本。比如 AI Log Analyzer 应返回 summary、clusters、hypotheses、evidence、checklist。AI Regex 应返回 regex、explanation、language、test_suggestions。
结构化输出便于前端展示、API 返回、质量评估和后续自动化。
34.5 成本控制
成本控制手段:
- 输入长度限制。
- AI credit。
- 模型分层。
- 任务频率限制。
- 异步队列。
- 缓存非敏感模板结果。
- 超额提醒。
敏感用户输入不应随意缓存。成本控制不能牺牲隐私。
34.6 降级策略
AI 失败时:
- 返回明确错误。
- 允许重试。
- 提供确定性工具结果。
- 提示缩短输入。
- 切换备用模型。
用户不应因为 AI 不可用而完全无法完成基础任务。
34.7 质量评估
AI 质量指标:
- 复制率。
- 保存率。
- 重新生成率。
- 测试通过率。
- 用户反馈。
- Pro 转化。
- 成本/成功任务。
不同工具要定义不同质量指标。AI Regex 看测试通过率,AI Log 看报告复制率和保存率。
34.8 本章结论
Birdor 的 AI 能力必须通过统一模型路由和成本控制层管理。任务分类、模型选择、prompt 版本、结构化输出、AI credit 和降级策略,是 AI 工具可持续的基础。
34.9 开发落地清单
第一批 AI 平台任务:
- 定义 AI task type。
- 定义 prompt template registry。
- 定义模型路由规则。
- 定义输入长度限制。
- 定义结构化输出 schema。
- 记录 token 和成本。
- 设计 AI credit 扣减。
- 设计失败和降级响应。
AI Regex 可以作为第一个接入工具,AI Log Analyzer 作为第二个高成本工具验证。
34.10 AI 风险
风险包括成本失控、输出不可解析、prompt 散落、模型切换影响质量、敏感输入进入不该进入的模型。解决方式是路由集中化、模板版本化、结构化输出和隐私提示。
34.11 验收标准
- 每次 AI 调用能知道任务类型。
- 每次 AI 调用能统计成本。
- 输出能被前端稳定解析。
- 超限时有明确错误。
- 模型失败时有降级。
- 用户能理解是否消耗 credit。
延伸阅读
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。