《大规模分布式计算深入解析》15.1 AI 数据基础设施:向量与多模态工作负载设计空间

RAG检索是带权限、版本与时间边界的数据流程;多模态共享空间需要兼容训练,近邻召回与生成正确性分别验证。

把AI检索工作负载拆开

文档采集、切分、embedding、索引、查询召回、可选重排和生成各有身份与版本。记录文档ID、chunkID、内容版本、embedding模型/维度/归一化、索引版本和删除标记,才能解释更新后为什么仍命中旧片段。

向量索引提供相似度访问,但关系库也能通过扩展提供向量检索,列存也可能支持向量或文本索引。不能用“OLTP只有标量,向量库只有稠密向量”作为不可跨越的产品分类。

多模态不是任意向量直接相加

文本、图像、音频只有经过兼容的联合空间或明确映射,距离才有可比意义。两个模型维度相同不代表坐标语义兼容。升级embedding通常需要重新生成数据、重建与受控切换,而不是在同一字段混插新旧模型。

过滤、融合与重排

租户/访问权限必须成为检索及取回合同的一部分,避免把不该访问的候选传给后续生成。稀疏与密集召回窗口、RRF或加权融合、cross-encoder重排分别记质量;标量过滤不是双路融合,模型重排也不是RRF同义词。

召回K、重排候选C、生成上下文长度和延迟预算不能只由“每条0.5ms”线性推导。重排可批量运行,模型/硬件/长度决定实际耗时;生成还受上下文与输出长度影响。

更新、删除与缓存

数据写入确认、Growing可读、持久段和查询屏障仍按第9章区分。删除文档要追踪其全部chunk与缓存;索引重建和别名切换需追平新增/删除,旧索引保留与权限变化也需要明确。

质量验收分层:GT近邻召回、业务相关性、重排质量、引用可追溯性与最终回答正确性。向量召回满不意味着生成答案一定正确;一次Milvus搜索通过更不能代表整个RAG链路实测。

架构与流程

flowchart TD
 DOC["文档/权限/内容版本"] --> CHUNK["chunk身份与删除传播"]
 CHUNK --> EMB["固定模型版本生成兼容embedding"]
 EMB --> INDEX["索引与可见性屏障"]
 Q["查询与权限"] --> RET["稀疏/密集召回"]
 INDEX --> RET
 RET --> FUSE["融合与可选重排;质量分层"]
 FUSE --> GEN["有来源与权限约束的上下文/生成"]
 GEN --> EVAL["近邻、相关性、引用与回答分别验收"]

实现与验证边界

本卷集成模型只覆盖有限向量查询合同;Milvus探针不连接embedding、重排或LLM服务。多模态和RAG延迟属于架构讨论,未端到端实测。

下载卷十三实验包 。Java 8入口为 lab.RunAll;本节对应 lab.IntegrationSuite。按README分别运行模型与原生入口,失败必须返回非零。模型通过不代表完整产品实现。

一手资料

卷十三目录 · 系列导读

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析·向量数据库与 AI 检索内核》 · 目录与学习路径(45 篇)
  2. 《大规模分布式计算深入解析》15.3 自研向量引擎:可执行骨架与工程缺口
  3. 《大规模分布式计算深入解析》14.1 Milvus:组件架构、段管理与检索链路