把AI检索工作负载拆开
文档采集、切分、embedding、索引、查询召回、可选重排和生成各有身份与版本。记录文档ID、chunkID、内容版本、embedding模型/维度/归一化、索引版本和删除标记,才能解释更新后为什么仍命中旧片段。
向量索引提供相似度访问,但关系库也能通过扩展提供向量检索,列存也可能支持向量或文本索引。不能用“OLTP只有标量,向量库只有稠密向量”作为不可跨越的产品分类。
多模态不是任意向量直接相加
文本、图像、音频只有经过兼容的联合空间或明确映射,距离才有可比意义。两个模型维度相同不代表坐标语义兼容。升级embedding通常需要重新生成数据、重建与受控切换,而不是在同一字段混插新旧模型。
过滤、融合与重排
租户/访问权限必须成为检索及取回合同的一部分,避免把不该访问的候选传给后续生成。稀疏与密集召回窗口、RRF或加权融合、cross-encoder重排分别记质量;标量过滤不是双路融合,模型重排也不是RRF同义词。
召回K、重排候选C、生成上下文长度和延迟预算不能只由“每条0.5ms”线性推导。重排可批量运行,模型/硬件/长度决定实际耗时;生成还受上下文与输出长度影响。
更新、删除与缓存
数据写入确认、Growing可读、持久段和查询屏障仍按第9章区分。删除文档要追踪其全部chunk与缓存;索引重建和别名切换需追平新增/删除,旧索引保留与权限变化也需要明确。
质量验收分层:GT近邻召回、业务相关性、重排质量、引用可追溯性与最终回答正确性。向量召回满不意味着生成答案一定正确;一次Milvus搜索通过更不能代表整个RAG链路实测。
架构与流程
flowchart TD
DOC["文档/权限/内容版本"] --> CHUNK["chunk身份与删除传播"]
CHUNK --> EMB["固定模型版本生成兼容embedding"]
EMB --> INDEX["索引与可见性屏障"]
Q["查询与权限"] --> RET["稀疏/密集召回"]
INDEX --> RET
RET --> FUSE["融合与可选重排;质量分层"]
FUSE --> GEN["有来源与权限约束的上下文/生成"]
GEN --> EVAL["近邻、相关性、引用与回答分别验收"]
实现与验证边界
本卷集成模型只覆盖有限向量查询合同;Milvus探针不连接embedding、重排或LLM服务。多模态和RAG延迟属于架构讨论,未端到端实测。
下载卷十三实验包
。Java 8入口为 lab.RunAll;本节对应 lab.IntegrationSuite。按README分别运行模型与原生入口,失败必须返回非零。模型通过不代表完整产品实现。
一手资料
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。