定义
用于 RAG 的本地搜索索引是在本地或自托管的搜索引擎(如 Elasticsearch、Meilisearch 或 SQLite FTS),作为检索增强生成管道中的检索后端,提供对精选语料库的快速、私密且零成本的搜索。
深入了解
RAG 系统在 LLM 生成响应之前需要检索步骤来查找相关文档。本地搜索索引在开发者自己的基础设施上存储和搜索精选的文档语料库。这提供了零延迟、零成本和完全私密的检索,但仅限于已索引的文档。对于超出本地语料库的问题,混合方法将本地搜索与实时搜索 API 结合。本地索引处理已知领域查询(公司文档、产品目录、历史数据),而搜索 API 处理开放领域查询(竞品信息、时事、公众情绪)。Scavio 的 API 在此架构中充当实时搜索层,补充而非替代本地索引。
用法示例
一个客户支持机器人首先搜索本地 Meilisearch 索引中的帮助文章。如果置信度分数低于 0.7,它回退到 Scavio 的 Google 端点搜索公共网络以获取答案,确保即使内部文档不完整也能覆盖。
平台
用于 RAG 的本地搜索索引在以下平台中相关,所有这些平台都可通过Scavio的统一API访问:
- YouTube