定义
OpenWebUI 中的搜索集成层,将本地 LLM 聊天界面连接到网络搜索结果,可通过环境变量或 MCP 配置为多个搜索提供商。
深入了解
OpenWebUI 是一个流行的自托管 LLM 聊天界面,支持 Ollama 和其他本地模型。其搜索后端通过环境变量配置搜索提供商。当用户提问时,OpenWebUI 可以自动搜索网络并将结果作为上下文提供给 LLM,实现搜索 grounding。支持的提供商包括 Scavio、Tavily、Brave Search、SearXNG 等。对于运行本地 LLM 的团队,搜索后端是减少幻觉和提供当前信息的关键组件。
用法示例
一名开发者将 OpenWebUI 的 RAG_WEB_SEARCH_ENGINE 配置为「scavio」,添加 API 密钥。现在当 Ollama 上运行的本地 Qwen 模型被问到当前事件时,OpenWebUI 自动搜索网络并将结果注入上下文。零代码更改。
平台
OpenWebUI 搜索后端在以下平台中相关,所有这些平台都可通过Scavio的统一API访问:
相关术语
SearXNG 可靠性
衡量自托管 SearXNG 元搜索实例返回完整、准确搜索结果一致性的指标,考虑上游引擎速率限制、IP 封锁、验证码挑战和配置漂移导致的间歇性故障。...
本地 LLM MCP 集成
将本地运行的大语言模型(Ollama、llama.cpp、vLLM)通过 Model Context Protocol(MCP)服务器连接到外部工具和 API,使自托管的 AI 模型能够访问网络搜索、数据库和其他数据源。...
低成本搜索API
低成本搜索API是以较低单价提供搜索结果数据的API服务,通常通过简化的结果集、较低的频率限制或基础功能来降低成本,适合预算有限的初创公司和个人开发者。...