Conexión a tierra de LLM a través de API de búsqueda

Definicion

La base de LLM a través de la API de búsqueda es el patrón de ejecutar una consulta de búsqueda antes de completar un LLM, luego formatear los resultados de la búsqueda como fuentes numeradas en el mensaje del LLM con instrucciones de cita explícitas, de modo que la respuesta del LLM esté vinculada a las fuentes recuperadas en lugar de a sus datos de entrenamiento.

En profundidad

Grounding aborda tres modos de falla del LLM: alucinación (hechos inventados), estancamiento (derivación del límite de entrenamiento) e inverificabilidad (sin fuente para verificar). Los LLM locales (Qwen 9B-35B, Llama-3, DeepSeek) son más sensibles a la calidad de la fuente que los LLM en la nube porque sus ventanas de contexto son más ajustadas: tokens desperdiciados en la señal de compresión de ruido HTML. El JSON escrito desde una API de búsqueda (resultados orgánicos de Scavio, resultados de Tavily) reduce el desperdicio de contexto frente al HTML sin formato en aproximadamente 10 veces. El mensaje de conexión a tierra normalmente: (1) enumera las fuentes numeradas [1] [2] [3]...; (2) indica respuesta con [N] marcadores por reclamo; (3) le dice al LLM que se abstenga ("No lo sé según estas fuentes") si no cuenta con respaldo. Una publicación de r/LocalLLaMA de abril de 2026 documentó las correcciones de las alucinaciones de Qwen a través de este patrón.

Uso de ejemplo

Plataformas

Conexión a tierra de LLM a través de API de búsqueda es relevante en las siguientes plataformas, todas accesibles a través de la API unificada de Scavio:

• google

Terminos relacionados