Eficiencia del token SERP API

Definicion

La eficiencia del token de la API SERP mide cuántos tokens LLM consume una respuesta de la API de búsqueda cuando se pasa como contexto a un modelo de IA. Las respuestas JSON estructuradas utilizan entre 600 y 800 tokens frente a 4000-8000 tokens para HTML sin formato, lo que afecta directamente los costos de LLM y la utilización de la ventana de contexto.

En profundidad

Cuando un agente de IA busca en la web y pasa los resultados a un LLM, el formato de respuesta determina el consumo de tokens. El HTML sin procesar de una página de resultados de Google incluye elementos de navegación, JavaScript, referencias de CSS y marcas publicitarias que son irrelevantes para los resultados de búsqueda. Una API SERP estructurada elimina todo esto y devuelve solo los campos de datos: títulos, fragmentos, URL, preguntas PAA, datos de Knowledge Graph. Con un precio de entrada GPT-40 ($2,50/1 millón de tokens), la diferencia entre 800 tokens (estructurados) y 6000 tokens (sin procesar) por búsqueda es de $0,013/búsqueda en costos de LLM. Para los agentes que realizan 100 búsquedas al día, esto les ahorra $1,30 al día ($39 al mes) solo en costos de LLM. El impacto de la ventana de contexto es aún más significativo: una ventana de contexto de 32K se adapta a 40 resultados de búsqueda estructurados frente a 5 resultados HTML sin formato.

Uso de ejemplo

Plataformas

Eficiencia del token SERP API es relevante en las siguientes plataformas, todas accesibles a través de la API unificada de Scavio:

• Google

Terminos relacionados