Evite la quema de tokens de agente con resultados de búsqueda estructurados

El problema

Los agentes que extraen HTML sin formato o ingieren fragmentos de búsqueda no estructurados descargan miles de tokens en la ventana contextual por consulta. Una sola página web puede consumir entre 8.000 y 15.000 tokens después de la conversión de HTML a texto. Con GPT-4o a $2,50 por millón de tokens de entrada y Claude a $3, una sesión de 50 consultas gasta entre $0,50 y $1,00 solo en el contexto de búsqueda. La mayoría de esos tokens son barras de navegación, pies de página y texto estándar que el modelo ignora.

La solucion de Scavio

Reemplace las recuperaciones de páginas sin formato con el punto final JSON estructurado de Scavio. Cada resultado devuelve un título, un fragmento, un enlace y un texto de descripción general de IA opcional (normalmente entre 50 y 100 tokens por resultado, frente a más de 8000 para una página sin formato). Introduzca los cinco resultados principales en el contexto para obtener menos de 500 tokens en total. El agente obtiene la misma base fáctica a 1/20 del coste simbólico.

Para quien es

Ingenieros de inteligencia artificial que crean agentes con búsqueda aumentada que desean reducir los costos de inferencia de LLM y la latencia minimizando el uso de la ventana de contexto.

Beneficios clave

• Reducir el contexto de búsqueda de 40.000 tokens a 500 tokens por consulta
• Reducir el costo de insumos de LLM en un 95% para agentes basados ​​en búsquedas
• Inferencia más rápida porque el modelo procesa menos contexto
• Los campos estructurados se asignan directamente a esquemas de llamada de herramientas
• Sin análisis de HTML, sin eliminación de textos repetitivos

Ejemplo en Python

import requests, os

H = {'x-api-key': os.environ['SCAVIO_API_KEY']}

def lean_context(query: str, n: int = 5) -> str:
    """Return structured search context under 500 tokens."""
    r = requests.post('https://api.scavio.dev/api/v1/search', headers=H,
        json={'platform': 'google', 'query': query}, timeout=10).json()
    lines = []
    for o in r.get('organic', [])[:n]:
        lines.append(f"[{o.get('title')}]({o.get('link')})\n{o.get('snippet')}")
    return '\n\n'.join(lines)

# Before: fetched 5 full pages = ~40,000 tokens
# After: structured results = ~400 tokens
ctx = lean_context('best search api for ai agents 2026')
print(f'Context length: ~{len(ctx)//4} tokens')
print(ctx)

Ejemplo en JavaScript

const H = { 'x-api-key': process.env.SCAVIO_API_KEY, 'Content-Type': 'application/json' };

async function leanContext(query, n = 5) {
  const r = await fetch('https://api.scavio.dev/api/v1/search', {
    method: 'POST', headers: H,
    body: JSON.stringify({ platform: 'google', query })
  }).then(r => r.json());
  return (r.organic || []).slice(0, n).map(o =>
    `[${o.title}](${o.link})\n${o.snippet}`
  ).join('\n\n');
}

const ctx = await leanContext('best search api for ai agents 2026');
console.log(`Context length: ~${Math.ceil(ctx.length / 4)} tokens`);
console.log(ctx);

Plataformas utilizadas