Evita tormentas de reintentos en agentes

El problema

Cuando la herramienta de búsqueda de un agente en producción devuelve un fallo parcial (timeout, límite de tasa, error de parser), el LLM reintenta. Los reintentos sin control en toda una flota causan tormentas de reintentos que agotan presupuestos, bloquean agentes buenos detrás de los fallidos y a veces escalan a incidentes.

La solucion de Scavio

Scavio incluye códigos de error estructurados, esquemas estables y una tasa de éxito respaldada por SLA. Tu agente puede distinguir un fallo real de un contratiempo transitorio y dejar de reintentar cuando hacerlo no servirá de nada. Combinado con timeouts por llamada y circuit breakers, las tormentas de reintentos se vuelven raras y recuperables.

Para quien es

Equipos que operan flotas de agentes en producción cuyo equipo de guardia ha sido alertado por tormentas de reintentos.

Beneficios clave

• Códigos de error tipados permiten al agente decidir cuándo reintentar
• Tasa de éxito respaldada por SLA en todas las plataformas
• Esquema de respuesta estable que elimina reintentos por fallos del parser
• Limitación de tasa por llamada que previene fallos en cascada
• Documentación oficial sobre patrones de reintentos para agentes en producción

Ejemplo en Python

import requests, os, time
for attempt in range(3):
    r = requests.post('https://api.scavio.dev/api/v1/search',
        headers={'x-api-key': os.environ['SCAVIO_API_KEY']},
        json={'query': 'hello'})
    if r.status_code == 429:
        time.sleep(int(r.headers.get('Retry-After', 2)))
        continue
    r.raise_for_status()
    break

Ejemplo en JavaScript

for (let attempt = 0; attempt < 3; attempt++) {
  const r = await fetch('https://api.scavio.dev/api/v1/search', {
    method: 'POST',
    headers: { 'x-api-key': process.env.SCAVIO_API_KEY, 'content-type': 'application/json' },
    body: JSON.stringify({ query: 'hello' }),
  });
  if (r.status === 429) { await new Promise(res => setTimeout(res, 2000)); continue; }
  break;
}

Plataformas utilizadas