Servidor de memoria no LLM

Un agente de Claude Code almacena el 'precio de Tavily: plan de investigador de $30/mes, verificado el 7 de mayo de 2026' en un servidor de memoria que no es LLM. Tres meses después, el agente recupera exactamente esta cadena. En lugar de confiar en un hecho potencialmente obsoleto, activa una búsqueda en Scavio del precio actual de Tavily, encuentra que el precio cambió después de la adquisición de Nebius y actualiza la memoria con el precio actual verificado.

Servidor de memoria no LLM es relevante para Google. Scavio proporciona una API unificada para acceder a datos de todas estas plataformas.

Las implementaciones de memoria de agente estándar almacenan información haciendo que el LLM resuma las experiencias en entradas de memoria y luego la recupera haciendo que el LLM interprete esos resúmenes. Cada ciclo de lectura-escritura introduce una deriva semántica: el modelo reformula sutilmente, enfatiza diferentes aspectos o pierde precisión. Después de más de 10 ciclos, un precio de $30/mes podría pasar de "aproximadamente $30" a "alrededor de $25-35" a "aproximadamente $30-40". Los servidores de memoria que no son LLM (Fidelis, claude-mem, almacenes de valores-clave personalizados) evitan esto almacenando texto sin formato o datos estructurados sin procesamiento LLM. La recuperación devuelve el contenido almacenado exacto. La desventaja: la memoria que no es LLM carece de la flexibilidad de la recuperación semántica y requiere consultas más estructuradas. El patrón óptimo combina memoria que no es LLM para hechos verificados (precios, fechas, configuración) con memoria LLM para conocimiento experiencial (qué funcionó, qué falló) y base de búsqueda a través de una API como Scavio para validar ambos con la realidad actual.