Caída del contexto del agente

Definicion

La caída del contexto del agente es la pérdida del estado de razonamiento acumulado cuando una falla en una llamada a una herramienta a mitad de una sesión hace que un agente se reinicie o se desvíe de su tarea original sin retener el contexto anterior.

En profundidad

La caída de contexto es más común con las herramientas de búsqueda expuestas a MCP que devuelven errores HTTP debido a la limitación de velocidad. Cuando la llamada a la herramienta de búsqueda de un agente devuelve un 429 o 503, la mayoría de los marcos de agentes devuelven el error al LLM como resultado de la herramienta. El LLM puede interpretar esto como "no se encontraron resultados" y proceder con un enfoque diferente, que a menudo contradice conclusiones anteriores basadas en búsquedas exitosas. El agente no se ha estrellado; está silenciosamente mal. El mecanismo varía según el marco. En AgentExecutor de LangChain, una herramienta que devuelve una cadena de excepción hace que el agente continúe con esa cadena como contexto, lo que puede contaminar los pasos de razonamiento posteriores. ReActAgent de LlamaIndex continúa de manera similar después de los errores de la herramienta, tratando los mensajes de error como datos de observación. Sólo las configuraciones explícitas de parada en caso de error evitan la contaminación directa. Las herramientas de búsqueda de MCP con velocidad limitada son el principal desencadenante porque fallan de forma intermitente (algunas llamadas tienen éxito, otras fallan), creando un contexto parcialmente construido. Una sesión que ejecutó 8 búsquedas exitosamente antes de alcanzar un límite de velocidad tiene 8 resultados de contexto fundamentado seguidos de un error. El razonamiento posterior del agente se basa en una mezcla de datos reales y ausentes. Prevención: envuelva las llamadas a la herramienta MCP en una capa de reintento con retroceso exponencial antes de que lleguen al agente. Registre todos los resultados de la herramienta (éxito y fracaso) externamente. Utilice retornos de error estructurados que el mensaje de LLM maneje explícitamente ("Si ve TOOL_RATE_LIMITED, espere y vuelva a intentar la misma consulta").

Uso de ejemplo

Plataformas

Caída del contexto del agente es relevante en las siguientes plataformas, todas accesibles a través de la API unificada de Scavio:

• google

Terminos relacionados