Presupuesto contextual del MCP

Definicion

El presupuesto de contexto de MCP es la parte de la ventana de contexto de un LLM que consumen las definiciones de herramientas de MCP (esquemas, descripciones, parámetros) y las respuestas de las herramientas, lo que reduce el espacio disponible para el historial de conversaciones, las instrucciones del usuario y el razonamiento.

En profundidad

Cada herramienta conectada a un LLM a través de MCP tiene un costo medido en tokens: el nombre de la herramienta, la descripción, el esquema de parámetros y cualquier ejemplo consumen colectivamente espacio de ventana de contexto. Una definición típica de herramienta MCP utiliza entre 200 y 500 tokens. Un servidor MCP con 10 herramientas puede consumir entre 2000 y 5000 tokens solo en definiciones. Si el agente también tiene datos de respuesta de la herramienta en contexto (resultados de búsqueda, filas de la base de datos, contenido de archivos), el presupuesto crece aún más. El presupuesto de contexto se convierte en una preocupación práctica cuando los agentes tienen varios servidores MCP conectados. Una configuración con servidores MCP Scavio (búsqueda), GitHub (código), Postgres (base de datos), Slack (mensajería) y Linear (administración de proyectos) podría tener más de 30 definiciones de herramientas que consumen más de 10 000 tokens: aproximadamente del 5 al 10 % de una ventana de contexto de 128 KB, o del 20 al 40 % de una ventana más pequeña de 32 KB. Esto deja menos espacio para el historial de conversaciones, lo que puede hacer que el agente pierda la pista de las instrucciones o el contexto anteriores. Las estrategias de gestión incluyen: carga de herramientas bajo demanda (solo cargar herramientas cuando sea necesario), compresión de descripciones de herramientas (descripciones más breves que aún transmiten función), consolidación de servidores (menos servidores con conjuntos de herramientas enfocados) y selección de LLM con ventanas de contexto más grandes para flujos de trabajo con muchas herramientas. El diseño ideal del servidor MCP expone sólo las herramientas que el agente objetivo realmente necesita: el servidor MCP de Scavio, por ejemplo, expone un conjunto enfocado de herramientas de búsqueda en lugar de docenas de funciones de utilidad.

Uso de ejemplo

Plataformas

Presupuesto contextual del MCP es relevante en las siguientes plataformas, todas accesibles a través de la API unificada de Scavio:

• Google
• Amazon
• YouTube
• Walmart
• Reddit

Terminos relacionados