Transfert de fenêtre de contexte d'agent

Définition

Technique de transmission efficace des résultats de recherche entre les étapes d'un pipeline d'agent IA multi-étapes, utilisant le résumé, l'extraction de clés ou la sérialisation structurée pour éviter le débordement de la fenêtre de contexte tout en préservant les informations nécessaires au raisonnement en aval.

En profondeur

Les agents multi-étapes qui effectuent des recherches web génèrent de grandes quantités de données contextuelles. Une seule recherche Google renvoie 10 résultats organiques ou plus avec titres, extraits et URL. Un agent effectuant 5 recherches accumule 15 à 30 Ko de texte de recherche brut, ce qui peut consommer une part importante de la fenêtre de contexte disponible, surtout combiné avec les prompts système, l'historique de conversation et les schémas d'outils. Stratégies de transfert classées par efficacité contextuelle : (1) Extraction de clés -- après chaque recherche, extraire uniquement les faits spécifiques nécessaires (prix, dates, noms) et jeter les résultats complets. La plus efficace en termes de contexte mais perd les détails de support. (2) Résumé structuré -- utiliser le LLM pour résumer les résultats de recherche en un objet JSON compact avec des champs prédéfinis. Réduit 5 Ko de résultats à 200-500 octets. (3) Troncature Top-N -- conserver seulement les 3 premiers résultats au lieu des 10. Simple mais peut manquer des résultats pertinents en positions inférieures. (4) Indexation de référence -- stocker les résultats complets dans un stockage externe, passer seulement un index/ID à l'étape suivante de l'agent, et récupérer quand nécessaire. Aucun surcoût de contexte mais nécessite un stockage externe. Pour les agents utilisant les réponses JSON structurées de Scavio, les données sont déjà partiellement optimisées pour le transfert. Les champs structurés (titre, extrait, lien) sont plus compacts que le HTML brut. Optimisation supplémentaire : supprimer les champs dont l'étape suivante n'a pas besoin. Si l'agent a seulement besoin des URL, ne passer que le tableau de liens. S'il a besoin de résumés, ne passer que les champs d'extrait. Implémentation pratique : définir un schéma de transfert par étape d'agent qui spécifie quels champs de résultat de recherche conserver. Le schéma agit comme un filtre, appliqué après chaque étape de recherche avant que les résultats n'entrent dans la fenêtre de contexte.

Exemple d'utilisation

Plateformes

Transfert de fenêtre de contexte d'agent est pertinent sur les plateformes suivantes, toutes accessibles via l'API unifiée de Scavio :

• Google
• Amazon
• YouTube
• Reddit

Termes associés