LLM Grounding

Définition

L'ancrage LLM est la pratique qui consiste à connecter un grand modèle de langage à des sources de données externes (API de recherche, bases de données, documents) afin que ses réponses soient ancrées dans des faits vérifiables et actuels, plutôt que de reposer uniquement sur les données d'entraînement.

En profondeur

Les modèles de langage génèrent du texte en se basant sur des motifs appris lors de l'entraînement, ce qui signifie qu'ils peuvent énoncer avec confiance des informations obsolètes ou fabriquées (hallucination). L'ancrage remédie à cela en injectant des données externes en temps réel dans le contexte du modèle avant qu'il ne génère une réponse. L'ancrage basé sur la recherche est l'approche la plus courante : l'agent interroge une API de recherche avec la question de l'utilisateur, récupère les résultats actuels et les inclut dans le prompt du LLM comme contexte. Le modèle génère ensuite une réponse ancrée dans ces résultats. Un ancrage efficace nécessite des résultats de recherche structurés (pas de HTML brut) afin que le modèle puisse analyser et raisonner sur les données. L'ancrage multiplateforme (recherche sur Google, Reddit, YouTube et Amazon) fournit un contexte plus riche que l'ancrage sur une seule source, car le modèle peut recouper les informations entre les sources.

Exemple d'utilisation

Plateformes

LLM Grounding est pertinent sur les plateformes suivantes, toutes accessibles via l'API unifiée de Scavio :

• Google
• Reddit
• YouTube
• Amazon
• Walmart

Termes associés