Vérification des faits par ancrage des sorties IA

Une entreprise de legal tech vérifie chaque résumé de contrat généré par IA après coup. Le système extrait 8 affirmations vérifiables par résumé (références législatives, dates limite de dépôt, montants des frais) et vérifie chacune d'elles par rapport aux résultats de recherche Scavio. Coût : 0,04 $/résumé. Le système a détecté 3 citations de lois incorrectes au cours de la première semaine qui auraient causé des problèmes de conformité.

Vérification des faits par ancrage des sorties IA est pertinent pour Google. Scavio fournit une API unifiée pour accéder aux données de toutes ces plateformes.

Les LLM hallucinent. Les vérifications des faits par ancrage détectent les hallucinations après génération en extrayant les affirmations vérifiables de la sortie et en recherchant des preuves. Le processus : 1) Analyser la sortie du LLM pour les affirmations factuelles (noms, dates, prix, statistiques, événements). 2) Pour chaque affirmation, construire une requête de recherche de vérification. 3) Comparer les résultats de recherche avec l'affirmation. 4) Signaler les affirmations sans preuve corroborante ou avec contradictions directes. Cela se distingue du RAG (qui ancre la génération avec un contexte pré-extraite) car il opère après génération comme une étape de vérification. Les deux approches sont complémentaires : le RAG réduit les hallucinations au moment de la génération, et les vérifications des faits par ancrage capturent ce que le RAG manque. Le coût est proportionnel au nombre d'affirmations vérifiables. Une sortie typique de LLM de 500 mots contient 5 à 10 affirmations vérifiables. Au tarif de 0,005 $/requête de Scavio, la vérification d'une sortie coûte 0,025 à 0,05 $. Pour les sorties à enjeux élevés (conseils financiers, informations médicales, conseils juridiques), ce coût est négligeable par rapport à la responsabilité liée à des informations incorrectes. Le point de terminaison extract de Tavily peut également prendre en charge ce workflow à 0,03 $/requête sur le niveau Researcher. Le principal défi technique est l'extraction des affirmations — déterminer quelles déclarations sont vérifiables par rapport aux opinions subjectives.