Definizione
La chiamata di funzione è una capacità dei modelli linguistici di grandi dimensioni che permette loro di generare output JSON strutturati che corrispondono a firme di funzione predefinite, consentendo loro di invocare strumenti e API esterni come parte del loro processo di ragionamento.
Approfondimento
La chiamata di funzione è stata introdotta per colmare il divario tra comprensione del linguaggio naturale e invocazione strutturata di strumenti. Quando un LLM supporta la chiamata di funzione, gli sviluppatori definiscono funzioni con nomi, descrizioni e schemi di parametri. Il modello quindi determina quando chiamare una funzione, genera gli argomenti appropriati come JSON, e l'applicazione esegue la funzione e restituisce il risultato. Questa è la base delle architetture degli agenti AI in cui gli LLM devono interagire con sistemi esterni. API di ricerca come Scavio forniscono definizioni di funzione predefinite per framework popolari, rendendo banale aggiungere capacità di ricerca web a qualsiasi LLM abilitato alla chiamata di funzione.
Utilizzo di Esempio
Uno sviluppatore definisce una funzione 'search_google' con parametri per query, posizione e lingua. Quando un utente chiede al chatbot informazioni su eventi attuali, l'LLM genera una chiamata di funzione con la query di ricerca appropriata, l'app la esegue tramite Scavio e l'LLM riassume i risultati.
Piattaforme
Chiamata di funzione (LLM) è rilevante sulle seguenti piattaforme, tutte accessibili tramite l'API unificata di Scavio:
- Amazon
- YouTube
- Walmart
Termini correlati
Tool Calling degli Agenti AI
Il tool calling è il meccanismo con cui un agente AI istruisce un modello linguistico di grandi dimensioni a invocare un...
Model Context Protocol (MCP)
Il Model Context Protocol (MCP) è uno standard aperto che definisce come i grandi modelli linguistici scoprono e invocan...
Framework di Orchestrazione degli Agenti
Un framework di orchestrazione degli agenti è una libreria software che gestisce il ciclo di vita, la comunicazione e l'...