Definicion
La llamada a funciones es una capacidad de los modelos de lenguaje grandes que les permite generar salidas JSON estructuradas que coinciden con firmas de funciones predefinidas, lo que les permite invocar herramientas externas y API como parte de su proceso de razonamiento.
En profundidad
La llamada a funciones se introdujo para cerrar la brecha entre la comprensión del lenguaje natural y la invocación de herramientas estructuradas. Cuando un LLM admite llamadas a funciones, los desarrolladores definen funciones con nombres, descripciones y esquemas de parámetros. Luego, el modelo determina cuándo llamar a una función, genera los argumentos apropiados como JSON y la aplicación ejecuta la función y devuelve el resultado. Esta es la base de las arquitecturas de agentes de IA donde los LLM necesitan interactuar con sistemas externos. Las API de búsqueda como Scavio proporcionan definiciones de funciones prediseñadas para marcos populares, lo que hace que sea trivial agregar capacidades de búsqueda web a cualquier LLM habilitado para llamadas de funciones.
Uso de ejemplo
Un desarrollador define una función 'search_google' con parámetros de consulta, ubicación e idioma. Cuando un usuario pregunta al chatbot sobre eventos actuales, el LLM genera una llamada de función con la consulta de búsqueda adecuada, la aplicación la ejecuta a través de Scavio y el LLM resume los resultados.
Plataformas
Llamada a funciones (LLM) es relevante en las siguientes plataformas, todas accesibles a través de la API unificada de Scavio:
- Amazon
- YouTube
- Walmart
Terminos relacionados
Llamada a la herramienta del agente de IA
La llamada a herramientas es el mecanismo mediante el cual un agente de IA indica a un modelo de lenguaje grande que inv...
Protocolo de contexto modelo (MCP)
Model Context Protocol (MCP) es un estándar abierto que define cómo los modelos de lenguaje grandes descubren e invocan ...
Marco de orquestación de agentes
Un marco de orquestación de agentes es una biblioteca de software que gestiona el ciclo de vida, la comunicación y el us...