함수 호출 (LLM)

개발자는 쿼리, 위치, 언어에 대한 매개변수를 사용하여 'search_google' 함수를 정의합니다. 사용자가 챗봇에게 현재 이벤트에 대해 물으면 LLM은 적절한 검색 쿼리로 함수 호출을 생성하고, 앱은 Scavio를 통해 이를 실행하며, LLM이 결과를 요약합니다.

함수 호출 (LLM)은(는) Google, Amazon, YouTube, Walmart, Reddit와 관련이 있습니다. Scavio는 이러한 모든 플랫폼의 데이터에 접근할 수 있는 통합 API를 제공합니다.

함수 호출은 자연어 이해와 구조화된 도구 호출 간의 격차를 해소하기 위해 도입되었습니다. LLM이 함수 호출을 지원할 때 개발자는 이름, 설명, 매개변수 스키마로 함수를 정의합니다. 그런 다음 모델은 함수를 호출할 시기를 결정하고 적절한 인수를 JSON으로 생성하며, 애플리케이션이 함수를 실행하고 결과를 반환합니다. 이는 LLM이 외부 시스템과 상호 작용해야 하는 AI 에이전트 아키텍처의 기초입니다. Scavio와 같은 검색 API는 인기 있는 프레임워크에 대한 사전 구축된 함수 정의를 제공하여 함수 호출이 가능한 모든 LLM에 웹 검색 기능을 쉽게 추가할 수 있게 합니다.