에이전틱 검색 예산

50개의 연구 작업을 하루에 처리하는 LangChain 에이전트가 작업당 20크레딧 예산으로 하루 1,000크레딧(Scavio 요금 기준 $5) 이내로 유지되는 반면, 상한선이 없는 에이전트는 첫 번째 테스트 실행에서 4,200크레딧을 사용했습니다.

에이전틱 검색 예산은(는) google, amazon, tiktok와 관련이 있습니다. Scavio는 이러한 모든 플랫폼의 데이터에 접근할 수 있는 통합 API를 제공합니다.

하루 1,000회 쿼리 기준으로 검색 API 비용은 제공업체에 따라 크게 다릅니다. Scavio는 크레딧당 $0.005를 청구하므로 하루 1,000회 쿼리는 하루 $5($150/월)입니다. SerpAPI는 $25/1,000개 플랜에서 쿼리당 $0.025이며, 동일한 볼륨에서 월 $750입니다. Serper는 월 $50에 500,000회 쿼리로 쿼리당 $0.0001로 낮추지만 선불 약정이 필요합니다. 예산 상한선이 없으면 루핑 에이전트가 몇 시간 만에 월별 할당량을 소진할 수 있습니다. 코드로 예산을 구현하는 것은 간단합니다. 각 도구 호출 전에 누적 크레딧을 추적하고 임계값에 도달하면 BudgetExceededError를 발생시킵니다. 대부분의 에이전트 프레임워크는 이를 위한 사전 도구 훅을 지원합니다: LangChain의 before_tool 콜백, LlamaIndex의 도구 래퍼, 또는 CrewAI 도구 클래스의 간단한 카운터. 실용적인 시작점은 세션 예산을 일일 크레딧 풀의 10-20%로 설정한 다음 관찰된 에이전트 동작에 따라 조정하는 것입니다. 추측적으로 검색하는 에이전트(헤징 검색)는 명시적인 검색-전-응답 규칙을 가진 에이전트보다 3-5배 더 많은 크레딧을 소비합니다. 예산 적용은 이러한 낭비를 즉시 드러냅니다.