MCP 도구 신뢰성

자가 호스팅 검색 MCP를 사용하는 에이전트가 속도 제한으로 인해 200개 쿼리 배치 실행 중 12%의 도구 호출 실패를 경험했으며, 이로 인해 8개의 연구 작업이 사용자에게 오류를 표시하지 않고 불완전한 결과를 생성했습니다.

MCP 도구 신뢰성은(는) google, amazon와 관련이 있습니다. Scavio는 이러한 모든 플랫폼의 데이터에 접근할 수 있는 통합 API를 제공합니다.

세 가지 실패 모드가 프로덕션에서 대부분의 MCP 도구 불안정을 설명합니다. 첫째, 속도 제한 오류: 에이전트가 검색 MCP 도구를 빡빡한 루프에서 호출하면 분당 속도 제한(SerpAPI: $25 요금제에서 분당 30회 요청, Scavio: 요금제에 따라 다름)에 도달하여 MCP 서버가 오류를 반환하고 에이전트가 이를 재시도 대신 빈 결과로 잘못 해석합니다. 둘째, 콜드 스타트 지연 시간: 자가 호스팅 MCP 서버는 호출 사이에 0으로 스케일 다운됩니다. 콜드 기간 후 첫 번째 요청은 3~8초가 소요되어 일부 에이전트 프레임워크 타임아웃을 초과하고 도구 호출이 자동으로 실패합니다. 셋째, 컨텍스트 손실: 세션 중간에 도구 호출이 실패하고 에이전트가 실패를 인지하지 않고 재시도하면 원래 컨텍스트(무엇을 검색 중이었는지, 이유)가 손실되어 중복되거나 다른 검색이 발생합니다. 완화를 위해 세 가지 병행 접근 방식이 필요합니다: MCP 도구 구현에서의 지수 백오프(에이전트뿐만 아니라), 에이전트가 빈 결과와 구분할 수 있는 명시적 오류 반환 유형, 에이전트 컨텍스트 외부에 저장된 세션 상태(예: 간단한 SQLite 로그의 도구 호출 및 결과). 호스팅된 MCP 엔드포인트는 지연 시간 예측 가능성을 희생하여 콜드 스타트 문제를 제거합니다.