자동화오류1 API Rate Limit 대응: 429 재시도·백오프·동시성 제한 설계 API 호출이 갑자기 429 Too Many Requests로 실패한다면 무작정 재요청부터 해서는 안 됩니다. 서버가 보낸 Retry-After를 우선 따르고, 값이 없을 때는 상한이 있는 지수 백오프(exponential backoff)와 jitter를 적용해야 합니다. 그 앞단에는 동시성 제한과 토큰 버짓을 두고, 비동기 작업은 큐에서 흡수해야 합니다. 재시도 때문에 같은 업무가 두 번 실행되지 않도록 중복 방지도 필요합니다.이 글은 Anthropic Claude API와 Google Gemini API의 공식 문서를 2026년 7월 19일 기준으로 확인해, 운영 환경에서 429를 줄이고 안전하게 복구하는 방법을 설명합니다. 특정 요금제의 숫자는 모델·계정·사용 등급에 따라 달라질 수 있으므로 고정값.. 2026. 5. 23. 이전 1 다음
