지수백오프2 Claude API 재시도 설계: Node.js에서 중복과 장애를 함께 다루는 방법 요약(155자)Claude API 재시도는 오류 코드를 보고 반복하는 기능이 아니다. SDK 기본값, Retry-After, 지수 백오프와 jitter, 시간 예산, 중복 처리 방지, request-id 로깅을 함께 설계해야 한다. 이 글은 자동 테스트 가능한 Node.js 구현을 제시한다.API 자동화를 운영하다 보면 429나 529는 피할 수 없다. 문제는 오류 자체보다 재시도 방식이다. 실패 즉시 같은 요청을 반복하면 제한이 풀리기 전에 다시 막히고, 여러 작업이 동시에 재시도되면 순간 트래픽이 더 커진다. 반대로 모든 오류를 포기하면 잠깐의 네트워크 흔들림에도 작업이 유실된다.재시도 정책에는 다음 질문의 답이 들어 있어야 한다.어떤 실패를 다시 시도할 것인가?얼마나 기다리고, 최대 몇 번 시도할 .. 2026. 5. 23. API Rate Limit 대응: 429 재시도·백오프·동시성 제한 설계 API 호출이 갑자기 429 Too Many Requests로 실패한다면 무작정 재요청부터 해서는 안 됩니다. 서버가 보낸 Retry-After를 우선 따르고, 값이 없을 때는 상한이 있는 지수 백오프(exponential backoff)와 jitter를 적용해야 합니다. 그 앞단에는 동시성 제한과 토큰 버짓을 두고, 비동기 작업은 큐에서 흡수해야 합니다. 재시도 때문에 같은 업무가 두 번 실행되지 않도록 중복 방지도 필요합니다.이 글은 Anthropic Claude API와 Google Gemini API의 공식 문서를 2026년 7월 19일 기준으로 확인해, 운영 환경에서 429를 줄이고 안전하게 복구하는 방법을 설명합니다. 특정 요금제의 숫자는 모델·계정·사용 등급에 따라 달라질 수 있으므로 고정값.. 2026. 5. 23. 이전 1 다음
