> ## Documentation Index
> Fetch the complete documentation index at: https://wb-21fd5541-docs-hivemind-launch.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# Serverless Inference에서 서버 오류(500, 503)는 어떻게 해결하나요?

서버 오류는 Serverless Inference 서비스에 일시적인 문제가 있음을 의미합니다.

<div id="error-types">
  ## 오류 유형
</div>

<div id="500-internal-server-error">
  ### 500 - 내부 서버 오류
</div>

**메시지:** "서버가 요청을 처리하는 중 오류가 발생했습니다"

이 오류는 서버 측에서 일시적으로 발생하는 내부 오류입니다.

<div id="503-service-overloaded">
  ### 503 - 서비스 과부하
</div>

**메시지:** "엔진이 현재 과부하 상태이므로, 나중에 다시 사용해 보세요"

서비스에 트래픽이 많이 몰리고 있습니다.

<div id="how-to-handle-server-errors">
  ## 서버 오류 처리 방법
</div>

1. **재시도하기 전에 기다리기**
   * 500 오류: 30\~60초 기다리세요
   * 503 오류: 60\~120초 기다리세요

2. **지수 백오프 사용**
   ```python theme={null}
   import time
   import openai

   def call_with_retry(client, messages, model, max_retries=5):
       for attempt in range(max_retries):
           try:
               return client.chat.completions.create(
                   model=model,
                   messages=messages
               )
           except Exception as e:
               if "500" in str(e) or "503" in str(e):
                   if attempt < max_retries - 1:
                       wait_time = min(60, (2 ** attempt))
                       time.sleep(wait_time)
                   else:
                       raise
               else:
                   raise
   ```

3. **적절한 타임아웃 설정**
   * HTTP 클라이언트의 타임아웃 값을 늘리세요
   * 더 안정적으로 처리하려면 비동기 오퍼레이션을 고려하세요

<div id="when-to-contact-support">
  ## 지원팀에 문의해야 하는 경우
</div>

다음과 같은 경우 지원팀에 문의하세요:

* 오류가 10분 이상 지속되는 경우
* 특정 시간대에 실패가 반복되는 경우
* 오류 메시지에 추가 세부 정보가 포함된 경우

다음 정보를 제공하세요:

* 오류 메시지 및 코드
* 오류가 발생한 시간
* 코드 스니펫(API 키 제거)
* W\&B entity 및 프로젝트 이름

***

<Badge stroke shape="pill" color="orange" size="md">[Inference](/ko/support/models/tags/inference)</Badge>