Base URL 이해하기
base URL은 클라이언트가 요청을 보내는 위치를 정의합니다. 여기서 불일치가 발생하면 즉시 연결 실패 또는 예상치 못한 모델 응답이 발생합니다. 많은 개발자가 표준 OpenAI URL이 보편적으로 작동한다고 가정하지만, 무제한 제공업체는 종종 트래픽을 특정 모델 풀로 라우팅하기 위해 고유한 엔드포인트를 사용합니다.
구성이 다음을 가리키는지 확인하세요. https://api.openrouterabliteratedmodels.com/v1 당사 서비스를 위해. 서드파티 애그리게이터를 사용하는 경우 기본 URL이 해당 문서와 정확히 일치하는지 확인하십시오. 잘못된 URL은 종종 404 오류나 의도된 검열 없는 변형이 아닌 기본 모델의 응답을 초래합니다.
- 환경 변수를 확인하세요
BASE_URL또는API_HOST. - 경로에
/v1표준 호환성을 위해 - 고부하 사용 전 간단한 모델 목록 요청으로 연결성을 테스트하세요.
レートリミット 처리
Rate limits는 특정 시간 범위 내에서 보낼 수 있는 요청 수를 제한합니다. 당사 API는 키당 분당 300개의 요청 제한을 적용합니다. 이 한도를 초과하면 창이 초기화될 때까지 추가 요청이 일시적으로 차단되는 HTTP 429 오류가 발생합니다.
또한 키당 동시에 8개의 요청에 대한 동시 요청 제한이 있습니다. 8개 이상의 동시 요청을 보내면 초과분은 클라이언트 라이브러리에 따라 대기열에 있거나 실패합니다. 이러한 하드 제한에 도달하지 않도록 애플리케이션의 동시성을 모니터링하십시오. 서버에 스팸을 보내지 않고 429 오류를 우아하게 처리하기 위해 코드에서 지수 백오프 전략을 사용하십시오.
각 키는 계정에 고유하다는 점을 기억하세요. 여러 서비스 간에 키를 공유하면 이러한 제한에 더 빨리 도달할 수 있습니다. 애플리케이션의 다른 부분에 별도의 속도 제한 풀이 필요한 경우 새 키를 생성하세요.
스트리밍 vs 비스트리밍 응답
스트리밍은 토큰이 생성되는 대로 점진적으로 데이터를 반환하는 반면, 비스트리밍은 전체 응답을 기다립니다. 스트리밍은 실시간 사용자 경험에 필수적이지만 서버 전송 이벤트(SSE)의 신중한 처리가 필요합니다.
스트리밍 시 마지막 청크에는 토큰 사용량 통계가 포함됩니다. 처리를 조기에 중단하면 이 데이터를 놓칠 수 있습니다. 클라이언트가 마지막 SSE 메시지를 파싱하여 입력 및 출력 토큰 수를 정확하게 검색하도록 하세요. 비스트리밍 응답은 더 간단하지만 긴 출력의 경우 높은 지연 시간을 유발할 수 있습니다.
사용자가 텍스트가 한 글자씩 나타나는 채팅 인터페이스에는 스트리밍을 선택하세요. 배치 처리나 다음 작업을 진행하기 전에 전체 응답이 필요할 때는 비스트리밍을 사용하세요. 당사 API는 다음을 통해 두 모드 모두 지원합니다. stream 요청 본문에 파라미터를 포함합니다.
JSON 모드 오류
JSON 모드는 모델이 유효한 JSON을 출력하도록 보장하며, 이는 프로그래밍적 통합에 중요합니다. 여기서 오류는 종종 잘못된 헤더 또는 스키마 불일치에서 비롯됩니다. API는 response_format: {"type": "json_object"} 엄격한 JSON 출력을 강제합니다.
잘못된 JSON이 반환되면 스키마 정의를 확인하십시오. 모델이 JSON 구조 외부에 마크다운 코드 블록이나 설명 텍스트를 포함할 수 있습니다. 마크다운 펜스를 제거하거나 예상 스키마에 따라 출력을 검증할 수 있는 강력한 파서를 사용하십시오. 모델을 혼란스럽게 할 수 있는 너무 복잡한 스키마를 피하십시오.
먼저 간단한 구조로 테스트하세요. 점진적으로 복잡도를 추가하여 모델이 어디에서 어려움을 겪는지 파악하세요. 온도를 적절하게 설정하는지 확인하세요. 높은 온도는 무작위성을 증가시키고 JSON 유효성을 낮출 수 있기 때문입니다.
토큰 수 오계산
토큰 수는 청구 및 컨텍스트 윈도우 사용량을 결정합니다. 계산 오류은 예상치 못한 요금 또는 잘린 응답을 초래할 수 있습니다. 저희 API는 1M 입력 토큰당 $0.15, 1M 출력 토큰당 $0.50을 청구합니다.
모델의 토큰화 방식과 일치하는 신뢰할 수 있는 토크나이저 라이브러리를 사용하세요. 서로 다른 모델은 공백이나 구두점을 다르게 토큰화할 수 있어 로컬 계산과 API 계산 간 불일치가 발생할 수 있습니다. 정확한 과금을 위해 항상 응답에서 반환된 토큰 사용량을 기준으로 하세요.
100,000개의 토큰이 총 컨텍스트 윈도우입니다. 이 한도를 초과하면 오류가 발생합니다. 경계 내에서 유지하기 위해 오래된 메시지나 요약을 잘라내세요. 시간이 지남에 따라 토큰 사용량을 모니터링하여 프롬프트 구조를 최적화하고 비용을 절감하세요.
암호화폐 결제 지연
USDT(TRC20) 또는 USDC(Base)를 통한 암호화폐 충전은 당사 측에서 즉시 처리됩니다. 그러나 네트워크 혼잡으로 인해 확인에 약간의 지연이 발생할 수 있습니다. 자금 손실을 피하기 위해 정확한 금액과 네트워크를 사용하여 전송하세요.
충전 금액은 정수 금액으로 $20에서 $500 사이입니다. 보너스 신용이 자동으로 적용됩니다: $50부터 +5%, $100부터 +10%, $200부터 +15%. 거래 해시를 확인하여 결제를 확인하세요. 몇 분 내에 신용이 표시되지 않으면 블록체이너plorer에서 거래 상태를 확인하세요.
크레딧은 만료되지 않으므로 즉시 사용할 필요가 없습니다. 중복 청구 같은 오류는 지원 페이지를 통해 해결됩니다. 문제가 발생하기 쉬운 경우를 위해 거래 내역을 보관하세요.
모델 ID 구성
모델 ID는 사용하는 uncensored 모델의 버전을 식별합니다. 우리 서비스의 경우 모델 ID는 uncensored잘못된 ID를 사용하면 오류나 예상치 못한 동작이 발생할 수 있습니다.
요청에 model: "uncensored" 요청 본문에서. 이 ID는 제한 없는 응답에 맞게 조정된 우리 특정 오픈 웨이트 모델을 가리킵니다. 일반적인 식별자가 아니라 호스팅 인스턴스에 대한 특정 포인터입니다.
클라이언트 라이브러리의 문서를 확인하여 모델 ID를 설정하는 방법을 확인하세요. 일부 라이브러리는 model 필드이며, 다른 필드는 다른 매개변수를 사용할 수 있습니다. 애플리케이션 전반에 걸쳐 모델 ID 사용의 일관성은 혼란을 방지하고 항상 의도한 uncensored 모델을 호출하고 있음을 보장합니다.
컨텍스트 윈도우 초과
컨텍스트 윈도우는 단일 요청에 보낼 수 있는 토큰의 총 수를 제한합니다. 당사 API는 프롬프트와 응답을 합쳐 100,000 토큰의 윈도우를 지원합니다. 이 제한을 초과하면 오류가 발생합니다.
컨텍스트를 관리하려면 슬라이딩 윈도우 전략을 구현하세요. 오래된 메시지를 제거하거나 요약하여 공간을 확보하세요. 입력의 토큰 수를 모니터링하여 100,000 토큰 제한 내에 있는지 확인하세요. 제한을 초과하면 API가 요청을 거부합니다.
을 사용하세요 max_tokens 출력 길이를 제어하는 파라미터입니다. 요청당 최대 출력은 16,000 토큰입니다. 이 파라미터를 설정하면 과도한 토큰 사용을 방지하고 애플리케이션에 적절한 범위 내에서 응답을 유지하는 데 도움이 됩니다.
지원 및 환불 정책
사용된 크레딧은 환불되지 않지만 만료되지 않습니다. 결제 또는 서비스 관련 문제가 발생하면 지정된 페이지를 통해 Support에 연락하세요. 이중 청구와 같은 오류는 Support 팀에서 해결합니다.
기술적 문제의 경우 먼저 문서를 확인하세요. 당사 API는 직관적이지만 예외적인 경우가 발생할 수 있습니다. 도움을 요청할 때 API 키와 요청 세부 정보를 제공하세요. 응답 시간은 다양하지만, 당사는 문제를 신속하게 해결하기 위해 노력합니다.
크레딧이 선불로 충전된다는 점을 기억하세요. 소비한 만큼 지불하며, 오류와 거부는 무료입니다. 이 모델은 청구의 투명성을 보장합니다. 계정 관련 이의 제기나 문의가 있는 경우 지원 페이지를 사용하세요.
