Розуміння базової URL-адреси
Базовий URL визначає, куди ваш клієнт надсилає запити. Помилка тут призводить до миттєвих проблем із підключенням або неочікуваних відповідей моделі. Багато розробників припускають, що стандартний URL OpenAI працює універсально, але постачальники необмежених моделей часто використовують окремі ендпоінти для маршрутизації трафіку до конкретних пулів моделей.
Переконайтеся, що ваш конфігурація вказує на https://api.openrouterabliteratedmodels.com/v1 для нашого сервісу. Якщо ви використовуєте стороннього агрегатора, переконайтеся, що базовий URL точно відповідає їхній документації. Неправильні URL-адреси часто призводять до помилок 404 або отримання відповідей від моделей за замовчуванням замість запланованого варіанту без цензури.
- Перевірте змінні середовища на наявність
BASE_URLабоAPI_HOST. - Переконайтеся, що шлях включає
/v1для стандартної сумісності. - Протестуйте з’єднання за допомогою простого запиту на отримання списку моделей перед інтенсивним використанням.
Обробка лімітів швидкості
Обмеження швидкості визначають, скільки запитів ви можете надіслати протягом певного проміжку часу. Наш API встановлює ліміт у 300 запитів на хвилину на ключ. Перевищення цього порогу призводить до помилок HTTP 429, тимчасово блокуючи подальші запити до скидання вікна.
Крім того, існує ліміт одночасних запитів: 8 запитів одночасно на ключ. Якщо ви надішлете більше 8 одночасних запитів, зайві будуть поставлені в чергу або відхилені залежно від вашої бібліотеки клієнта. Відстежуйте конкурентність вашого додатка, щоб уникнути досягнення цих жорстких лімітів. Використовуйте стратегії експоненційного відновлення (exponential backoff) у своєму коді для коректної обробки помилок 429 без надмірного навантаження на сервер.
Запам’ятайте, що кожен ключ унікальний для вашого облікового запису. Спільне використання ключів між кількома сервісами може прискорити досягнення цих лімітів. Згенеруйте новий ключ, якщо вам потрібні окремі пули лімітів швидкості для різних частин вашого додатка.
Відповіді в потоковому та непотоковому режимах
Потокова передача повертає дані поступово по мірі генерації токенів, тоді як непотокова передачі чекає на повну відповідь. Потокова передача є необхідною для користувацьких досвідів у реальному часі, але вимагає ретельної обробки Server-Sent Events (SSE).
Під час потокової передачі останній фрагмент містить статистику використання токенів. Якщо ви припините обробку достроково, ви можете втратити ці дані. Переконайтеся, що ваш клієнт парсить останнє повідомлення SSE, щоб точно отримати кількість вхідних та вихідних токенів. Відповіді без потокової передачі простіші, але можуть викликати високу затримку для довгих вихідних даних.
Обирайте потокову передачу для чат-інтерфейсів, де користувачі бачать текст, що з’являється символ за символом. Використовуйте непотоковий режим для пакетної обробки або коли вам потрібна повна відповідь перед продовженням. Наш API підтримує обидва режими через stream параметр у тілі запиту.
Помилки режиму JSON
Режим JSON гарантує, що модель виводить дійсний JSON, що є критичним для програмної інтеграції. Помилки тут часто виникають через неправильні заголовки або невідповідність схем. API вимагає response_format: {"type": "json_object"} для примусового суворого виводу JSON.
Якщо ви отримали невалідний JSON, перевірте визначення вашої схеми. Модель може включати блоки коду markdown або пояснювальний текст поза структурою JSON. Використовуйте надійний парсер, який може видаляти маркери markdown або перевіряти вихідні дані відповідно до вашої очікуваної схеми. Уникайте надто складних схем, які можуть заплутати модель.
Протестуйте спочатку з простими структурами. Поступово додавайте складність, щоб визначити, де модель стикається з труднощами. Переконайтеся, що ваша температура встановлена відповідно, оскільки вищі температури можуть збільшити випадковість та зменшити валідність JSON.
Помилки підрахунку кількості токенів
Кількість токенів визначає ваш билінг та використання вікна контексту. Помилки в розрахунках можуть призвести до несподіваних платежів або обрізаних відповідей. Наш API стягує $0.15 за 1M токенів вводу та $0.50 за 1M токенів виводу.
Використовуйте надійну бібліотеку токенизації, яка відповідає схемі токенизації моделі. Різні моделі можуть по-різному токенизувати пробіли або пунктуацію, що призводить до розбіжностей між вашим локальним підрахунком та підрахунком API. Завжди покладайтеся на використання токенів, повернене в відповіді, для точної білінгу.
Звертайте увагу на вікно контексту, яке становить 100,000 токенів загалом. Перевищення цього ліміту призведе до помилок. Обрізайте старі повідомлення або скорочуйте їх, щоб залишатися в межах ліміту. Слідкуйте за використанням токенів з часом, щоб оптимізувати структуру промптів і зменшити витрати.
Затримки оплати криптовалютою
Попповнення криптовалютою через USDT (TRC20) або USDC (Base) обробляються миттєво на нашому боці. Однак через перевантаження мережі іноді можуть виникати невеликі затримки підтвердження. Переконайтеся, що ви надсилаєте правильну суму та через правильну мережу, щоб уникнути втрат.
Поповнення варіюються від $20 до $500 цілими сумами. Бонусні кредити застосовуються автоматично: +5% від $50, +10% від $100 і +15% від $200. Перевірте хеш транзакції, щоб підтвердити оплату. Якщо кредити не з’являться протягом кількох хвилин, перевірте блокчейн-експлорер на наявність статусу транзакції.
Кредит не має строки дії, тому немає терміновості у його використанні. Помилки, такі як подвійне списання, вирішуються через сторінку Підтримки. Зберігайте записи про транзакції для зручного посилання у разі виникнення проблем.
Конфігурація ідентифікатора моделі
Ідентифікатор моделі визначає, яку версію uncensored моделі ви використовуєте. Для нашого сервісу ідентифікатор моделі uncensored. Використання неправильного ідентифікатора може призвести до помилок або несподіваної поведінки.
Переконайтеся, що ваші запити вказують model: "uncensored" у тілі запиту. Цей ідентифікатор вказує на нашу конкретну відкриту модель, налаштовану для необмежених відповідей. Це не загальний ідентифікатор, а конкретний вказівник на наш розміщений екземпляр.
Перевірте документацію бібліотеки клієнта щодо встановлення ідентифікатора моделі. Деякі бібліотеки використовують model поле, тоді як інші можуть використовувати інший параметр. Узгодженість у використанні ідентифікатора моделі в вашому додатку запобігає плутанині та гарантує, що ви завжди викликаєте потрібну uncensored модель.
Перевищення контекстного вікна
Контекстне вікно обмежує загальну кількість токенів, які ви можете надіслати в одному запиті. Наш API підтримує вікно на 100,000 токенів, включаючи як промпт, так і завершення. Перевищення цього ліміту призводить до помилки.
Для керування контекстом реалізуйте стратегію ковзного вікна. Видаляйте старіші повідомлення або стисніть їх, щоб звільнити місце. Моніторьте кількість токенів у вашому вхідному запиті, щоб переконатися, що вона не перевищує ліміт у 100,000 токенів. Якщо ви перевищите ліміт, API відхилить запит.
Використовуйте max_tokens параметр для керування довжиною виводу. Максимальний вивід на запит становить 16,000 токенів. Встановлення цього параметра допомагає запобігти надмірному використанню токенів і тримає відповіді в межах, зручних для вашої програми.
Політика підтримки та повернення коштів
Кредит не повертається після використання, але він ніколи не закінчується. Якщо виникнуть проблеми з платежами або сервісом, зверніться до Підтримки через відповідну сторінку. Помилки, такі як подвійне списання, вирішуються командою Підтримки.
Щодо технічних проблем, спочатку перевірте документацію. Наш API є простим, але можуть виникати крайні випадки. Надавайте свій API-ключ та деталі запиту при пошуку допомоги. Часи відгуку варіюються, але ми прагнемо вирішувати проблеми швидко.
Запам’ятайте, що кредит є передоплаченим. Ви платите за те, що споживаєте, а помилки та відмови є безкоштовними. Ця модель забезпечує прозорість у билінгу. Використовуйте сторінку підтримки для будь-яких розбіжностей або питань щодо вашого облікового запису.
