Az alap URL megértése
Az alap URL meghatározza, hová küldi a kliens a kéréseket. Egy eltérés itt azonnali kapcsolati hibákhoz vagy váratlan modell válaszokhoz vezet. Sok fejlesztő azt feltételezi, hogy a szabványos OpenAI URL univerzálisan működik, de a cenzúratlan szolgáltatók gyakran külön végpontokat használnak a forgalom irányítására specifikus modell csoportokhoz.
Ellenőrizze, hogy a konfiguráció erre mutat: https://api.openrouterabliteratedmodels.com/v1 a szolgáltatásunkhoz. Ha egy harmadik fél által összeállító szolgáltatást használ, győződjön meg arról, hogy az alap URL pontosan egyezik-e a dokumentációjukkal. A helytelen URL-ek gyakran 404-es hibákhoz vagy alapértelmezett modellekből származó válaszokhoz vezetnek, ahelyett, hogy a szándékolt cenzúra nélküli verzióhoz.
- Ellenőrizze a környezeti változóit a
BASE_URLvagyAPI_HOST. - Győződjön meg róla, hogy az elérési út tartalmazza
/v1a szabványos kompatibilitás érdekében. - Tesztelje a kapcsolatot egy egyszerű modelllista-kéréssel a nagy terhelés előtt.
Számlálási határok kezelése
A sebességkorlátok korlátozzák, hogy hány kérést küldhet egy adott időkereten belül. API-nk percenként 300 kérésre vonatkozó korlátot alkalmaz kulcsonként. Ennek túllépése HTTP 429 hibát eredményez, ami ideiglenesen blokkolja a további kéréseket, amíg az ablak vissza nem áll.
Emellett 8 egyidejű kérésre van korlát kulcsonként. Ha több mint 8 egyidejű kérést küldesz, a felesleges sorba áll vagy sikertelen lesz az ügyfélkönyvtáradtól függően. Figyeld az alkalmazásod párhuzamosságát, hogy elkerüld ezeket a hard korlátokat. Használj exponenciális backoff stratégiákat a kódodban a 429 hibák gracefully kezelésére anélkül, hogy elárasztanád a szervert.
Emlékezzen, hogy minden kulcs egyedi a fiókjához. A kulcsok megosztása több szolgáltatás között felgyorsíthatja ezeknek a korlátoknak az elérését. Generáljon új kulcsot, ha külön sebességkorlát-poolokra van szüksége az alkalmazás különböző részeihez.
Streamelés vs. Nem streamelési válaszok
A streamelés fokozatosan adja vissza az adatokat a tokenek generálásakor, míg a nem streamelő mód a teljes válaszra vár. A streamelés elengedhetetlen a valós idejű felhasználói élményekhez, de alapos SSE kezelést igényel.
Streamelés közben a végső töredék tartalmazza a token-használati statisztikákat. Ha idő előtt abbahagyja a feldolgozást, elveszítheti ezt az adatot. Győződjön meg arról, hogy az ügyfél feldolgozza az utolsó SSE üzenetet a bemeneti és kimeneti tokenek pontos megszerzéséhez. Nem streamelő válaszok egyszerűbbek, de magas késleltetést okozhatnak hosszú kimenetek esetén.
Válassza a streamelést chat felületekhez, ahol a felhasználók karakterenként látják megjelenő szöveget. Használjon nem streamelő módot kötegelt feldolgozáshoz, vagy amikor a teljes válaszra van szükség a továbblépés előtt. Az APInk mindkét módot támogatja a stream paramétert a kérés törzsében.
JSON mód hibák
A JSON mód biztosítja, hogy a modell érvényes JSON-t adjon vissza, ami kritikus fontosságú a programozott integrációhoz. A hibák gyakran helytelen fejlécek vagy séma-különbségekből adódnak. Az API megköveteli response_format: {"type": "json_object"} a szigorú JSON kimenet kikényszerítésére.
Ha hibás JSON-t kap, ellenőrizze a sémadefinícióját. A modell tartalmazhat markdown kódblokkokat vagy magyarázó szöveget a JSON struktúrán kívül. Használjon robusztus parsert, amely képes eltávolítani a markdown kereteket, vagy érvényesíteni a kimenetet a várt sémája szerint. Kerülje az túl komplex sémákat, amelyek összezavarhatják a modellt.
Próbáld ki először az egyszerű struktúrákkal. Fokozatosan add hozzá a bonyolultságot a modell gyenge pontjainak azonosításához. Győződj meg róla, hogy a hőmérséklet megfelelően van beállítva, mivel a magasabb hőmérséklet növelheti a véletlenszerűséget és csökkentheti a JSON érvényességét.
Tokenmennyiség hibás számítása
A tokenek száma meghatározza a számlázást és a kontextusablak-használatot. A hibás számítások váratlan díjakhoz vagy tördelt válaszokhoz vezethetnek. Az API-nk $0.15-öt számít fel 1 millió bemeneti tokenért és $0.50-öt 1 millió kimeneti tokenért.
Használjon megbízható tokenizer könyvtárat, amely illeszkedik a modell tokenizálási sémájához. Különböző modellek másképp tokenizálhatják a whitespace vagy interpunkciót, ami eltérésekhez vezethet a helyi számla és az API számlája között. Mindig a válaszban visszaadott tokenfelhasználásra hagyatkozzon a pontos számlázás érdekében.
Figyeljen a kontextusablakára, amely összesen 100 000 tokenből áll. Ennek túllépése hibákhoz vezet. Vágja le a régebbi üzeneteket vagy összefoglalókat, hogy maradjon a határokon belül. Figyelje tokenfelhasználását idővel, hogy optimalizálja a promptok szerkezetét és csökkentse a költségeket.
Kriptós fizetés késések
A kriptovalutás feltöltések USDT (TRC20) vagy USDC (Base) segítségével azonnal feldolgozásra kerülnek. Azonban a hálózati zsúfoltság néha enyhe késéseket okozhat a megerősítésben. Győződjön meg arról, hogy a megfelelő összeget és hálózatot küldi, hogy elkerülje az elvesztést.
A feltöltések $20 és $500 közötti egész összegek. A bónuszhitlek automatikusan érvényesülnek: +5% $50-től, +10% $100-tól, és +15% $200-tól. Ellenőrizd a tranzakciós hash-t a fizetés megerősítéséhez. Ha a hiteld néhány percen belül nem jelenik meg, ellenőrizd a blokklánc-felderítőben a tranzakció állapotát.
A hitel nem jár le, így nincs sürgősség a azonnali felhasználással. A dupla számlázás gibi hibákat a Támogatási oldalon oldja meg. Tartsa meg a tranzakciós nyilvántartásokat a könnyű hivatkozás érdekében, ha problémák merülnek fel.
Modell ID konfiguráció
A modell azonosító jelzi, hogy az uncensored modell melyik verzióját használja. Szolgáltatásunk esetén a modell azonosítója uncensored. Egy helytelen azonosító használata hibákhoz vagy váratlan viselkedéshez vezethet.
Győződjön meg arról, hogy a kérések megadják a model: "uncensored" a kérés törzsében. Ez az ID a korlátozás nélküli válaszokra hangolt specifikus nyílt súlyú modellünkre mutat. Nem egy általonos azonosító, hanem egy specifikus mutató a hosztolt példányunkra.
Ellenőrizze az ügyfél könyvtár dokumentációját a model ID beállításához. Egyes könyvtárak egy model mező, míg mások más paramétert használnak. A modell ID konzisztens használata az alkalmazásában megakadályozza a zavart és biztosítja, hogy mindig a szánt uncensored modellt hívja.
Kontextusablak túllépések
A kontextus ablak korlátozza a egyetlen kérésben küldhető tokenek teljes számát. API-nk 100,000 tokenes ablakot támogat, mindkét promptot és kiegészítést együtt. Ennek a limitnek a túllépése hibához vezet.
A kontextus kezeléséhez implementálj csúszó ablak stratégiát. Távolítsd el a régebbi üzeneteket vagy összefoglalhatod őket a hely felszabadításához. Figyeld a bemenet token számát, hogy biztosan a 100,000 tokenes limit alatt maradj. Ha túlléped a limitet, az API elutasítja a kérést.
Használja a max_tokens paraméter a kimeneti hossz vezérlésére. A kérésenkénti maximális kimenet 16 000 token. Ennek a paraméternek a beállítása segít megelőzni a túlzott tokenfelhasználást, és a válaszokat kezelhető méretben tartja az alkalmazásához.
Támogatás és visszatérítési politika
A kredit nem kerül visszafizetésre, miután felhasználták, de nem jár le. Ha fizetési vagy szolgáltatási problémákba ütközik, forduljon a Támoldáshoz a kijelölt oldalon keresztül. A dupla terhelésekhez hasonló hibákat a Támoldási csapat oldja meg.
Műszaki problémák esetén először ellenőrizze a dokumentációt. Az API egyszerű, de szélsőséges esetek előfordulhatnak. Segítségkérés esetén adja meg az API-kulcsát és a kérés részleteit. A válaszidők változóak, de törekszünk a problémák gyors megoldására.
Emlékezzen, hogy a hitel előre fizetett. Amit fogyaszt, azt fizeti, a hibák és elutasítások ingyenesek. Ez a modell átláthatóságot biztosít a számlázásban. Használja a Támogatás oldalt bármilyen eltérés vagy fiókkal kapcsolatos kérdés esetén.
