Hướng dẫn khắc phục sự cố API OpenRouter

Hiểu về URL cơ sở

URL cơ sở xác định nơi khách hàng của bạn gửi yêu cầu. Sự không khớp ở đây sẽ gây ra lỗi kết nối ngay lập tức hoặc các phản hồi mô hình không mong muốn. Nhiều nhà phát triển giả định rằng URL OpenAI tiêu chuẩn hoạt động phổ quát, nhưng các nhà cung cấp không kiểm duyệt thường sử dụng các điểm cuối riêng biệt để định tuyến lưu lượng truy cập đến các nhóm mô hình cụ thể.

Xác minh cấu hình của bạn trỏ đến https://api.openrouterabliteratedmodels.com/v1 cho dịch vụ của chúng tôi. Nếu bạn đang sử dụng bộ tổng hợp bên thứ ba, hãy đảm bảo URL cơ bản khớp chính xác với tài liệu của họ. URL không chính xác thường dẫn đến lỗi 404 hoặc các phản hồi từ các mô hình mặc định thay vì biến thể không kiểm duyệt dự kiến.

• Kiểm tra các biến môi trường của bạn cho BASE_URL hoặc API_HOST.
• Đảm bảo đường dẫn bao gồm /v1 cho khả năng tương thích tiêu chuẩn.
• Kiểm tra kết nối với một yêu cầu danh sách mô hình đơn giản trước khi sử dụng nhiều.

Xử lý giới hạn tốc độ

Giới hạn tốc độ (rate limits) hạn chế số lượng yêu cầu bạn có thể gửi trong một khoảng thời gian cụ thể. API của chúng tôi áp dụng giới hạn 300 yêu cầu mỗi phút cho mỗi khóa API (key). Vượt quá ngưỡng này sẽ dẫn đến lỗi HTTP 429, tạm thời chặn các yêu cầu tiếp theo cho đến khi cửa sổ thời gian được đặt lại.

Ngoài ra, có giới hạn yêu cầu đồng thời là 8 yêu cầu cùng lúc trên mỗi khóa. Nếu bạn gửi nhiều hơn 8 yêu cầu đồng thời, số dư sẽ được xếp hàng hoặc thất bại tùy thuộc vào thư viện client của bạn. Hãy theo dõi độ đồng thời của ứng dụng để tránh chạm vào các giới hạn cứng này. Sử dụng chiến lược backoff theo cấp số nhân trong mã của bạn để xử lý lỗi 429 một cách duyên dáng mà không làm tràn máy chủ.

Hãy nhớ rằng mỗi khóa là duy nhất đối với tài khoản của bạn. Chia sẻ khóa giữa nhiều dịch vụ có thể làm tăng tốc độ đạt giới hạn này. Tạo một khóa mới nếu bạn cần các nhóm giới hạn tốc độ riêng biệt cho các phần khác nhau trong ứng dụng của mình.

Phản hồi Streaming so với Không Streaming

Phản hồi dạng stream trả về dữ liệu từng phần khi token được tạo, trong khi không streaming đợi phản hồi đầy đủ. Streaming rất quan trọng cho trải nghiệm người dùng thời gian thực nhưng yêu cầu xử lý cẩn thận Sự kiện gửi qua máy chủ (SSE).

Khi stream, chunk cuối cùng chứa các thống kê sử dụng token. Nếu bạn ngừng xử lý sớm, bạn có thể bỏ lỡ dữ liệu này. Đảm bảo khách hàng của bạn phân tích thông báo SSE cuối cùng để lấy chính xác số lượng token đầu vào và đầu ra. Các phản hồi không stream đơn giản hơn nhưng có thể gây ra độ trễ cao cho các đầu ra dài.

Chọn chế độ streaming cho các giao diện trò chuyện nơi người dùng thấy văn bản xuất hiện từng ký tự một. Sử dụng chế độ không streaming cho xử lý hàng loạt hoặc khi bạn cần toàn bộ phản hồi trước khi tiếp tục. API của chúng tôi hỗ trợ cả hai chế độ thông qua stream tham số trong thân yêu cầu.

Lỗi Chế độ JSON

Chế độ JSON đảm bảo mô hình xuất ra JSON hợp lệ, điều rất quan trọng cho việc tích hợp theo chương trình. Các lỗi ở đây thường bắt nguồn từ các tiêu đề không chính xác hoặc sự không khớp lược đồ. API yêu cầu response_format: {"type": "json_object"} để bắt buộc đầu ra JSON nghiêm ngặt.

Nếu bạn nhận được JSON không hợp lệ, hãy kiểm tra định nghĩa lược đồ của bạn. Mô hình có thể bao gồm các khối mã markdown hoặc văn bản giải thích bên ngoài cấu trúc JSON. Sử dụng trình phân tích mạnh mẽ có thể loại bỏ các thẻ markdown hoặc xác thực đầu ra dựa trên lược đồ dự kiến của bạn. Tránh các lược đồ quá phức tạp khiến mô hình bị nhầm lẫn.

Thử nghiệm với các cấu trúc đơn giản trước. Dần dần thêm độ phức tạp để xác định nơi mô hình gặp khó khăn. Đảm bảo nhiệt độ của bạn được đặt phù hợp, vì nhiệt độ cao hơn có thể tăng tính ngẫu nhiên và giảm tính hợp lệ của JSON.

Sai sót khi đếm Token

Số lượng token xác định việc tính phí và mức sử dụng cửa sổ ngữ cảnh của bạn. Các phép tính sai có thể dẫn đến các khoản phí không mong đợi hoặc phản hồi bị cắt ngắn. API của chúng tôi tính phí $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra.

Sử dụng một thư viện tokenizer đáng tin cậy khớp với lược đồ tokenization của model. Các model khác nhau có thể token hóa khoảng trắng hoặc dấu câu khác nhau, dẫn đến sự chênh lệch giữa số đếm cục bộ của bạn và số đếm của API. Luôn dựa vào việc sử dụng token được trả về trong phản hồi để tính phí chính xác.

Theo dõi cửa sổ ngữ cảnh của bạn, tổng cộng 100,000 token. Vượt quá giới hạn này sẽ gây ra lỗi. Cắt bớt các tin nhắn hoặc tóm tắt cũ hơn để duy trì trong giới hạn. Theo dõi việc sử dụng token theo thời gian để tối ưu hóa cấu trúc prompt và giảm chi phí.

Trì hoãn Thanh toán Crypto

Nạp tiền bằng crypto qua USDT (TRC20) hoặc USDC (Base) được xử lý ngay lập tức phía chúng tôi. Tuy nhiên, tắc nghẽn mạng đôi khi có thể gây ra một chút chậm trễ trong việc xác nhận. Hãy đảm bảo bạn gửi đúng số tiền và mạng lưới để tránh mất tiền.

Nạp tiền dao động từ $20 đến $500 dưới dạng các số nguyên. Tín dụng bonus áp dụng tự động: +5% từ $50, +10% từ $100 và +15% từ $200. Xác minh dấu vết giao dịch để xác nhận thanh toán. Nếu tín dụng không xuất hiện trong vài phút, hãy kiểm tra trình khám phá blockchain để xem trạng thái giao dịch.

Tín dụng không bao giờ hết hạn, nên không cần vội vàng sử dụng ngay. Các lỗi như nạp tiền trùng lặp được xử lý qua trang Hỗ trợ. Hãy giữ lại các biên lai giao dịch để dễ tham chiếu nếu có vấn đề phát sinh.

Cấu hình ID Mô hình

ID mô hình xác định phiên bản nào của mô hình không kiểm duyệt mà bạn đang sử dụng. Đối với dịch vụ của chúng tôi, ID mô hình là uncensored. Sử dụng ID không chính xác có thể dẫn đến lỗi hoặc hành vi không mong đợi.

Đảm bảo các yêu cầu của bạn chỉ định model: "uncensored" trong thân yêu cầu. ID này trỏ đến mô hình trọng lượng mở cụ thể của chúng tôi đã được tinh chỉnh cho các phản ứng không giới hạn. Nó không phải là một định danh chung chung mà là một điểm trỏ cụ thể đến phiên bản được lưu trữ của chúng tôi.

Kiểm tra tài liệu của thư viện ứng dụng khách của bạn để biết cách đặt ID mô hình. Một số thư viện sử dụng một model trường, trong khi những người khác có thể sử dụng một tham số khác. Sự nhất quán trong việc sử dụng ID mô hình trên toàn ứng dụng của bạn ngăn ngừa sự nhầm lẫn và đảm bảo bạn luôn gọi đúng mô hình không kiểm duyệt.

Vượt quá cửa sổ ngữ cảnh

Cửa sổ ngữ cảnh giới hạn tổng số token bạn có thể gửi trong một yêu cầu duy nhất. API của chúng tôi hỗ trợ cửa sổ 100.000 token, bao gồm cả lời nhắc và phần hoàn thành. Vượt quá giới hạn này sẽ dẫn đến lỗi.

Để quản lý ngữ cảnh, hãy triển khai chiến lược cửa sổ trượt. Xóa các tin nhắn cũ hơn hoặc tóm tắt chúng để giải phóng không gian. Theo dõi số lượng token trong đầu vào của bạn để đảm bảo nó nằm trong giới hạn 100.000 token. Nếu bạn vượt quá giới hạn, API sẽ từ chối yêu cầu.

Sử dụng max_tokens tham số để kiểm soát độ dài đầu ra. Đầu ra tối đa mỗi yêu cầu là 16.000 token. Việc đặt tham số này giúp ngăn chặn việc sử dụng token quá mức và giữ các phản hồi trong phạm vi quản lý được cho ứng dụng của bạn.

Chính sách hỗ trợ và hoàn tiền

Tín dụng không được hoàn lại sau khi đã sử dụng, nhưng nó không bao giờ hết hạn. Nếu bạn gặp vấn đề với thanh toán hoặc dịch vụ, hãy liên hệ Hỗ trợ thông qua trang được chỉ định. Các lỗi như tính phí kép sẽ được giải quyết bởi đội ngũ Hỗ trợ.

Đối với các sự cố kỹ thuật, hãy kiểm tra tài liệu trước tiên. API của chúng tôi rất đơn giản, nhưng các trường hợp cạnh có thể xảy ra. Hãy cung cấp khóa API và chi tiết yêu cầu khi tìm kiếm sự trợ giúp. Thời gian phản hồi khác nhau, nhưng chúng tôiaim giải quyết sự cố nhanh chóng.

Hãy nhớ rằng tín dụng được trả trước. Bạn trả tiền cho những gì bạn sử dụng, với các lỗi và sự từ chối đều miễn phí. Mô hình này đảm bảo tính minh bạch trong hóa đơn. Sử dụng trang Hỗ trợ cho bất kỳ sai lệch hoặc câu hỏi nào về tài khoản của bạn.