Zintegruj Open Source LLM API w kilka minut

Adres bazowy i uwierzytelnianie

Połącz się z open source llm api, wskazując klientowi nasz bazowy URL: https://api.opensourcellmapi.com/v1. Autoryzacja odbywa się za pomocą standardowego klucza API przekazanego w nagłówku Authorization. Otrzymujesz ten klucz natychmiast po zalogowaniu się na stronie Pobierz klucz API, podając tylko adres e-mail i hasło. Nie jest wymagany numer telefonu ani karta kredytowa, aby rozpocząć. Jeśli musisz wygenerować ponownie poświadczenia, możesz wygenerować klucz ponownie w dowolnym momencie, co natychmiast unieważnia poprzedni. Zapewnia to, że zachowujesz kontrolę nad dostępem, bez polegania na skomplikowanym interfejsie panelu.

Wyślij swoje pierwsze zapytanie

Wyślij standardowe zapytanie POST do /v1/chat/completions. Endpoint oczekuje ciała JSON z polem model ustawionym na uncensored oraz tablicą messages. Ten endpoint obsługuje standardowy format czatu, pozwalając na przejście z OpenAI lub innych dostawców przy minimalnych zmianach kodu. Poniżej znajduje się podstawowy przykład cURL do sprawdzenia łączności i otrzymania odpowiedzi tekstowej.

Copycurl https://api.opensourcellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Integracja z Python SDK

Korzystanie z oficjalnej biblioteki Pythona OpenAI upraszcza integrację. Zainstaluj pakiet za pomocą pip, a następnie zainicjuj klienta swoim kluczem API i bazowym URL. Ustaw model na uncensored i wywołaj metodę uzupełnień czatu. To podejście pozwala wykorzystać istniejące aplikacje LLM Pythona bez modyfikacji logiki wnioskowania. Biblioteka obsługuje serializację i parsowanie błędów automatycznie.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.opensourcellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integracja z Node.js SDK

Dla projektów JavaScript lub TypeScript użyj SDK Node.js OpenAI. Zainstaluj pakiet i skonfiguruj klienta z tym samym bazowym URL i kluczem API. ID modelu uncensored zapewnia, że trafiasz w nasz endpoint wnioskowania bez cenzury. Pozwala to na zintegrowanie nieograniczonych możliwości LLM bezpośrednio w aplikacjach webowych lub po stronie serwera, zachowując kompatybilność ze standardowym kodem klienta OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.opensourcellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Włącz strumieniowanie (SSE)

Aby uzyskać niższe opóźnienia i doświadczenia użytkownika w czasie rzeczywistym, włącz strumieniowanie, ustawiając stream: true. API zwraca Wydarzenia Wysyłane przez Serwer (SSE), pozwalając na przetwarzanie tokenów w miarę ich generowania. Jest to idealne dla interfejsów czatu, gdzie wskaźniki pisania poprawiają postrzeganą wydajność. Struktura odpowiedzi pozostaje spójna ze standardowymi formatami strumieniowania OpenAI, zapewniając, że twoje programy obsługi zdarzeń działają bez niestandardowej logiki parsowania.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity, błędy i okno kontekstu

Twój klucz API jest ograniczony do 300 zapytań na minutę i 8 MB treści zapytania. Okno kontekstu obsługuje do 100 000 tokenów dla połączonego promptu i uzupełnienia. Jeśli otrzymasz 401, twój klucz jest nieprawidłowy lub wygasł. 402 oznacza niewystarczający przedpłacony kredyt; możesz doładować od $10 za pomocą kryptowalut (USDT lub USDC). 429 oznacza, że przekroczyłeś limit zapytań. Wszystkie kredyty są przedpłacone i nigdy nie wygasają, z bonusami dostępnymi dla większych doładowań.