Integriere Open Source LLM API in Minuten

Basis-URL und Authentifizierung

Verbinde dich mit der Open-Source-LLM-API, indem du deinen Client auf unsere Basis-URL zeigst: https://api.opensourcellmapi.com/v1. Die Authentifizierung erfolgt über einen standardmäßigen API-Schlüssel, der im Authorization-Header übergeben wird. Du erhältst diesen Schlüssel sofort nach der Anmeldung auf der Seite API-Schlüssel erhalten mit nur E-Mail und Passwort. Es werden keine Telefonnummer oder Kreditkarte benötigt, um zu starten. Wenn du deine Anmeldeinformationen rotieren möchtest, kannst du deinen Schlüssel jederzeit neu generieren, wodurch der vorherige sofort ungültig wird. So behältst du die Kontrolle über deinen Zugriff, ohne dich auf eine komplexe Dashboard-Oberfläche zu verlassen.

Sende deine erste Anfrage

Stelle eine standardmäßige POST-Anfrage an /v1/chat/completions. Der Endpunkt erwartet einen JSON-Body mit einem model-Feld, das auf uncensored gesetzt ist, und einem messages-Array. Dieser Endpunkt unterstützt das Standard-Chat-Format, sodass du mit minimalen Codeänderungen von OpenAI oder anderen Anbietern wechseln kannst. Unten findest du ein grundlegendes cURL-Beispiel zur Überprüfung der Konnektivität und zum Empfangen einer Textantwort.

Copycurl https://api.opensourcellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python-SDK-Integration

Die Verwendung der offiziellen OpenAI Python-Bibliothek vereinfacht die Integration. Installiere das Paket über pip und initialisiere den Client mit deinem API-Schlüssel und unserer Basis-URL. Stelle das Modell auf uncensored und rufe die Chat-Vervollständigungsmethode auf. Dieser Ansatz ermöglicht es dir, bestehende Python-LLM-Anwendungen ohne Änderungen an der Inferenzlogik zu nutzen. Die Bibliothek übernimmt automatisch die Serialisierung und Fehleranalyse.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.opensourcellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js-SDK-Integration

Für JavaScript- oder TypeScript-Projekte verwende das OpenAI Node.js SDK. Installiere das Paket und konfiguriere den Client mit derselben Basis-URL und demselben API-Schlüssel. Die Modell-ID uncensored stellt sicher, dass du unseren unzensierten Inferenzendpunkt triffst. Dies ermöglicht es dir, uneingeschränkte LLM-Funktionen direkt in deine Web- oder Serveranwendungen zu integrieren, während die Kompatibilität mit Standard-OpenAI-Clientcode erhalten bleibt.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.opensourcellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming aktivieren (SSE)

Aktiviere für geringere Latenz und Echtzeit-Benutzererfahrungen das Streaming, indem du stream: true setzt. Die API gibt Server-Sent Events (SSE) zurück, sodass du Token verarbeiten kannst, während sie generiert werden. Dies ist ideal für Chat-Oberflächen, bei denen Tipp-Indikatoren die wahrgenommene Leistung verbessern. Die Antwortstruktur bleibt konsistent mit Standard-OpenAI-Streaming-Formaten, sodass deine Event-Handler ohne benutzerdefinierte Parsing-Logik funktionieren.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limits, Fehler und Kontextfenster

Dein API-Schlüssel ist auf 300 Anfragen pro Minute und einen Anforderungstext von 8 MB begrenzt. Das Kontextfenster unterstützt bis zu 100.000 Token für die kombinierte Eingabe und Ausgabe. Wenn du einen 401 erhältst, ist dein Schlüssel ungültig oder abgelaufen. Ein 402 zeigt unzureichendes Prepaid-Guthaben an; du kannst ab 10 $ über Krypto (USDT oder USDC) aufladen. Ein 429 bedeutet, dass du das Ratenlimit überschritten hast. Alle Guthaben sind Prepaid und verfällt nie, wobei Boni für größere Aufladungen verfügbar sind.