Integra Open Source LLM API in Minuti

URL di base e Autenticazione

Connettiti all'api llm open source puntando il tuo client al nostro URL base: https://api.opensourcellmapi.com/v1. L'autenticazione avviene tramite una chiave API standard passata nell'intestazione Authorization. Ricevi questa chiave immediatamente dopo esserti registrato nella pagina Ottieni chiave API con solo email e password. Non sono richiesti numero di telefono o carta di credito per iniziare. Se devi ruotare le credenziali, puoi rigenerare la tua chiave in qualsiasi momento, revocando immediatamente quella precedente. Questo garantisce che tu mantenga il controllo sul tuo accesso senza fare affidamento su un'interfaccia dashboard complessa.

Invia la tua prima richiesta

Esegui una richiesta POST standard a /v1/chat/completions. L'endpoint si aspetta un corpo JSON con un campo model impostato su uncensored e un array messages. Questo endpoint supporta il formato di chat standard, consentendoti di passare da OpenAI o altri provider con modifiche minime al codice. Di seguito è riportato un esempio cURL di base per verificare la connettività e ricevere una risposta testuale.

Copycurl https://api.opensourcellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Integrazione SDK Python

L'utilizzo della libreria Python ufficiale di OpenAI semplifica l'integrazione. Installa il pacchetto tramite pip, quindi inizializza il client con la tua chiave API e il nostro URL base. Imposta il modello su uncensored e chiama il metodo di completamento chat. Questo approccio ti permette di sfruttare le tue applicazioni LLM Python esistenti con zero modifiche alla logica di inferenza. La libreria gestisce automaticamente la serializzazione e l'analisi degli errori.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.opensourcellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integrazione SDK Node.js

Per progetti JavaScript o TypeScript, utilizza l'SDK Node.js di OpenAI. Installa il pacchetto e configura il client con lo stesso URL base e chiave API. L'ID del modello uncensored garantisce che tu stia colpendo il nostro endpoint di inferenza senza censura. Questo ti permette di integrare direttamente le capacità LLM senza restrizioni nelle tue applicazioni web o lato server mantenendo la compatibilità con il codice standard del client OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.opensourcellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Abilita lo streaming (SSE)

Per una latenza inferiore e esperienze utente in tempo reale, abilita lo streaming impostando stream: true. L'API restituisce Server-Sent Events (SSE), consentendoti di elaborare i token man mano che vengono generati. Questo è ideale per le interfacce chat dove gli indicatori di digitazione migliorano le prestazioni percepite. La struttura della risposta rimane coerente con i formati di streaming standard di OpenAI, garantendo che i tuoi gestori di eventi funzionino senza logica di parsing personalizzata.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limiti, Errori e Finestra di contesto

La tua chiave API è limitata a 300 richieste al minuto e a un corpo della richiesta di 8 MB. La finestra di contesto supporta fino a 100.000 token per il prompt e il completazione combinati. Se ricevi un 401, la tua chiave non è valida o è scaduta. Un 402 indica credito prepagato insufficiente; puoi ricaricare da $10 tramite criptovaluta (USDT o USDC). Un 429 significa che hai superato il limite di richieste. Tutti i crediti sono prepagati e non scadono mai, con bonus disponibili per ricariche più grandi.