Integrasikan Open Source LLM API dalam Hitungan Menit

URL Dasar dan Autentikasi

Hubungkan ke api llm open source dengan mengarahkan klien Anda ke URL dasar kami: https://api.opensourcellmapi.com/v1. Autentikasi ditangani melalui kunci API standar yang diteruskan dalam header Authorization. Anda menerima kunci ini segera setelah mendaftar di halaman Dapatkan kunci API hanya dengan email dan kata sandi. Tidak perlu nomor telepon atau kartu kredit untuk memulai. Jika Anda perlu memutar kredensial, Anda dapat membuat ulang kunci Anda kapan saja, yang secara langsung mencabut kunci sebelumnya. Ini memastikan Anda mempertahankan kontrol atas akses Anda tanpa bergantung pada antarmuka dasbor yang kompleks.

Kirim Permintaan Pertama Anda

Buat permintaan POST standar ke /v1/chat/completions. Endpoint mengharapkan tubuh JSON dengan bidang model yang diatur ke uncensored dan array messages. Endpoint ini mendukung format obrolan standar, memungkinkan Anda beralih dari OpenAI atau penyedia lain dengan perubahan kode minimal. Di bawah ini adalah contoh cURL dasar untuk memverifikasi konektivitas dan menerima respons teks.

Copycurl https://api.opensourcellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Integrasi SDK Python

Menggunakan pustaka Python OpenAI resmi menyederhanakan integrasi. Instal paket melalui pip, lalu inisialisasi klien dengan kunci API Anda dan URL dasar kami. Atur model ke uncensored dan panggil metode penyelesaian obrolan. Pendekatan ini memungkinkan Anda memanfaatkan aplikasi LLM Python yang ada dengan nol modifikasi pada logika inferensi. Pustaka menangani serialisasi dan parsing kesalahan secara otomatis.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.opensourcellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integrasi SDK Node.js

Untuk proyek JavaScript atau TypeScript, gunakan OpenAI Node.js SDK. Instal paketnya dan konfigurasikan klien dengan URL dasar dan kunci API yang sama. ID model uncensored memastikan Anda mengakses endpoint inferensi tanpa sensor kami. Ini memungkinkan Anda mengintegrasikan kemampuan LLM tanpa batasan langsung ke dalam aplikasi web atau sisi server Anda sambil mempertahankan kompatibilitas dengan kode klien OpenAI standar.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.opensourcellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aktifkan Streaming (SSE)

Untuk latensi lebih rendah dan pengalaman pengguna waktu nyata, aktifkan streaming dengan mengatur stream: true. API mengembalikan Server-Sent Events (SSE), memungkinkan Anda memproses token saat dihasilkan. Ini ideal untuk antarmuka obrolan di mana indikator pengetikan meningkatkan kinerja yang dirasakan. Struktur respons tetap konsisten dengan format streaming OpenAI standar, memastikan handler acara Anda berfungsi tanpa logika parsing kustom.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Batas, Kesalahan, dan Jendela Konteks

Kunci API Anda dibatasi hingga 300 permintaan per menit dan badan permintaan 8 MB. Jendela konteks mendukung hingga 100.000 token untuk prompt dan penyelesaian gabungan. Jika Anda menerima 401, kunci Anda tidak valid atau kedaluwarsa. 402 menunjukkan saldo saldo prabayar tidak cukup; Anda dapat mengisi saldo mulai dari $10 melalui kripto (USDT atau USDC). 429 berarti Anda telah melebihi batas laju. Semua kredit adalah saldo saldo prabayar dan tidak pernah kedaluwarsa, dengan bonus tersedia untuk pengisian lebih besar.