Open Source LLM API'ı Dakikalar İçinde Entegre Edin

Temel URL ve Kimlik Doğrulama

İstemcinizi açık kaynaklı LLM API'mizin temel URL'sine yönlendirerek bağlanın: https://api.opensourcellmapi.com/v1. Kimlik doğrulama, Authorization üstbilgisinde iletilen standart bir API anahtarı aracılığıyla sağlanır. Bu anahtarı, yalnızca bir e-posta ve şifre ile API anahtarı al sayfasında kaydolduktan sonra hemen alırsınız. Başlamak için telefon numarası veya kredi kartı gerekmez. Kimlik bilgilerinizi yenilemeniz gerekirse, anahtarınızı istediğiniz zaman yeniden oluşturabilir ve böylece öncekini hemen geçersiz kılabilirsiniz. Bu sayede karmaşık bir kontrol paneli arayüzüne güvenmeden erişiminiz üzerinde kontrolü korursunuz.

İlk İsteğinizi Gönderin

Standart bir POST isteği /v1/chat/completions uç noktasına gönderin. Uç nokta, model alanı uncensored olarak ayarlanmış ve bir messages dizisi içeren bir JSON gövdesi bekler. Bu uç nokta, standart sohbet formatını destekler ve OpenAI veya diğer sağlayıcılardan minimal kod değişiklikleriyle geçiş yapmanızı sağlar. Bağlantıyı doğrulamak ve metin yanıtı almak için aşağıda temel bir cURL örneği verilmiştir.

Copycurl https://api.opensourcellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK Entegrasyonu

Resmi OpenAI Python kütüphanesi entegrasyonu kolaylaştırır. Paketi pip aracılığıyla yükleyin, ardından istemcinizi API anahtarınız ve temel URL'nizle başlatın. Modeli uncensored olarak ayarlayın ve sohbet tamamlama yöntemini çağırın. Bu yaklaşım, çıkarım mantığında sıfır değişiklik yaparak mevcut Python LLM uygulamalarınızdan yararlanmanızı sağlar. Kütüphane otomatik olarak seri hale getirme ve hata ayrıştırma işlemlerini halleder.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.opensourcellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK Entegrasyonu

JavaScript veya TypeScript projeleri için OpenAI Node.js SDK'sını kullanın. Paketi yükleyin ve istemciyi aynı temel URL ve API anahtarıyla yapılandırın. uncensored model kimliği, sansürsüz çıkarım uç noktamıza bağlandığınızdan emin olmanızı sağlar. Bu, standart OpenAI istemci koduyla uyumluluğu korurken kısıtlamasız LLM yeteneklerini doğrudan web veya sunucu taraflı uygulamalarınıza entegre etmenize olanak tanır.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.opensourcellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akışı Etkinleştir (SSE)

Düşük gecikme süresi ve gerçek zamanlı kullanıcı deneyimleri için stream: true ayarlayarak akışı etkinleştirin. API, Sunucu Tarafından Gönderilen Olaylar (SSE) döndürür, böylece tokenlar oluşturulurken bunları işleyebilirsiniz. Bu, yazma göstergelerinin algılanan performansı artırdığı sohbet arayüzleri için idealdir. Yanıt yapısı standart OpenAI akış formatlarıyla tutarlı kalır, böylece olay işleyicileriniz özel ayrıştırma mantığı olmadan çalışır.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limitler, Hatalar ve Bağlam Penceresi

API anahtarınız dakika başına 300 istek ve 8 MB'lık istek gövdesi ile sınırlıdır. Bağlam penceresi, birleşik istem ve tamamlama için 100.000 token'a kadar destekler. 401 hatası alırsanız anahtarınız geçersiz veya süresi dolmuş demektir. 402 hatası, yetersiz ön ödemeli kredi anlamına gelir; bakiyenizi kripto para (USDT veya USDC) ile $10'dan itibaren yükleyebilirsiniz. 429 hatası, hız limitini aştığınızı gösterir. Tüm krediler ön ödemelidir ve süresi dolmaz; daha büyük bakiye yüklemeleri için bonuslar mevcuttur.