Open Source LLM API को मिनटों में एकीकृत करें

बेस URL और प्रमाणीकरण

हमारे बेस URL पर अपने क्लाइंट को इशारा करके ओपन सोर्स LLM API से कनेक्ट करें: https://api.opensourcellmapi.com/v1। प्रमाणीकरण एक मानक API कुंजी के माध्यम से किया जाता है जो Authorization हेडर में भेजी जाती है। आप API कुंजी प्राप्त करें पेज पर केवल ईमेल और पासवर्ड के साथ साइन अप करने के तुरंत बाद यह कुंजी प्राप्त करते हैं। शुरू करने के लिए फ़ोन नंबर या क्रेडिट कार्ड की आवश्यकता नहीं है। यदि आपको क्रेडेंशियल रोटेट करने की आवश्यकता है, तो आप किसी भी समय अपनी कुंजी को पुनः जनरेट कर सकते हैं, जिससे पिछली कुंजी तुरंत रद्द हो जाती है। यह सुनिश्चित करता है कि आप जटिल डैशबोर्ड इंटरफ़ेस पर निर्भर किए बिना अपने एक्सेस पर नियंत्रण बनाए रखें।

अपना पहला अनुरोध भेजें

/v1/chat/completions पर एक मानक POST अनुरोध करें। एंडपॉइंट एक JSON बॉडी की उम्मीद करता है जिसमें model फ़ील्ड को uncensored पर सेट किया गया हो और एक messages सरणी हो। यह एंडपॉइंट मानक चैट फॉर्मेट का समर्थन करता है, जिससे आपको न्यूनतम कोड परिवर्तनों के साथ OpenAI या अन्य प्रदाताओं से स्विच करने की अनुमति मिलती है। नीचे कनेक्टिविटी की जांच करने और पाठ प्रतिक्रिया प्राप्त करने के लिए एक बेसिक cURL उदाहरण दिया गया है।

Copycurl https://api.opensourcellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK एकीकरण

आधिकारिक OpenAI Python लाइब्रेरी का उपयोग इंटीग्रेशन को सरल बनाता है। पैकेज को pip के माध्यम से इंस्टॉल करें, फिर अपने API कुंजी और हमारे बेस URL के साथ क्लाइंट को इनिशियलाइज़ करें। मॉडल को uncensored पर सेट करें और चैट कंप्लीशन विधि को कॉल करें। इस दृष्टिकोण से आपको इनफ़रेंस लॉजिक में शून्य संशोधन के साथ मौजूदा Python LLM एप्लिकेशन का लाभ उठाने की अनुमति मिलती है। लाइब्रेरी स्वचालित रूप से सीरियलाइज़ेशन और त्रुटि पार्सिंग संभालती है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.opensourcellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK एकीकरण

JavaScript या TypeScript प्रोजेक्ट्स के लिए, OpenAI Node.js SDK का उपयोग करें। पैकेज को इंस्टॉल करें और क्लाइंट को समान बेस यूआरएल और API कुंजी के साथ कॉन्फ़िगर करें। uncensored मॉडल आईडी यह सुनिश्चित करती है कि आप हमारे अनकेंसरड इनफरेंस एंडपॉइंट पर पहुंच रहे हैं। इससे आपको अपने वेब या सर्वर-साइड एप्लिकेशन में अनरिस्ट्रिक्टेड LLM क्षमताओं को सीधे इंटीग्रेट करने की अनुमति मिलती है, जबकि स्टैंडर्ड OpenAI क्लाइंट कोड के साथ संगतता बनाए रखी जाती है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.opensourcellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग सक्षम करें (SSE)

कम लेटेंसी और रियल-टाइम उपयोगकर्ता अनुभवों के लिए, stream: true सेट करके स्ट्रीमिंग सक्षम करें। API सर्वर-सेंट इवेंट्स (SSE) लौटाता है, जिससे आप टोकन को जनरेट होते हुए प्रोसेस कर सकते हैं। यह चैट इंटरफेस के लिए आदर्श है जहां टाइपिंग इंडिकेटर्स परसिप्ड परफॉर्मेंस को बेहतर बनाते हैं। रिस्पॉन्स स्ट्रक्चर स्टैंडर्ड OpenAI स्ट्रीमिंग फॉर्मेट्स के साथ सुसंगत रहता है, यह सुनिश्चित करते हुए कि आपके इवेंट हैंडलर्स बिना कस्टम पार्सिंग लॉजिक के काम करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

सीमाएँ, त्रुटियाँ और कॉन्टेक्स्ट विंडो

आपकी API कुंजी प्रति मिनट 300 अनुरोधों और 8 MB अनुरोध बॉडी तक सीमित है। कॉन्टेक्स्ट विंडो संयुक्त प्रॉम्प्ट और कंप्लीशन के लिए 100,000 टोकन तक का समर्थन करती है। यदि आपको 401 मिलता है, तो आपकी कुंजी अमान्य या समाप्त हो चुकी है। 402 का अर्थ है अपर्याप्त प्रीपेड क्रेडिट; आप क्रिप्टो (USDT या USDC) के माध्यम से $10 से टॉप-अप कर सकते हैं। 429 का अर्थ है कि आपने रेट लिमिट पार कर लिया है। सभी क्रेडिट प्रीपेड हैं और कभी समाप्त नहीं होते, बड़े टॉप-अप के लिए बोनस उपलब्ध हैं।