Интегрируйте Open Source LLM API за минуты

Базовый URL и аутентификация

Подключитесь к API LLM с открытым исходным кодом, указав в клиенте наш базовый URL: https://api.opensourcellmapi.com/v1. Аутентификация осуществляется с помощью стандартного API-ключа, передаваемого в заголовке Authorization. Вы получаете этот ключ сразу после регистрации на странице Получить API-ключ, указав только электронную почту и пароль. Для начала не требуется номер телефона или кредитная карта. Если вам нужно сменить учетные данные, вы можете сгенерировать новый ключ в любое время, что немедленно аннулирует предыдущий. Это гарантирует, что вы сохраняете контроль над своим доступом, не полагаясь на сложный интерфейс панели управления.

Отправьте свой первый запрос

Выполните стандартный POST-запрос к /v1/chat/completions. Эндпоинт ожидает тело JSON с полем model, установленным в uncensored, и массивом messages. Этот эндпоинт поддерживает стандартный формат чата, позволяя переключиться с OpenAI или других провайдеров с минимальными изменениями кода. Ниже приведен базовый пример cURL для проверки подключения и получения текстового ответа.

Copycurl https://api.opensourcellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Интеграция Python SDK

Использование официальной библиотеки OpenAI для Python упрощает интеграцию. Установите пакет через pip, затем инициализируйте клиент, указав ваш API-ключ и наш базовый URL. Установите модель в uncensored и вызовите метод завершения чата. Этот подход позволяет использовать существующие Python-приложения LLM без изменений в логике вывода. Библиотека автоматически обрабатывает сериализацию и разбор ошибок.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.opensourcellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Интеграция Node.js SDK

Для проектов на JavaScript или TypeScript используйте SDK OpenAI для Node.js. Установите пакет и настройте клиент, указав тот же базовый URL и API-ключ. Идентификатор модели uncensored гарантирует обращение к нашему инференс-эндпоинту без цензуры. Это позволяет интегрировать возможности LLM без ограничений непосредственно в веб- или серверные приложения, сохраняя совместимость со стандартным кодом клиента OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.opensourcellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Включить потоковую передачу (SSE)

Для снижения задержки и создания интерактивного пользовательского опыта включите потоковую передачу, установив stream: true. API возвращает события, отправляемые сервером (SSE), позволяя обрабатывать токены по мере их генерации. Это идеально подходит для интерфейсов чата, где индикаторы набора текста улучшают воспринимаемую производительность. Структура ответа остается согласованной со стандартными форматами потоковой передачи OpenAI, обеспечивая работу ваших обработчиков событий без пользовательской логики разбора.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Лимиты, ошибки и контекстное окно

Ваш API-ключ ограничен 300 запросами в минуту и телом запроса размером до 8 МБ. Контекстное окно поддерживает до 100 000 токенов для объединенного промпта и завершения. Если вы получаете 401, ваш ключ недействителен или истек. 402 указывает на недостаточный предоплаченный баланс; вы можете пополнить его от $10 с помощью криптовалюты (USDT или USDC). 429 означает, что вы превысили лимит запросов. Все кредиты являются предоплаченными и не сгорают, при этом доступны бонусы при крупных пополнениях.