Open Source LLM API을 분 단위로 통합하세요

Base URL 및 인증

오픈 소스 LLM API에 연결하려면 클라이언트를 다음 베이스 URL로 설정하세요: https://api.opensourcellmapi.com/v1. 인증은 Authorization 헤더에 전달되는 표준 API 키로 처리됩니다. 이메일과 비밀번호만으로 API 키 받기 페이지에서 가입하면 키를 즉시 받을 수 있습니다. 시작하려면 전화번호나 신용카드가 필요하지 않습니다. 자격 증명을 교체해야 할 경우 언제든지 키를 재생성할 수 있으며, 이전 키는 즉시 무효화됩니다. 이를 통해 복잡한 대시보드 인터페이스에 의존하지 않고도 접근 권한을 완전히 통제할 수 있습니다.

Send Your First Request

표준 POST 요청을 /v1/chat/completions 엔드포인트로 보내세요. 엔드포인트는 model 필드가 uncensored로 설정되고 messages 배열이 포함된 JSON 본문을 기대합니다. 이 엔드포인트는 표준 채팅 형식을 지원하므로 최소한의 코드 변경으로 OpenAI 또는 다른 제공업체에서 전환할 수 있습니다. 아래는 연결을 확인하고 텍스트 응답을 받기 위한 기본 cURL 예제입니다.

Copycurl https://api.opensourcellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK Integration

공식 OpenAI Python 라이브러리를 사용하면 통합이 간편해집니다. pip를 통해 패키지를 설치한 후 API 키와 Base URL을 사용하여 클라이언트를 초기화하세요. 모델을 uncensored로 설정하고 채팅 완료 메서드를 호출하세요. 이 접근 방식은 추론 로직에 수정 없이 기존 Python LLM 애플리케이션을 활용할 수 있게 합니다. 라이브러리는 직렬화 및 오류 파싱을 자동으로 처리합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.opensourcellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK Integration

JavaScript 또는 TypeScript 프로젝트의 경우 OpenAI Node.js SDK를 사용하세요. 패키지를 설치하고 Base URL과 API 키로 클라이언트를 구성하세요. uncensored 모델 ID는 무검열 추론 엔드포인트에 접근하고 있음을 보장합니다. 이를 통해 표준 OpenAI 클라이언트 코드와의 호환성을 유지하면서 제한 없는 LLM 기능을 웹 또는 서버 측 애플리케이션에 직접 통합할 수 있습니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.opensourcellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Enable Streaming (SSE)

낮은 지연 시간과 실시간 사용자 경험을 위해 stream: true를 설정하여 스트리밍을 활성화하세요. API는 Server-Sent Events (SSE)를 반환하므로 생성되는 토큰을 즉시 처리할 수 있습니다. 입력 표시가 인지된 성능을 향상시키는 채팅 인터페이스에 이상적입니다. 응답 구조는 표준 OpenAI 스트리밍 형식과 동일하게 유지되어 사용자 정의 파싱 로직 없이 이벤트 핸들러가 작동할 수 있습니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

제한, 오류 및 컨텍스트 창

API 키는 분당 300개 요청과 8 MB 요청 본문으로 제한됩니다. 컨텍스트 창은 프롬프트와 완성의 합계에 대해 최대 100,000 토큰을 지원합니다. 401 오류가 발생하면 키가 유효하지 않거나 만료되었습니다. 402 오류는 선불 크레딧이 부족함을 나타냅니다. 암호화폐(USDT 또는 USDC)를 통해 $10부터 충전할 수 있습니다. 429 오류는 속도 제한을 초과했음을 의미합니다. 모든 크레딧은 선불이며 만료되지 않으며, 더 큰 충전 시 보너스가 제공됩니다.