Base URL 및 인증
제공된 베이스 URL과 선불 토큰 키를 사용하여 API에 연결하세요. 요청 헤더에 API 키를 전달하여 인증하며, 이를 통해 계정의 크레딧에 오직 본인만 접근할 수 있습니다. Google 또는 이메일을 통해 가입하면 전화번호 인증 없이 즉시 키를 받을 수 있습니다.
curl https://api.kimicodeapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current rate limit for free tier users?"}]
}'요청은 표준 OpenAI 호환 엔드포인트를 대상으로 합니다. 이 설계는 기본 URL과 자격 증명을 업데이트하는 한 기존 클라이언트 코드를 수정하지 않고도 당사 서비스를 교체할 수 있게 합니다.
채팅 완료 엔드포인트
다음을 사용하여 모델로 메시지를 전송하세요 POST /v1/chat/completions 엔드포인트입니다. 모델 ID를 다음으로 지정해야 합니다. uncensored 서버에서 실행되는 최적화된 대규모 언어 모델에 접근하세요. 시스템은 다중 턴 대화를 위해 user 또는 assistant와 같은 표준 메시지 역할을 허용합니다.
from openai import OpenAI
client = OpenAI(base_url="https://api.kimicodeapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)이 엔드포인트는 텍스트 입력을 받아 생성된 텍스트를 반환합니다. 임베딩, 이미지 또는 오디오는 지원되지 않습니다. 비검열 모델에서 최상의 결과를 얻으려면 프롬프트 구조에 집중하세요.
스트리밍 응답 (SSE)
요청에서 stream 매개변수를 true로 설정하여 실시간 토큰 전달을 활성화하세요. API는 서버 전송 이벤트(SSE) 청크를 반환하여 애플리케이션이 텍스트가 생성되는 대로 표시할 수 있습니다. 최종 청크에는 청구를 위한 전체 토큰 사용 통계가 포함됩니다.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)스트리밍은 최종 사용자의 지각된 지연 시간을 줄입니다. 각 토큰을 도착하는 대로 처리할 수 있으며, 이는 채팅 인터페이스에 이상적입니다. 스트리밍은 기본 모델 동작이나 토큰 가격 책정을 변경하지 않는다는 점을 기억하세요.
함수 호출 및 도구들
요청에 도구를 정의하여 모델이 구조화된 함수 호출을 반환하도록 하세요. API는 tool_choice 매개변수를 지원하여 모델이 특정 도구를 강제로 사용하거나 자율적으로 결정하도록 할 수 있습니다. 이 기능은 표준 OpenAI 도구 형식과 호환되어 통합이 용이합니다.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.kimicodeapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);애플리케이션에서 데이터를 추출하거나 작업을 트리거하기 위해 함수 호출을 사용하세요. 모델은 도구 정의를 해석하고 필요한 인수를 포함하는 JSON 객체를 반환합니다. 이 기능은 단순한 텍스트 생성을 넘어 API를 확장합니다.
JSON 모드 및 매개변수
response_format 매개변수를 설정하여 엄격한 JSON 출력을 강제하세요. response_format 수신하여 {"type": "json_object"}모델이 유효한 JSON을 반환하여 프로그래밍적 파싱에 필수적임을 보장합니다. 창의성과 출력 길이를 제어하기 위해 temperature, top_p, stop 시퀀스 등의 매개변수를 조정할 수도 있습니다.
이 모델은 100,000개의 토큰 컨텍스트 창을 지원합니다. 이를 통해 단일 요청으로 대량의 컨텍스트를 전달할 수 있습니다. 최대 출력은 요청당 16,000개 토큰이며, max_tokens을 지정하지 않으면 2,048개입니다.
제한 사항, 오류 및 컨텍스트
서비스 중단을 피하기 위해 요청 한도를 모니터링하세요. API는 키당 분당 300회 요청과 최대 8개의 동시 요청을 허용합니다. 요청 본문 크기는 8 MB 미만이어야 합니다. 이러한 한도를 초과하면 429 속도 제한 오류가 발생합니다.
인증 실패 시 키가 유효하지 않으면 401 오류가 반환됩니다. 402 오류는 미납 크레딧이 부족함을 나타냅니다. 생성 중 오류가 발생해도 토큰이 소모되지 않습니다. 컨텍스트 창에는 프롬프트 토큰과 완성 토큰이 모두 포함됩니다. 미사용 크레딧은 만료되지 않으므로 미납 잔액은 향후 프로젝트를 위해 항상 사용 가능합니다.
