बेस URL और प्रमाणीकरण
प्रदान किए गए बेस URL और प्रीपेड टोकन कुंजी का उपयोग करके API से कनेक्ट करें। आप अनुरोध हेडर में अपनी API कुंजी पास करके प्रमाणीकरण करते हैं, यह सुनिश्चित करते हुए कि केवल आपका खाता आपके क्रेडिट्स तक पहुंच पाए। Google या ईमेल के माध्यम से साइन अप करें और फोन सत्यापन के बिना तुरंत अपनी कुंजी प्राप्त करें।
curl https://api.kimicodeapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current rate limit for free tier users?"}]
}'आपके अनुरोध मानक OpenAI-संगत एंडपॉइंट को लक्षित करते हैं। यह डिज़ाइन आपको मौजूदा क्लाइंट कोड को फिर से लिखे बिना हमारी सेवा को स्विच करने की अनुमति देता है, बशर्ते आप बेस URL और क्रेडेंशियल अपडेट करें।
चैट कंप्लीशंस एंडपॉइंट
का उपयोग करके मॉडल को संदेश भेजें POST /v1/chat/completions एंडपॉइंट। आपको मॉडल आईडी को uncensored हमारे सर्वरों पर चलने वाले अनुकूलित बड़े भाषा मॉडल तक पहुंचने के लिए। सिस्टम मल्टी-टर्न बातचीत के लिए user या assistant जैसे मानक संदेश भूमिकाओं को स्वीकार करता है।
from openai import OpenAI
client = OpenAI(base_url="https://api.kimicodeapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)यह एंडपॉइंट टेक्स्ट इनपुट स्वीकार करता है और जनरेटेड टेक्स्ट लौटाता है। यह एम्बेडिंग्स, इमेजेस, या ऑडियो को सपोर्ट नहीं करता है। अनसेंसर्ड मॉडल से बेस्ट रिजल्ट्स पाने के लिए अपने प्रॉम्प्ट स्ट्रक्चर पर ध्यान दें।
स्ट्रीमिंग रिस्पॉन्सेस (SSE)
अपने अनुरोध में stream पैरामीटर को true सेट करके रियल-टाइम टोकन डिलीवरी सक्षम करें। API सर्वर-सेंट इवेंट्स (SSE) चंक लौटाता है, जिससे आपकी एप्लिकेशन टेक्स्ट को जनरेट होते ही प्रदर्शित कर सकती है। अंतिम चंक बिलिंग के लिए पूर्ण टोकन उपयोग आंकड़े शामिल करता है।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)स्ट्रीमिंग अंतिम उपयोगकर्ताओं के लिए अनुभवजन्य विलंबता को कम करता है। आप प्रत्येक टोकन को आने पर प्रोसेस कर सकते हैं, जो चैट इंटरफ़ेस के लिए आदर्श है। याद रखें कि स्ट्रीमिंग मूल मॉडल व्यवहार या टोकन मूल्य निर्धारण को नहीं बदलता है।
फंक्शन कॉलिंग और टूल्स
मॉडल को स्ट्रक्चर्ड फंक्शन कॉल्स आउटपुट करने देने के लिए अपने रिक्वेस्ट में टूल्स परिभाषित करें। API tool_choice पैरामीटर्स का समर्थन करता है, जिससे आप मॉडल को विशिष्ट टूल का उपयोग करने के लिए फोर्स कर सकते हैं या उसे स्वतंत्र रूप से निर्णय लेने दे सकते हैं। यह फीचर मानक OpenAI टूल फॉर्मेट्स के साथ काम करता है, जिससे इंटीग्रेशन सरल हो जाता है।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.kimicodeapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);अप्लिकेशन में डेटा निकालने या क्रियाएँ ट्रिगर करने के लिए फ़ंक्शन कॉलिंग का उपयोग करें। मॉडल टूल परिभाषाओं को व्याख्या करता है और आवश्यक तर्क वाले JSON ऑब्जेक्ट लौटाता है। यह क्षमता API को सरल पाठ जनरेशन से आगे बढ़ाती है।
JSON मोड और पैरामीटर
सख्त JSON आउटपुट लागू करें सेटिंग करके response_format को {"type": "json_object"}. यह सुनिश्चित करता है कि मॉडल मान्य JSON लौटाए, जो प्रोग्रामेटिक पार्सिंग के लिए महत्वपूर्ण है। आप रैंडमनेस को नियंत्रित करने के लिए तापमान, top_p और स्टॉप सीक्वेंस जैसे पैरामीटर समायोजित कर सकते हैं।
मॉडल 100,000 टोकन संदर्भ विंडो का समर्थन करता है। इससे आप एकल अनुरोध में बड़ी मात्रा में संदर्भ पास कर सकते हैं। प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है, या 2,048 यदि आप max_tokens निर्दिष्ट नहीं करते हैं।
सीमाएं, त्रुटियां, और संदर्भ
अपने अनुरोध सीमाओं की निगरानी करें ताकि सेवा बाधाएं न हों। API प्रति कुंजी प्रति मिनट 300 अनुरोध और 8 समवर्ती अनुरोधों की अनुमति देता है। आपके अनुरोध बॉडी को 8 MB से कम रहना चाहिए। यदि आप इन सीमाओं को पार करते हैं, तो आपको 429 दर सीमा त्रुटि मिलती है।
प्रमाणीकरण विफलताएं 401 त्रुटि लौटाती हैं यदि कुंजी अमान्य है। 402 त्रुटि अपर्याप्त पूर्व-भुगतान क्रेडिट को इंगित करती है। जनरेशन के दौरान त्रुटियां आपके टोकन का उपभोग नहीं करती हैं। संदर्भ विंडो में प्रॉम्प्ट और पूर्णता दोनों टोकन शामिल हैं। उपयोग नहीं किए गए क्रेडिट कभी समाप्त नहीं होते, यह सुनिश्चित करते हुए कि आपका पूर्व-भुगतान शेष भविष्य की परियोजनाओं के लिए उपलब्ध रहे।
