כתובת URL בסיסית ואימות
התחבר ל-API באמצעות כתובת הבסיס שסופקה ומפתון טוקן בתשלום מראש. אתה מאמת את החיבור על ידי העברת מפתח ה-API שלך בכותרת הבקשה, מה שמבטיח שרק החשבון שלך גישה לקרדיטים שלך. הרשם באמצעות Google או דוא"ל כדי לקבל את המפתון שלך מיד ללא אימות טלפון.
curl https://api.kimicodeapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current rate limit for free tier users?"}]
}'הבקשות שלך מכוונות לנקודת הקצה הסטנדרטית התואמת ל-OpenAI. עיצוב זה מאפשר לך להחליף את השירות שלנו ללא צורך לשכתב את קוד הלקוח הקיים, בתנאות שתעדכן את כתובת הבסיס והאישורים.
נקודת קצה להשלמות צ'אט
שלח הודעות למודל באמצעות ה POST /v1/chat/completions נקודת קצה. עליך לציין את מזהה המודל כ- uncensored לגישה למודל שפה גדול מותאם הפועל על השרתים שלנו. המערכת מקבלת תפקידי הודעות סטנדרטיים כמו user או assistant לשיחות רב-סיביריות.
from openai import OpenAI
client = OpenAI(base_url="https://api.kimicodeapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)נקודת הקצה הזו מקבלת קלט טקסט ומחזירה טקסט שנוצר. היא לא תומכת ב-embeddings, תמונות או אודיו. התמקדו במבנה ההנחיה שלכם כדי לקבל את התוצאות הטובות ביותר מהמודל ללא צנזורה.
תגובות בסטרימינג (SSE)
אפשרו אספקת אסימונים בזמן אמת על ידי הגדרת הפרמטר stream לערך true בבקשה. ה-API מחזיר נתחי SSE, המאפשרים לאפליקציה שלך להציג טקסט כפי שהוא נוצר. החלק הסופי מכיל את סטטיסטיקות השימוש המלאות באסימונים לצורך חשבונאות.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)זרימת נתונים (Streaming) מפחיתה את תחוית השהייה עבור המשתמשים הסופיים. ניתן לעבד כל טוקן ברגע שהוא מגיע, מה שהופך את זה לאידיאלי לממשקי צ'אט. זכרו שזרימת נתונים אינה משנה את התנהגות המודל הבסיסית או את מחיר הטוקנים.
פקודות פונקציה וכלים
הגדירו כלים בבקשה כדי לאפשר למודל להפיק קריאות לפונקציות מבניות. ה-API תומך בפרמטרי tool_choice, המאפשרים לכם לכפות על המודל להשתמש בכלי ספציפי או להחליט באופן עצמאי. תכונה זו עובדת עם פורמטי הכלים הסטנדרטיים של OpenAI, מה שהופך את האינטגרציה לפשוטה.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.kimicodeapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);השתמש ב-calling פונקציות לחילוץ נתונים או הפעלת פעולות באפליקציות שלך. המודל מפרש את הגדרות הכלים ומחזיר אובייקטי JSON המכילים את הארגומנטים הנדרשים. יכולות זו מרחיבה את ה-API מעבר ליצירת טקסט פשוטה.
מצב JSON ופרמטרים
כפה פלט JSON קפדני על ידי הגדרת response_format אל {"type": "json_object"}. זה מבטיץ שהמודל יחזיר JSON, שזה קריטי לניתוח תכנותי. אתה יכול גם להתאים פרמטרים כמו טמפרטורה, top_p ורצפי עצירה כדי לשלוט ביצירתיות ואורך הפלט.
המודל תומך בחלון הקשר של 100,000 טוקנים. זה מאפשר לכם להעביר כמויות גדולות של הקשר בבקשה בודדת. הפלט המקסימלי הוא 16,000 טוקנים לכל בקשה, או 2,048 אם לא ציינתם max_tokens.
מגבלות, שגיאות והקשר
נטר את מגבלות הבקשות שלך כדי למנוע הפרעות בשירות. ה-API מאפשר 300 בקשות לדקה לכל מפתח ועד 8 בקשות מקבילות. גוף הבקשה שלך חייב להישאר מתחת ל-8 MB. אם תחרוג ממגבלות אלו, תקבל שגיאת הגבלת קצב 429.
כשלי אימות מחזירים שגיאה 401 אם המפתח לא תקין. שגיאה 402 מציינת קרדיט מקומי לא מספיק. שגיאות במהלך יצירה לא צורכות את הטוקנים שלך. חלון ההקשר כולל הן טוקני הנעה והן טוקני השלמה. קרדיט לא מנוצל לא פג תוקף, מה שמבטיח שהיתרה המקומית שלך תישאר זמינה לפרויקטים עתידיים.
