Perus-URL ja todennus
Yhdistä API:hin annetun base URL -osoitteen ja esimaksullisen token-avaimen avulla. Todennus tapahtuu välittämällä API-avaimesi pyynnön otsakkeessa, mikä varmistaa, että vain tilisi käyttää omia kredittiään. Rekisteröidy Googlen tai sähköpostin kautta saadaksesi avaimesi välittömästi ilman puhelintodennusta.
curl https://api.kimicodeapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current rate limit for free tier users?"}]
}'Pyyntösi kohdistuvat standardiin OpenAI-yhteensopivaan päätepisteeseen. Tämä suunnittelu mahdollistaa palvelumme käyttämisen ilman olemassa olevan asiakasohjelmakoodin muuttamista, kunhan päivität perus-URL:n ja kirjautumistiedot.
Chat Completions Endpoint
Lähetä viestit mallille käyttäen POST /v1/chat/completions endpoint. Sinun on määritettävä mallin ID arvoksi uncensored päästäksesi käsiksi optimoituun suureen kielimalliin, joka toimii palvelimillamme. Järjestelmä hyväksyy standardit viestiroolit kuten user tai assistant monisuuntaisiin keskusteluihin.
from openai import OpenAI
client = OpenAI(base_url="https://api.kimicodeapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Tämä päätepiste hyväksyy tekstisyötteen ja palauttaa tuotetun tekstin. Se ei tue upotuksia, kuvia tai ääntä. Keskity syötteesi rakenteeseen saadaksesi parhaat tulokset suodattamattomasta mallista.
Streamausvastaukset (SSE)
Ota reaaliaikainen token-toimitus käyttöön asettamalla stream-parametri arvoksi true pyynnössä. API palauttaa Server-Sent Events -lohkoja (SSE), joiden avulla sovelluksesi voi näyttää tekstiä sen synnyttyä. Viimeinen lohko sisältää täydelliset token-käyttötilastot laskutusta varten.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Streamaus vähentää havaittua viivettä loppukäyttäjille. Voit käsitellä jokaista merkkiä sen saapuessa, mikä on ihanteellista chat-liittymille. Muista, että streamaus ei muuta mallin käyttäytymistä tai merkkien hinnoittelua.
Funktikutsut ja työkalut
Määritä työkalut pyyntöön, jotta malli voi tuottaa rakenteellisia funktiokutsuja. API tukee tool_choice-parametreja, jolloin voit pakottaa mallin käyttämään tiettyä työselua tai antaa sen päättää autonomisesti. Tämä ominaisuus toimii standardien OpenAI-työselumuotojen kanssa, mikä tekee integraatiosta suoraviivaista.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.kimicodeapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Käytä funktiokutsuja datan erotteluun tai toimintojen käynnistämiseen sovelluksissasi. Malli tulkitsee työkalumäärittelyt ja palauttaa JSON-objekteja, jotka sisältävät tarvittavat argumentit. Tämä ominaisuus laajentaa API:ta yksinkertaisen tekstigeneroinnin ulkopuolelle.
JSON-tila ja parametrit
Pakota tiukka JSON-tuloste asettamalla response_format vastaan {"type": "json_object"}. Tämä varmistaa, että malli palauttaa kelvollista JSONia, mikä on kriittistä ohjelmalliseen jäsentämiseen. Voit myös säätää parametreja kuten temperature, top_p ja stop-jonoja hallitaksesi luovuutta ja tulosteen pituutta.
Malli tukee 100 000 tokenin kontekstiikkunaa. Tämä mahdollistaa suurten määrien kontekstia yhdestä pyynnöstä. Maksimituloste on 16 000 tokenia pyyntöä kohden tai 2 048, jos et määritä max_tokensia.
Rajoitukset, virheet ja konteksti
Seuraa pyyntörajojasi välttääksesi palvelun keskeytyksiä. API sallii 300 pyyntöä minuutissa avainta kohden ja enintään 8 samanaikaista pyyntöä. Pyynnön rungon tulee jäädä alle 8 MB:n. Jos ylität nämä rajat, saat nopeusrajoitusvirheen 429.
Todennusvirheet palauttavat 401-virheen, jos avain on virheellinen. 402-virhe tarkoittaa riittämätöntä esimaksua. Virheet generoinnin aikana eivät kuluta tokeneita. Kontesttilaajuus sisältää sekä prompt- että completion-tokenit. Käyttämätön luoto ei vanhene, mikä varmistaa, että esimaksutaseesi on käytettävissä tuleviin projekteihin.
