Dokumentaatio kehittäjille

Todennus ja base URL -asetukset

Aloita määrittämällä asiakasohjelmasi oikealla base URL -osoitteella ja avaimella. API-palvelumme on osoitteessa HTTPS://api.llamaapikey.com/v1. Tämä asennus toimii virallisten OpenAI SDK -asiakasohjelmistojen ja minkä tahansa yhteensopivan asiakkaan kanssa. Sinun tarvitsee vain muuttaa base URL -osoitetta ja toimittaa avaimesi. Emme käytä mallien reititystä tai toimittajien lukittumista.

• Perus-URL: HTTPS://api.llamaapikey.com/v1
• Mallin tunnus: "uncensored"
• Auth: Otsikko Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Lähettämällä pyyntöjä /v1/chat/completions-osoitteeseen

Lähetä vakio POST-pyyntö chat-completions-päätepisteeseen. Mallin tunnus on "uncensored". Se käsittelee tehokkaasti teksti sisääntulo ja teksti ulostulo. Voit säätää parametreja kuten temperature tai top_p. Virheet eivät kuluta krediittiä. Kieltäytymiset yleisestä sisällöstä ovat ilmaisia.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamausvastaukset SSE:n kautta

Ota streamaus käyttöön asettamalla stream: true. Saat Server-Sent Events (SSE) -tapahtumia reaaliaikaiseen tulostukseen. Viimeinen palautus sisältää tokenkäyttötiedot. Tämä lähestymistapa on ihanteellinen keskusteluliittymille. Saat välitöntä palautetta odottamatta koko vastausta.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Toimintokutsut ja työkalujen käyttö

Käytä vakiotyökalumuotoilua function callingiin. Määrittele funktiosi tools taulukkoa. Malli tukee tool_choice pakotettuun tai automaattiseen suorittamiseen. Voit myös pakottaa JSON-tilan käyttämällä response_format. Tämä varmistaa rakenteiset tulosteet sovelluksillesi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

JSON-tila ja vastausmuotoilu

Pakota malli tuottamaan kelvollinen JSON. Aseta response_format vastaan {"type": "json_object"}. Tämä estää virheelliset vastaukset jäsenessäsi. Se toimii funktiokutsujen rinnalla. Saat luotettavia tietorakenteita taustajärjestelmän logiikkaasi varten.

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Ymmärrä token-käyttöä ja laskutusta

Maksat todellisesta token-käytöstä. Virheet ja hylkäykset ovat ilmaisia. Kontekstiikkuna on 100 000 tokenia. Maksimitulostus on 16 000 tokenia. Nopeusrajoitus on 300 pyyntöä minuutissa. Käsittele 401 virhe virheellisille avaimille. Käsittele 402 virhe, jos saldoa ei ole. Käsittele 429 virhe nopeusrajoituksille.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)