API dokumentáció fejlesztőknek

Hitelesítés és base URL beállítás

Kezdje az ügyfél konfigurálásával a helyes bázis URL és kulcs megadásával. API-nk a HTTPS://api.llamaapikey.com/v1 címen érhető el. Ez a beállítás működik a hivatalos OpenAI SDK-kkal és bármely kompatibilis ügyféllel. Csak a bázis URL-t kell megadnia, és biztosítania kell a kulcsot. Nem használunk modell-átirányítást vagy gyártói kötöttséget.

• Base URL: HTTPS://api.llamaapikey.com/v1
• Modell ID: "uncensored"
• Hitelesítés: Fejléc Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Kérések küldése a /v1/chat/completions végpontra

Küldjön egy szabványos POST kérést a chat completions végpontra. A modellazonosító "uncensored". Hatékonyan kezdi a szöveg bevitelt és kivitelt. A temperature vagy top_p paramétereket állíthatja. A hibák nem fogyasztanak kreditet. A szabványos tartalom visszautasításai ingyenesek.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SSE-n keresztüli streamelő válaszok

Engedélyezze a streamelést úgy, hogy stream: trueServer-Sent Events (SSE) formátumban kapsz valós idejű kimenetet. Az utolsó darab tartalmazza a tokenhasználat részleteit. Ez a megközelítés ideális chat felületekhez. Azonnali visszajelzést kapsz anélkül, hogy várnod kellene a teljes válaszra.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Funkcióhívás és eszközhasználat

Használja a szabványos tools formátumot a funkcióhíváshoz. Határozza meg a függvényeket a tools tömb. A modell támogatja a tool_choice kényszerített vagy automatikus végrehajtáshoz. Használhatja a JSON módot is response_format. Ez biztosítja a strukturált kimenetet az alkalmazásai számára.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

JSON mód és válaszformázás

Kényszerítse a modellt a érvényes JSON kimenetre. Állítsa response_format a {"type": "json_object"}.Ez megakadályozza a hibás válaszokat a parserében. A függvényhívás mellett működik. Megbízható adatszerkezeteket kap a háttérlogikájához.

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

A tokenfelhasználás és a számlázás megértése

Valódi tokenfelhasználásért fizetsz. A hibák és elutasítások ingyenesek. A kontextusablak 100,000 token. Max kimenet 16,000 token. A sebességkorlát percenként 300 kérés. Kezeld a 401-et érvénytelen kulcsoknál. Kezeld a 402-et hitel hiányában. Kezeld a 429-et a sebességkorlátoknál.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)