Dokumentace API pro vývojáře

Nastavení základní URL ověření

Začněte nakonfigurovat klienta pomocí správné základní URL a klíče. Naše API je dostupné na HTTPS://api.llamaapikey.com/v1. Toto nastavení funguje s oficiálními SDK OpenAI i s jakýmkoli kompatibilním klientem. Stačí změnit základní URL a poskytnout svůj klíč. Nepoužíváme směrování modelů ani vendor lock-in.

• Základní URL: HTTPS://api.llamaapikey.com/v1
• ID modelu: "uncensored"
• Ověření: Hlavička Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Odesílání požadavků na /v1/chat/completions

Odeslejte standardní POST požadavek na koncový bod chat completions. ID modelu je "uncensored". Efektivně zpracovává text na vstupu a výstupu. Parametry jako teplota nebo top_p můžete upravit. Chyby nespotřebovávají kredit. Odmítnutí standardního obsahu je zdarma.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamované odpovědi přes SSE

Povolte streamování nastavením stream: true. Získáte Server-Sent Events (SSE) pro výstup v reálném čase. Poslední blok obsahuje podrobnosti o spotřebě tokenů. Tento přístup je ideální pro rozhraní chatu. Získáte okamžitou zpětnou vazbu bez čekání na celou odpověď.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Volání funkcí a použití nástrojů

Použijte standardní formát nástrojů pro volání funkcí. Definujte své funkce v tools pole. Model podporuje tool_choice pro vynucené nebo automatické provedení. Můžete také vynutit režim JSON s response_format. To zajišťuje strukturované výstupy pro vaše aplikace.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Režim JSON a formátování odpovědí

Vynutit na modelu platný JSON. Nastavte response_format na {"type": "json_object"}.Tohle zabraňuje neplatným odpovědím ve vašem parseru. Funguje spolu s voláním funkcí. Získáte spolehlivá datová struktura pro logiku vašeho backendu.

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Pochopení využití a fakturace tokenů

Zaplatíte za skutečné využití tokenů. Chyby a odmítnutí jsou zdarma. Kontextové okno má 100 000 tokenů. Maximální výstup je 16 000 tokenů. Limit rychlosti je 300 požadavků za minutu. Ošetřete 401 pro neplatné klíče. Ošetřete 402 pro nedostatek kreditu. Ošetřete 429 pro limity rychlosti.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)