Dokumentasi API untuk pembangun

Pengesahan dan penetapan url asas

Mula dengan mengkonfigurasi klien anda dengan URL asas dan kunci yang betul. API kami berada di HTTPS://api.llamaapikey.com/v1. Sedia set ini berfungsi dengan SDK rasmi OpenAI dan mana-mana klien yang serasi. Anda hanya perlu mengubah URL asas dan menyediakan kunci anda. Kami tidak menggunakan pengalihan model atau kunci pembekal.

• URL Asas: HTTPS://api.llamaapikey.com/v1
• ID Model: "uncensored"
• Auth: Header Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Menghantar permintaan ke /v1/chat/completions

Permintaan POST standard ke endpoint penyelesaian chat. ID model ialah "uncensored". Ia mengendalikan teks masuk dan keluar dengan cekap. Anda boleh menyesuaikan parameter seperti suhu atau top_p. Ralat tidak menggunakan kredit. Penolakan untuk kandungan standard adalah percuma.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Respons aliran melalui SSE

Aktifkan aliran dengan menetapkan stream: true. Anda menerima Server-Sent Events (SSE) untuk output masa nyata. Pecahan terakhir mengandungi butiran penggunaan token. Pendekatan ini sesuai untuk antaramuka sembang. Anda mendapat maklum balas serta-merta tanpa menunggu respons penuh.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pemanggilan fungsi dan penggunaan alat

Gunakan format alat piawai untuk panggilan fungsi. Takrifkan fungsi anda dalam tools array. Model menyokong tool_choice untuk pelaksanaan paksa atau automatik. Anda juga boleh memaksakan mod JSON dengan response_format. Ini memastikan output yang terstruktur untuk aplikasi anda.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

mod JSON dan pemformatan respons

Paksa model untuk mengeluarkan JSON sah. Tetapkan response_format ke {"type": "json_object"}. Ini mencegah respons yang rosak dalam parser anda. Ia berfungsi bersama pemanggilan fungsi. Anda mendapatkan struktur data yang boleh dipercayai untuk logik backend anda.

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Memahami penggunaan dan bil token

Anda membayar untuk penggunaan token sebenar. Ralat dan penolakan adalah percuma. Tetingkap konteks ialah 100,000 token. Output maksimum ialah 16,000 token. Had kadar ialah 300 permintaan setiap minit. Tangani 401 untuk kunci tidak sah. Tangani 402 untuk tiada kredit. Tangani 429 untuk had kadar.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)