เอกสาร API สำหรับนักพัฒนา

Authentication and base URL setup

เริ่มโดยการกำหนดค่าไคลเอนต์ของคุณด้วย URL พื้นฐานและคีย์ที่ถูกต้อง API ของเราอยู่ที่ HTTPS://api.llamaapikey.com/v1 การตั้งค่านี้ทำงานกับ SDK ทางการของ OpenAI และไคลเอนต์ที่เข้ากันได้ทุกตัว คุณเพียงแค่ต้องเปลี่ยน URL พื้นฐานและระบุคีย์ของคุณ เราไม่ใช้การกำหนดเส้นทางโมเดลหรือการผูกมัดผู้ให้บริการ

• URL ฐาน: HTTPS://api.llamaapikey.com/v1
• ID โมเดล: "uncensored"
• Auth: Header Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

การส่ง requests ไปยัง /v1/chat/completions

ส่งคำขอ POST มาตรฐานไปยังเอนด์พอยต์ chat completions รหัสโมเดลคือ "uncensored" มันจัดการข้อความเข้าและข้อความออกได้อย่างมีประสิทธิภาพ ข้อผิดพลาดไม่ใช้เครดิต การปฏิเสธสำหรับเนื้อหามาตรฐานไม่มีค่าใช้จ่าย

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การตอบสนองแบบสตรีมผ่าน SSE

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true.คุณได้รับ Server-Sent Events (SSE) สำหรับ output แบบเรียลไทม์ chunk สุดท้ายมีรายละเอียดการใช้งาน tokens วิธีการนี้เหมาะสำหรับอินเทอร์เฟซแชท คุณได้รับข้อมูลตอบกลับทันทีโดยไม่ต้องรอการตอบกลับทั้งหมด

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

การเรียกฟังก์ชันและการใช้งานเครื่องมือ

ใช้รูปแบบเครื่องมือมาตรฐานสำหรับการคอลลิงฟังก์ชัน กำหนดฟังก์ชันของคุณใน tools array. โมเดลรองรับ tool_choice สำหรับการบังคับดำเนินการ คุณยังสามารถบังคับใช้โหมด JSON ด้วย response_formatสิ่งนี้ช่วยให้ได้ผลลัพธ์ที่มีโครงสร้างสำหรับแอปพลิเคชันของคุณ

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

โหมด JSON และการจัดรูปแบบการตอบกลับ

บังคับให้โมเดลส่งออก JSON ที่ถูกต้อง ตั้งค่า response_format เพื่อ {"type": "json_object"}. สิ่งนี้ป้องกันคำตอบที่ผิดรูปแบบในตัวแยกวิเคราะห์ของคุณ มันทำงานร่วมกับฟังก์ชันคอลลิง คุณได้รับโครงสร้างข้อมูลที่เชื่อถือได้สำหรับตรรกะแบ็กเอนด์ของคุณ

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

การทำความเข้าใจการใช้งานและการเรียกเก็บเงินตามโทเคน

คุณจ่ายตามการใช้งาน token จริง ข้อผิดพลาดและการปฏิเสธไม่มีค่าใช้จ่าย Context window คือ 100,000 tokens Max output คือ 16,000 tokens Rate limit คือ 300 requests ต่อนาที จัดการ 401 สำหรับ key ไม่ถูกต้อง จัดการ 402 สำหรับเครดิตไม่พอ จัดการ 429 สำหรับ rate limit

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)