Tài liệu API cho nhà phát triển

Xác thực và thiết lập base URL

Bắt đầu bằng cách định cấu hình máy khách của bạn với URL cơ sở và khóa đúng. API của chúng tôi có địa chỉ HTTPS://api.llamaapikey.com/v1. Cấu hình này hoạt động với các SDK chính thức của OpenAI và bất kỳ máy khách tương thích nào. Bạn chỉ cần thay đổi URL cơ sở và cung cấp khóa của bạn. Chúng tôi không sử dụng định tuyến mô hình hay khóa nhà cung cấp.

• Base URL: HTTPS://api.llamaapikey.com/v1
• ID Mô hình: "uncensored"
• Xác thực: Header Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Gửi yêu cầu đến /v1/chat/completions

Gửi một yêu cầu POST tiêu chuẩn đến endpoint hoàn tất hội thoại. ID mô hình là "uncensored". Nó xử lý văn bản vào và văn bản ra một cách hiệu quả. Bạn có thể điều chỉnh các tham số như nhiệt độ hoặc top_p. Lỗi không tiêu thụ tín dụng. Từ chối nội dung tiêu chuẩn là miễn phí.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Các phản hồi dạng stream thông qua SSE

Bật phát trực tiếp bằng cách đặt stream: true. Bạn nhận được Server-Sent Events (SSE) cho đầu ra thời gian thực. Chunk cuối cùng chứa chi tiết sử dụng token. Cách tiếp cận này lý tưởng cho các giao diện trò chuyện. Bạn nhận được phản hồi ngay lập tức mà không cần chờ phản hồi đầy đủ.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Gọi hàm và sử dụng công cụ

Sử dụng định dạng công cụ chuẩn cho việc gọi hàm. Xác định các hàm của bạn trong tools mảng. Mô hình hỗ trợ tool_choice cho việc thực thi bắt buộc hoặc tự động. Bạn cũng có thể buộc chế độ JSON với response_format. Điều này đảm bảo đầu ra có cấu trúc cho các ứng dụng của bạn.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Chế độ JSON và định dạng phản hồi

Buộc mô hình xuất ra JSON hợp lệ. Đặt response_format để {"type": "json_object"}. Điều này ngăn các phản hồi bị lỗi cú pháp trong trình phân tích của bạn. Nó hoạt động cùng với gọi hàm. Bạn có các cấu trúc dữ liệu đáng tin cậy cho logic backend của mình.

Copycurl https://api.llamaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate API key for llama model usage"}]
  }'

Hiểu việc sử dụng token và hóa đơn

Bạn trả tiền cho mức sử dụng token thực tế. Lỗi và từ chối là miễn phí. Cửa sổ ngữ cảnh là 100.000 token. Đầu ra tối đa là 16.000 token. Giới hạn tốc độ là 300 yêu cầu mỗi phút. Xử lý 401 cho khóa không hợp lệ. Xử lý 402 cho không có tín dụng. Xử lý 429 cho giới hạn tốc độ.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)