Cài đặt SDK chính thức
Bắt đầu bằng cách cài đặt Python SDK chính thức của OpenAI trong môi trường của bạn. Thư viện này xử lý các yêu cầu HTTP và tuần tự hóa JSON cho bạn.
- Chạy
pip install openaitrong terminal của bạn. - Đảm bảo bạn đang sử dụng phiên bản thư viện mới nhất.
Sự phụ thuộc đơn lẻ này cho phép bạn truy cập giao diện máy khách tiêu chuẩn được sử dụng rộng rãi trong ngành.
Cấu hình URL cơ sở và Khóa
Điểm client của bạn đến URL gốc và đặt khóa API của bạn để xác thực. Điều này đảm bảo tất cả các yêu cầu được định tuyến đến máy chủ mô hình không kiểm duyệt của chúng tôi.
Sử dụng https://api.qwenmaxapi.com/v1 làm URL cơ sở. Tạo khóa của bạn trên Lấy khóa API trang qua Google hoặc email. Khóa được hiển thị ngay sau khi đăng ký.
Gửi Yêu cầu Chat Completion đầu tiên của bạn
Gửi một yêu cầu văn bản đơn giản đến /v1/chat/completions endpoint. endpoint. Mô hình trả về văn bản không giới hạn dựa trên prompt của bạn.
Sử dụng ID mô hình uncensored. API chấp nhận các tham số tiêu chuẩn như temperature và top_p. Bạn có thể điều chỉnh những điều này để kiểm soát sự sáng tạo.
Bật phát trực tiếp và Xử lý token
Bật chế độ streaming để nhận các token ngay khi chúng được tạo. Điều này giảm độ trễ cảm nhận cho các phản hồi dài.
Đặt stream=True trong yêu cầu của bạn. Máy chủ gửi Server-Sent Events (SSE). Chi tiết sử dụng token xuất hiện trong chunk cuối cùng.
Xử lý luồng trong mã của bạn để hiển thị đầu ra một cách dần dần.
Kiểm tra chế độ JSON và gọi hàm
Sử dụng chế độ JSON cho đầu ra dữ liệu có cấu trúc. Đặt response_format để {"type": "json_object"}. Điều này đảm bảo mô hình trả về JSON.
Bật gọi hàm bằng cách cung cấp một tools định nghĩa. Mô hình có thể gọi các công cụ dựa trên ngữ cảnh trong prompt của bạn. Sử dụng tool_choice để bắt buộc hoặc cho phép sử dụng công cụ.
Giới hạn, Lỗi và Cửa sổ ngữ cảnh
Biết các giới hạn của bạn trước khi mở rộng tích hợp của bạn. Cửa sổ ngữ cảnh là 100.000 token tổng cộng.
Đầu ra tối đa mỗi yêu cầu là 16.000 token. Bạn nhận được 300 yêu cầu mỗi phút mỗi khóa. Tám yêu cầu đồng thời được phép cho mỗi khóa.
Xử lý các lỗi như 401 cho khóa không hợp lệ hoặc 402 cho tín dụng không đủ. Các lỗi miễn phí, vì vậy các yêu cầu sai không tiêu thụ tín dụng.
cURL
curl https://api.qwenmaxapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 arguments against cloud computing"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenmaxapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.qwenmaxapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Phát trực tiếp
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)