ติดตั้ง Official SDK
เริ่มด้วยการติดตั้ง official OpenAI Python SDK ในสภาพแวดล้อมของคุณ ไลบรารีนี้จะจัดการ HTTP requests และการทำ JSON serialization ให้คุณ
- Run
pip install openaiในเทอร์มินัลของคุณ - ตรวจสอบว่าคุณใช้เวอร์ชันล่าสุดของไลบรารีแล้วหรือไม่
dependency เดียวนี้จะให้คุณเข้าถึงอินเทอร์เฟซไคลเอนต์มาตรฐานที่ใช้กันทั่วไปในอุตสาหกรรม
กำหนดค่า URL พื้นฐานและคีย์
ชี้ไคลเอนต์ของคุณไปยัง URL ฐานและตั้งค่า API key ของคุณสำหรับการตรวจสอบสิทธิ์ สิ่งนี้ทำให้คำขอทั้งหมดไปยังเซิร์ฟเวอร์โมเดล uncensored ของเรา
ใช้ https://api.qwenmaxapi.com/v1 เป็น URL พื้นฐาน สร้างคีย์ของคุณบน รับ API key หน้าเว็บผ่าน Google หรืออีเมล คีย์จะแสดงทันทีหลังจากการสมัคร
ส่งคำขอ Chat Completion ครั้งแรกของคุณ
ส่งคำขอข้อความแบบง่ายไปยัง /v1/chat/completions endpoint. endpoint. โมเดลส่งข้อความแบบไม่มีข้อจำกัดตาม prompt ของคุณ
ใช้ ID ของโมเดล uncensored. API รับพารามิเตอร์มาตรฐานเช่น temperature และ top_p. คุณสามารถปรับสิ่งเหล่านี้เพื่อควบคุมความคิดสร้างสรรค์
เปิดใช้งานการสตรีมและจัดการโทเค็น
เปิดใช้งานการสตรีมเพื่อรับโทเค็นทันทีที่สร้างเสร็จ ซึ่งช่วยลดความล่าช้าที่ผู้ใช้รู้สึกได้สำหรับการตอบสนองที่ยาวนาน
ตั้งค่า stream=True ในการร้องขอของคุณ เซิร์ฟเวอร์ส่ง Server-Sent Events (SSE) รายละเอียดการใช้งานโทเค็นจะปรากฏในชิ้นส่วนสุดท้าย
จัดการสตรีมในโค้ดของคุณเพื่อแสดงผลเอาต์พุตแบบก้าวหน้า
ทดสอบโหมด JSON และการเรียกใช้ฟังก์ชัน
ใช้โหมด JSON สำหรับผลลัพธ์ข้อมูลที่มีโครงสร้าง ตั้งค่า response_format เพื่อ {"type": "json_object"}สิ่งนี้ช่วยให้โมเดลส่งคืน JSON ที่ถูกต้อง
เปิดใช้งานการเรียกใช้ฟังก์ชันโดยให้ tools คำจำกัดความ โมเดลสามารถเรียกใช้เครื่องมือได้โดยอิงจากบริบทในพรอมต์ของคุณ ใช้ tool_choice เพื่อบังคับหรืออนุญาตให้ใช้เครื่องมือ
ข้อจำกัด, ข้อผิดพลาด และหน้าต่างบริบท
รู้ขีดจำกัดของคุณก่อนขยายการผสานรวม หน้าต่างบริบทมีขนาด 100,000 โทเค็นรวมทั้งหมด
จำนวนโทเค็นสูงสุดต่อคำขอคือ 16,000 โทเค็น คุณได้รับ 300 คำขอต่อนาทีต่อคีย์ อนุญาตให้มีความพร้อมใช้งานสูงสุด 8 คำขอต่อคีย์
จัดการข้อผิดพลาดเช่น 401 สำหรับคีย์ไม่ถูกต้อง หรือ 402 สำหรับเครดิตไม่เพียงพอ ข้อผิดพลาดไม่เสียค่าใช้จ่าย ดังนั้นคำขอที่ผิดพลาดจะไม่ใช้เครดิต
cURL
curl https://api.qwenmaxapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 arguments against cloud computing"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenmaxapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.qwenmaxapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);การสตรีม
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)