Hivatalos SDK telepítése
Kezdje a hivatalos OpenAI Python SDK telepítésével a környezetében. Ez a könyvtár kezeli az HTTP-kéréseket és a JSON-sorozást az Ön helyett.
- Futtatás
pip install openaia termináldban. - Győződjön meg róla, hogy a legújabb könyvtárat használja.
Ez az egyetlen függőség hozzáférést biztosít az iparági szabványos ügyfél interfészhez.
Alap URL és kulcs konfigurálása
Irányítsd ügyfeledet az alap URL-re, és állítsd be az API kulcsot hitelesítéshez. Ez biztosítja, hogy minden kérés a cenzúrázatlan modell szerverünkre irányuljon.
Használat https://api.qwenmaxapi.com/v1 alap URL-ként. Generáld a kulcsot a API kulcs beszerzése oldal Google-fiókkal vagy e-mail címmel. A kulcs azonnal megjelenik regisztráció után.
Küldje el az első Chat Completion kérést
Küldjön egy egyszerű szöveges kérést a /v1/chat/completions endpoint. A modell szűrő nélküli szöget ad vissza a promptja alapján.
Használja a modell azonosítót uncensored. Az API elfogadja a standard paramétereket, mint például temperature és top_p. Ezekkel vezérelheti a kreativitást.
Streamelés és tokenek kezelése
A tokenok streamelése lehetővé teszi, hogy azokat azonnal fogadjuk, amint azok generálódnak. Ez csökkenti az észlelt késést hosszú válaszok esetén.
Beállítás stream=True a kérésben. A szerver Server-Sent Events (SSE) eseményeket küld. A token-használati részletek az utolsó töredékben jelennek meg.
Kezelje a streamet a kódjában a kimenet fokozatos megjelenítéséhez.
Tesztelje a JSON módot és a függvényhívást
Használjon JSON módot strukturált adatok kimenetéhez. Állítsa be response_format a {"type": "json_object"}. Ez biztosítja, hogy a modell érvényes JSON-t adjon vissza.
Függvényhívás engedélyezése egy tools definíció. A modell eszközöket hívhat meg a prompt kontextusa alapján. Használja tool_choice az eszközhasználat kikényszerítését vagy engedélyezését.
Korlátok, hibák és kontextus ablak
Ismerje a korlátait, mielőtt skálázná az integrációt. A kontextusablak 100,000 token összesen.
A kimenet maximum 16 000 tokenre korlátozódik kérésenként. Kulcsonként percenként 300 kérést kap. Kulcsonként nyolc párhuzamos kérés engedélyezett.
Kezelje a hibákat, mint például a 401 érvénytelen kulcsok esetén vagy a 402 elégtelen hitel esetén. A hibák ingyenesek, így a rossz kérések nem fogyasztanak hitelt.
cURL
curl https://api.qwenmaxapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 arguments against cloud computing"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenmaxapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.qwenmaxapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streamelés
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)