Nainstalujte oficiální SDK
Začněte instalací oficiálního Python SDK OpenAI ve vašem prostředí. Tato knihovna pro vás zpracovává HTTP požadavky a serializaci JSON.
- Spustit
pip install openaive vašem terminálu. - Ujistěte se, že používáte novou verzi knihovny.
Tato jedna závislost vám poskytuje přístup k standardnímu rozhraní klienta používanému v celém odvětví.
Konfigurujte základní URL a klíč
Nasměrujte klienta na základní URL a nastavte svůj klíč API pro ověření. To zajišťuje, že všechny požadavky jsou směrovány na náš server modelu bez omezení.
Použít https://api.qwenmaxapi.com/v1 jako vaši základní URL. Vygenerujte svůj klíč na Získat API klíč stránku přes Google nebo e-mail. Klíč se zobrazí ihned po registraci.
Odeslat První dokončení chatu
Odeslejte jednoduchý textový požadavek na /v1/chat/completions endpoint. Model vrací neomezený text na základě vašeho podnětu.
Použijte ID modelu uncensored. API přijímá standardní parametry jako temperature a top_p. Můžete tyto hodnoty upravit pro ovládání kreativity.
Povolit streamování a zpracování tokenů
Povolte streamování pro příjem tokenů v okamžiku jejich generování. To snižuje vnímanou latenci u dlouhých odpovědí.
Nastavit stream=True ve vaší žádosti. Server odesílá Server-Sent Events (SSE). Detaily o využití tokenů se objevují v posledním chunku.
Zpracujte proud ve svém kódu pro postupné zobrazování výstupu.
Otestujte režim JSON a volání funkcí
Použijte režim JSON pro výstup strukturovaných dat. Nastavte response_format na {"type": "json_object"}. To zajišťuje, že model vrací platný JSON.
Povolit volání funkcí poskytnutím tools definice. Model může volat nástroje na základě kontextu vašeho promptu. Použijte tool_choice abyste vynutili nebo povolili použití nástrojů.
Limity, chyby a kontextové okno
Poznejte svá omezení před škálováním integrace. Kontextové okno má celkem 100 000 tokenů.
Maximální výstup na požadavek je 16 000 tokenů. Získáte 300 požadavků za minutu na klíč. Na klíč je povoleno osm souběžných požadavků.
Chyby jako 401 pro neplatné klíče nebo 402 pro nedostatečný kredit. Chyby jsou zdarma, takže špatné požadavky nespotřebovávají kredit.
cURL
curl https://api.qwenmaxapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 arguments against cloud computing"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenmaxapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.qwenmaxapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streamování
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)