Asenna virallinen SDK
Aloita asentamalla virallinen OpenAI Python -SDK ympäristöösi. Tämä kirjasto käsittelee HTTP-pyynnöt ja JSON-serialisointi puolestasi.
- Suorita
pip install openaipäätteessäsi. - Varmista, että käytät tuoreinta kirjastoa.
Tämä yksittäinen riippuvuus antaa sinulle pääsyn teollisuudenlaajuisesti käytettyyn vakioasiakaskäyttöliittymään.
Määritä base URL ja avain
Osoita asiakkaasi perusosoitteeseen ja aseta API-avaimesi todennusta varten. Tämä varmistaa, että kaikki pyynnät ohjautuvat sensuroimattomalle mallipalvelimellemme.
Käyttö https://api.qwenmaxapi.com/v1 pohja-URL:ksi. Luo avain sivustolta Hanki API-avain sivun kautta Googlella tai sähköpostilla. Avain näytetään välittömään rekisteröitymisen jälkeen.
Lähetä ensimmäinen chat-valmispyyntösi
Lähetä yksinkertainen tekstipyyntö kohteeseen /v1/chat/completions päätepiste. Malli palauttaa suodattamatonta tekstiä syöteesi perusteella.
Käytä mallin tunnus uncensored. API hyväksyy standardiparametreja kuten temperature ja top_p. Voit säätää näitä ohjataksesi luovuutta.
Ota käyttöön suoratoisto ja käsittele tokenit
Ota käyttöön streamaus, jotta saat tokenit vastaanotettua niiden luomisen aikana. Tämä vähentää koettua viivettä pitkissä vastauksissa.
Aseta stream=True pyynnössäsi. Palvelin lähettää Server-Sent Events (SSE) -tekniikan. Tokenkäyttötilastot ilmestyvät viimeisessä osassa.
Käsittele virta koodissasi näyttääksesi tulosta progressiivisesti.
Testaa JSON-tilaa ja funktiokutsuja
Käytä JSON-tilaa rakenteelliseen datatulokseen. Aseta response_format vastaan {"type": "json_object"}. Tämä varmistaa, että malli palauttaa kelvollista JSONia.
Ota käyttöön toimintokutsut tarjoamalla tools määritelmä. Malli voi kutsua työkaluja ohjeistuksesi kontekstin perusteella. Käytä tool_choice pakottaa tai sallia työkalujen käytön.
Rajoitukset, virheet ja kontekstiikkuna
Tunne rajasi ennen integraation skaalausta. Kontekstiikkuna on yhteensä 100 000 tokenia.
Maksimiteho pyyntöä kohden on 16 000 tokenia. Saat 300 pyyntöä minuutissa avainta kohden. Kahdeksan samanaikaista pyyntöä sallitaan avainta kohden.
Käsittele virheet kuten 401 virallisille avaimille tai 402 riittämättömälle rahalle. Virheet ovat ilmaisia, joten virheelliset pyynnöt eivät kuluta luottokrediittiä.
cURL
curl https://api.qwenmaxapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 arguments against cloud computing"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenmaxapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.qwenmaxapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Virtaus
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)