Встановіть офіційний SDK
Почніть із встановлення офіційного Python SDK від OpenAI у своєму середовищі. Ця бібліотека обробляє за вас HTTP-запити та серіалізацію JSON.
- Запустити
pip install openaiу вашому терміналі. - Переконайтеся, що ви використовуєте останню версію бібліотеки.
Ця єдина залежність надає вам доступ до стандартного інтерфейсу клієнта, який використовується в усьому галузі.
Налаштуйте базовий URL та ключ
Направте клієнта до базової URL-адреси та встановіть свій API-ключ для автентифікації. Це гарантує, що всі запити маршрутизуються на сервер нашої моделі uncensored.
Використовувати https://api.qwenmaxapi.com/v1 як вашу базову URL-адресу. Згенеруйте свій ключ на Отримати API-ключ сторінку через Google або електронну пошту. Ключ показується одразу після реєстрації.
Надішліть свій перший запит на завершення діалогу
Надішліть простий текстовий запит до /v1/chat/completions endpoint. endpoint. Модель повертає необмежений текст на основі вашого промпту.
Використовуйте ID моделі uncensored. API приймає стандартні параметри, такі як temperature та top_p. Ви можете налаштувати їх, щоб контролювати креативність.
Увімкнути потокову передачу та обробку токенів
Увімкніть потокову передачу, щоб отримувати токени по мірі їх генерації. Це зменшує сприйняту затримку для довгих відповідей.
Встановити stream=True у вашому запиті. Сервер надсилає події, що генеруються сервером (SSE). Деталі використання токенів з'являються в останньому чанку.
Обробляйте потік у своєму коді, щоб відображати вивід поступово.
Перевірте режим JSON та виклик функцій
Використовуйте режим JSON для виводу структурованих даних. Встановіть response_format до {"type": "json_object"}. Це забезпечує, що модель повертає дійсний JSON.
Увімкнути виклик функцій, надавши tools визначення. Модель може викликати інструменти на основі контексту вашого запиту. Використовуйте tool_choice щоб примусово або дозволити використання інструментів.
Ліміти, помилки та контекстне вікно
Know your limits before scaling your integration. The context window is 100,000 tokens total.
Максимальний обсяг виводу за запит становить 16 000 токенів. Ви отримуєте 300 запитів на хвилину на ключ. На ключ дозволено до восьми одночасних запитів.
Обробляйте помилки, такі як 401 для недійсних ключів або 402 для недостатнього балансу. Помилки є безкоштовними, тому невірні запити не споживають кредит.
cURL
curl https://api.qwenmaxapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 arguments against cloud computing"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenmaxapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.qwenmaxapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Потокова передача
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)