Установка официального SDK
Начните с установки официального OpenAI Python SDK в вашем окружении. Эта библиотека обрабатывает HTTP-запросы и сериализацию JSON за вас.
- Запуск
pip install openaiв вашем терминале. - Убедитесь, что вы используете последнюю версию библиотеки.
Эта единственная зависимость дает вам доступ к стандартному клиентскому интерфейсу, используемому во всей отрасли.
Настройте базовый URL и ключ
Направьте клиента к базовому URL и установите свой API-ключ для аутентификации. Это гарантирует, что все запросы будут направляться на сервер нашей модели без ограничений.
Использовать https://api.qwenmaxapi.com/v1 в качестве базового URL. Сгенерируйте ваш ключ на Получить API-ключ странице через Google или электронную почту. Ключ показывается сразу после регистрации.
Отправить первый запрос на завершение чата
Отправьте простой текстовый запрос в /v1/chat/completions endpoint. Модель возвращает неограниченный текст на основе вашего запроса.
Используйте ID модели uncensored. API принимает стандартные параметры, такие как temperature и top_p. Вы можете настроить их для управления креативностью.
Включить потоковую передачу и обработку токенов
Включите потоковую передачу, чтобы получать токены по мере их генерации. Это снижает воспринимаемую задержку для длинных ответов.
Установить stream=True в вашем запросе. Сервер отправляет Server-Sent Events (SSE). Детали использования токенов появляются в последнем чанке.
Обработайте поток в коде для постепенного вывода результата.
Тестирование режима JSON и вызова функций
Используйте режим JSON для вывода структурированных данных. Установите response_format для {"type": "json_object"}. Это обеспечивает, что модель возвращает допустимый JSON.
Включите вызов функций, предоставив tools определение. Модель может вызывать инструменты на основе контекста вашего запроса. Используйте tool_choice чтобы принудительно или разрешить использование инструментов.
Лимиты, Ошибки и Контекстное окно
Know your limits before scaling your integration. The context window is 100,000 tokens total.
Максимальный объем вывода на запрос составляет 16 000 токенов. Вы получаете 300 запросов в минуту на ключ. На ключ разрешено не более восьми одновременных запросов.
Обрабатывайте ошибки 401 для неверных ключей или 402 при недостатке средств. Ошибки бесплатны, поэтому некорректные запросы не расходуют кредит.
cURL
curl https://api.qwenmaxapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 arguments against cloud computing"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenmaxapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.qwenmaxapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Потоковая передача
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)