Dolphin models ai API Quickstart

1. Предварительные требования: SDK и API-ключ

Зарегистрируйтесь с помощью аккаунта Google или email, чтобы мгновенно получить API-ключ. Для взаимодействия с эндпоинтом вам понадобится официальный SDK для выбранного языка. Ключ аутентифицирует каждый отправляемый вами запрос.

2. Настройте базовый URL

Укажите базовый URL на HTTPS://api.dolphinmodelsai.com/v1 в конфигурации клиента. Этот URL маршрутизирует ваши запросы к нашим серверам инференса uncensored-моделей. Убедитесь, что ключ API передаётся в заголовке авторизации. Конечная точка следует стандартным шаблонам OpenAI для совместимости.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelsai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

3. Отправка первого запроса на завершение чата

Отправьте POST-запрос на /v1/chat/completions с идентификатором модели "uncensored". Включите историю сообщений в массив messages. API возвращает текстовый ответ без отказов в контенте для законного использования взрослыми. Вы можете настроить параметры, такие как temperature, для управления случайностью.

Copycurl https://api.dolphinmodelsai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the time complexity of this sorting algorithm"}]
  }'

4. Включение потоковой передачи и обработка использования токенов

Установите streaming в true, чтобы получать токены по мере их генерации. Каждый фрагмент содержит частичный текст и метаданные об использовании. Последний фрагмент включает общее количество токенов для точности выставления счетов. Этот подход снижает воспринимаемую задержку для длинных ответов.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

5. Используйте режим JSON для структурированного вывода

Передайте response_format как {"type": "json_object"}, чтобы принудительно задать структурированный вывод. Модель гарантирует действительный синтаксис JSON в ответе. Эта функция идеально подходит для разбора данных в логике вашего приложения. Она устраняет необходимость в ручной проверке с помощью регулярных выражений.

6. Реализация вызова функций (Инструменты)

Определите инструменты в запросе, чтобы включить возможности вызова функций. Модель может возвращать вызовы инструментов вместо обычного текста. Вы выполняете функцию и отправляете результат обратно модели. Этот шаблон поддерживает сложные многошаговые рабочие процессы.

7. Поймите лимиты частоты запросов и параметры

Каждый API-ключ ограничен 300 запросами в минуту. Вы можете выполнять 8 одновременных запросов в любой момент. Окно контекста поддерживает до 100 000 токенов для ввода и вывода в сумме. Запросы, превышающие эти лимиты, получают код ошибки 429. Ошибки кредита возвращают статус 402.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelsai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)