Швидкий старт API Dolphin models ai

1. Передумови: SDK та API-ключ

Зареєструйтеся за допомогою облікового запису Google або електронної пошти, щоб одержати API-ключ миттєво. Для взаємодії з ендпоінтом вам знадобиться офіційний SDK для бажаної мови. Ключ автентифікує кожен надісланий вами запит.

2. Налаштуйте свій базовий URL

Вкажіть базовий URL на HTTPS://api.dolphinmodelsai.com/v1 у конфігурації вашого клієнта. Цей URL маршрутизує ваші запити до наших серверів інференсу uncensored. Переконайтеся, що ваш API ключ передається у заголовку авторизації. Кінцева точка відповідає стандартним шаблонам OpenAI для сумісності.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelsai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

3. Надішліть перший запит на завершення чату

Надішліть POST-запит до /v1/chat/completions із ідентифікатором моделі "uncensored". Включіть історію ваших повідомлень у масив messages. API повертає текстову відповідь без відмов у вмісті для законного дорослого використання. Ви можете налаштувати параметри, такі як temperature, щоб контролювати випадковість.

Copycurl https://api.dolphinmodelsai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the time complexity of this sorting algorithm"}]
  }'

4. Увімкніть потокову передачу та обробляйте використання токенів

Встановіть streaming на true, щоб отримувати токени по мірі їх генерації. Кожен фрагмент містить частковий текст та метадані про використання. Останній фрагмент включає загальну кількість токенів для точності виставлення рахунків. Цей підхід зменшує сприйняту затримку для довгих відповідей.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

5. Використання режиму JSON для структурованого виводу

Передавайте response_format як {"type": "json_object"}, щоб забезпечити структурований вивід. Модель гарантує коректний синтаксис JSON у відповіді. Ця функція ідеально підходить для парсингу даних у логіку вашого додатка. Вона усуває необхідність у ручній перевірці за допомогою регулярних виразів.

6. Реалізація виклику функцій (Інструменти)

Визначте інструменти в тілі запиту, щоб увімкнути можливості виклику функцій. Модель може повертати виклики інструментів замість звичайного тексту. Ви виконуєте функцію і надсилаєте результат назад моделі. Цей шаблон підтримує складні багатокрокові робочі процеси.

7. Розуміння лімітів швидкості та параметрів

Кожний API-ключ обмежено 300 запитами на хвилину. Ви можете мати 8 одночасних запитів у будь-який час. Вікно контексту підтримує до 100,000 токенів для вхідних та вихідних даних разом. Запити, що перевищують ці ліміти, отримують код помилки 429. Помилки, пов'язані з кредитами, повертають статус 402.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelsai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)