Rychlý start API Dolphin models ai

1. Předpoklady: SDK a API klíč

Zaregistrujte se pomocí účtu Google nebo e-mailu a okamžitě obdržte API klíč. K komunikaci s endpointem potřebujete oficiální SDK pro vámi preferovaný jazyk. Klíč autentizuje každý odesílaný požadavek.

2. Nakonfigurujte svou základní URL

Nastavte základní URL na HTTPS://api.dolphinmodelsai.com/v1 v konfiguraci klienta. Toto URL směruje vaše požadavky na naše servery pro inference bez omezení. Ujistěte se, že je API klíč předán v hlavičce authorization. Endpoint následuje standardní vzory OpenAI pro kompatibilitu.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelsai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

3. Odeslání první žádosti o dokončení chatu

Odešlete požadavek POST na /v1/chat/completions s modelem id "uncensored". Zahrňte historii svých zpráv do pole messages. API vrací textovou odpověď bez odmítání obsahu pro legální použití dospělými. Pomocí parametrů, jako je teplota, můžete upravit náhodnost.

Copycurl https://api.dolphinmodelsai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the time complexity of this sorting algorithm"}]
  }'

4. Povolte streamování a zpracujte využití tokenů

Nastavte streaming na true pro přijímání tokenů při jejich generování. Každý chunk obsahuje částečný text a metadata o využití. Poslední chunk obsahuje celkový počet tokenů pro přesnost fakturace. Tento přístup snižuje vnímanou latenci pro dlouhé odpovědi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

5. Použití režimu JSON pro strukturovaný výstup

Předložte response_format jako {"type": "json_object"} pro vynucení strukturovaného výstupu. Model zaručuje platnou syntaxi JSON v odpovědi. Tato funkce je ideální pro parsování dat do logiky vaší aplikace. Eliminuje potřebu ruční validace regulárními výrazy.

6. Implementace volání funkcí (Nástroje)

Definujte nástroje v těle žádosti pro povolení schopností volání funkcí. Model může vracet volání nástrojů místo prostého textu. Vykonáte funkci a výsledek odešlete zpět modelu. Tento vzorec podporuje složité vícekrokové pracovní postupy.

7. Pochopte limity rychlosti a parametry

Každý klíč API je omezen na 300 požadavků za minutu. Můžete mít 8 souběžných požadavků kdykoli. Kontextové okno podporuje až 100 000 tokenů pro vstup a výstup dohromady. Požadavky překračující tato omezení získají kód chyby 429. Chyby kreditu vrátí stav 402.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelsai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)