Dolphin models ai API Gyors kezdés

1. Előfeltételek: SDK és API kulcs

Jelentkezz be Google-fióllal vagy e-mail-címmel, hogy azonnal API-kulcsot kapj. A végponttal való kommunikációhoz szükség van a választott nyelv hivatalos SDK-jára. A kulcs hitelesíti az összes elküldött kérést.

2. Alap URL konfigurálása

Állítsa be a bázis URL-t a HTTPS://api.dolphinmodelsai.com/v1 értékre az ügyfél konfigurációjában. Ez az URL az uncensored inference szervereinkre irányítja a kéréseket. Győződjön meg arról, hogy az API kulcsot az authorization fejlécben adja át. A végpont követi a szabványos OpenAI mintákat a kompatibilitás érdekében.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelsai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

3. Az első chat-komplettálási kérés elküldése

Küldjön egy POST kérést a /v1/chat/completions végpontra az "uncensored" modellazonosítóval. Adja meg az üzenettörténetét a messages tömbben. Az API szöveges választ ad vissza tartalmi visszautasítások nélkül jogszerű felnőtt felhasználás esetén. A temperature paraméterrel szabályozhatja a véletlenszerűséget.

Copycurl https://api.dolphinmodelsai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the time complexity of this sorting algorithm"}]
  }'

4. Engedélyezze a streamelést és kezelje a tokenfelhasználást

Állítsa be a streaming értéket true-ra a tokenek generálás közbeni fogadásához. Minden töredék részleges szöveget és felhasználási metaadatokat tartalmaz. A végső töredék tartalmazza a teljes tokenösszeget a számlázási pontosság érdekében. Ez a megközelítés csökkenti a vélt késleltetést hosszú válaszok esetén.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

5. JSON mód használata strukturált kimenethez

Adja át a response_format értékét {"type": "json_object"} formában a strukturált kimenet kényszerítéséhez. A modell garantálja az érvényes JSON szintaxist a válaszban. Ez a funkció ideális adatok elemzéséhez az alkalmazás logikájába. Megszünteti a manuális regex validálás szükségességét.

6. Függvényhívások implementálása (Eszközök)

Határozza meg az eszközöket a kérésben a függvényhívási képességek engedélyezéséhez. A modell eszközhívásokat adhat vissza a sima szöveg helyett. Végrehajtja a függvényt, és visszaküldi az eredményt a modellnek. Ez a minta összetett többlépcsős munkafolyamatokat támogat.

7. Ismerje meg az átfutási korlátokat és a paramétereket

Minden API-kulcs percenként 300 kérésre van korlátozva. Egyszerre 8 párhuzamos kérést indíthat. A kontextusablak akár 100 000 token támogatását biztosítja bemenet és kimenet együtt. Ezeket a korlátokat túllépő kérések 429-es hibakódot kapnak. A kredit hibák 402-es státuszkódot adnak vissza.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelsai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)