Permulaan Pantas API Dolphin models ai

1. Prasyarat: SDK dan Kunci API

Daftar menggunakan akaun Google atau e-mel untuk menerima kunci API serta-merta. Anda memerlukan SDK rasmi untuk bahasa pilihan anda untuk berkomunikasi dengan hujung sambungan. Kunci ini mengesahkan setiap permintaan yang anda hantar.

2. Konfigurasi URL Asas Anda

Tetapkan URL asas kepada HTTPS://api.dolphinmodelsai.com/v1 dalam konfigurasi klien anda. URL ini menghalakan permintaan anda ke pelayan inferensi uncensored kami. Pastikan kunci API anda diluluskan dalam header pengesahan. Hujung ini mengikuti corak OpenAI piawai untuk serpihan.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelsai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

3. Hantar Permintaan Penyiapan Sembang Pertama Anda

Hantar permintaan POST ke /v1/chat/completions dengan model id "uncensored". Sertakan sejarah mesej anda dalam array messages. API mengembalikan respons teks tanpa penolakan kandungan untuk penggunaan dewasa yang sah. Anda boleh melaraskan parameter seperti suhu untuk mengawal rawak.

Copycurl https://api.dolphinmodelsai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the time complexity of this sorting algorithm"}]
  }'

4. Aktifkan Penstriman dan Tangani Penggunaan Token

Tetapkan streaming kepada true untuk menerima token apabila ia dijana. Setiap potongan mengandungi teks separa dan metadata penggunaan. Potongan akhir termasuk jumlah token keseluruhan untuk ketepatan pengebilan. Pendekatan ini mengurangkan latensi yang dirasakan bagi respons yang panjang.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

5. Gunakan Mod JSON untuk Output Terstruktur

Luluskan response_format sebagai {"type": "json_object"} untuk memaksakan output terstruktur. Model menjamin sintaks JSON yang sah dalam respons. Ciri ini sangat sesuai untuk memproses data ke dalam logik aplikasi anda. Ia menghapuskan keperluan untuk pengesahan regex manual.

6. Implementasikan Panggilan Fungsi (Alat)

Takrifkan alat dalam permintaan anda untuk membolehkan keupayaan panggilan fungsi. Model boleh memulangkan panggilan alat bukan teks biasa. Anda melaksanakan fungsi dan menghantar semula hasilnya kepada model. Corak ini menyokong aliran kerja berbilang langkah yang kompleks.

7. Fahami Had Kadar dan Parameter

Setiap kunci API terhad kepada 300 permintaan setiap minit. Anda boleh mempunyai 8 permintaan serentak pada bila-bila masa. Tetingkap konteks menyokong sehingga 100,000 token untuk input dan output digabungkan. Permintaan yang melebihi had ini akan menerima kod ralat 429. Ralat kredit akan mengembalikan status 402.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelsai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)