Dolphin models ai API 빠른 시작

1. 전제 조건: SDK 및 API 키

Google 계정 또는 이메일로 가입하여 API 키를 즉시 받으세요. 엔드포인트와 통신하려면 선호하는 언어용 공식 SDK가 필요합니다. 키는 전송하는 모든 요청의 인증에 사용됩니다.

2. Base URL 구성

클라이언트 구성에서 기본 URL을 HTTPS://api.dolphinmodelsai.com/v1로 설정하세요. 이 URL은 요청을 uncensored 추론 서버로 라우팅합니다. API 키가 인증 헤더에 전달되었는지 확인하세요. 엔드포인트는 호환성을 위해 표준 OpenAI 패턴을 따릅니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelsai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

3. 첫 번째 채팅 완료 요청 보내기

모델 id "uncensored"를 사용하여 /v1/chat/completions으로 POST 요청을 보내세요. messages 배열에 메시지 기록을 포함하세요. API는 합법적인 성인 사용에 대한 콘텐츠 거부 없이 텍스트 응답을 반환합니다. temperature과 같은 매개변수를 조정하여 무작위성을 제어할 수 있습니다.

Copycurl https://api.dolphinmodelsai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the time complexity of this sorting algorithm"}]
  }'

4. 스트리밍 활성화 및 토큰 사용량 처리하기

스트리밍을 true로 설정하여 생성되는 대로 토큰을 받습니다. 각 청크에는 부분 텍스트와 사용량 메타데이터가 포함됩니다. 마지막 청크에는 청구 정확성을 위한 총 토큰 수가 포함됩니다. 이 접근 방식은 긴 응답에 대한 지각된 지연 시간을 줄입니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

5. 구조화된 출력을 위해 JSON 모드 사용

response_format을 {"type": "json_object"}로 전달하여 구조화된 출력을 강제합니다. 모델은 응답에서 유효한 JSON 구문을 보장합니다. 이 기능은 애플리케이션 로직으로 데이터를 파싱하는 데 이상적입니다. 수동 regex 검증이 필요하지 않습니다.

6. 함수 호출(Tools) 구현

함수 호출 기능을 활성화하기 위해 요청에 도구를 정의하세요. 모델은 일반 텍스트 대신 도구 호출을 반환합니다. 함수를 실행하고 결과를 모델에 다시 전송합니다. 이 패턴은 복잡한 다단계 워크플로우를 지원합니다.

7. Understand Rate Limits and Parameters

각 API 키는 분당 300회 요청으로 제한됩니다. 언제든지 최대 8개의 동시 요청을 보낼 수 있습니다. 컨텍스트 창은 입력과 출력을 합쳐 최대 100,000개의 토큰을 지원합니다. 이러한 제한을 초과하는 요청은 429 오류 코드를 받습니다. 크레딧 오류는 402 상태를 반환합니다.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelsai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)