Przewodnik szybkiego startu czatu Dolphin ai

Instalacja i konfiguracja SDK

Zacznij od zainstalowania oficjalnej biblioteki klienta dla Twojego języka. Nasze API korzysta ze standardowego OpenAI strukturze pakietu, więc prawdopodobnie już go masz. Skonfiguruj adres URL bazowy, aby wskazywał na nasz punkt końcowy i podaj swój klucz API.

Użyj metody zmiennej środowiskowej, aby zachować bezpieczeństwo poświadczeń. Adres bazowy to HTTPS://api.dolphinaichat.com/v1. Działa to z dowolnym klientem kompatybilnym z OpenAI poprzez zmianę base_url i klucza API.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaichat.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaichat.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Wykonywanie pierwszego żądania POST

Wyślij proste żądanie chat completion, aby przetestować łączność. Użyj identyfikatora modelu "uncensored" dla modelu open-weight dostrojonego do nieograniczonych odpowiedzi.

Copycurl https://api.dolphinaichat.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the daily server load statistics for the last week"}]
  }'

Obsługa odpowiedzi strumieniowych (SSE)

Włącz strumieniowanie, aby otrzymywać tokeny w czasie rzeczywistym. API obsługuje zdarzenia wysyłane serwerowo (SSE) dla progresywnego wyjścia. Szczegóły zużycia tokenów pojawiają się w ostatnim fragmencie strumienia.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zrozumienie okien kontekstowych & tokenów

Model obsługuje okno kontekstowe o rozmiarze 100 000 tokenów dla łącznego promptu i uzupełnienia. Maksymalna ilość wyjściowa to 16 000 tokenów na żądanie. Domyślne max_tokens to 2 048, jeśli nie zostanie ustawione. Ceny to $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych.

Kody błędów & Ograniczenia szybkości

Obsłuż standardowe błędy HTTP z gracją. 401 wskazuje na nieprawidłowy klucz. 402 oznacza, że nie masz kredytu. 429 sygnalizuje limitowanie szybkości. Limity to 300 żądań na minutę na klucz i 8 żądań równoległych. Maksymalny rozmiar ciała żądania to 8 MB.

Konfiguracja trybu JSON i wywoływania funkcji

Użyj response_format: {"type": "json_object"} do wyjść strukturalnych. Włącz wywoływanie funkcji z tools i tool_choice. Parametry takie jak temperatura i top_p są w pełni obsługiwane.