API Gemma: pierwsze zapytanie w pięć minut

Base URL i uwierzytelnianie

Zacznij od utworzenia konta na stronie Pobierz klucz API. Potrzebujesz tylko adresu e-mail i hasła; nie jest wymagany numer telefonu ani karta kredytowa do aktywacji kredytu próbnego. Po rejestracji Twój klucz API jest wyświetlany natychmiast. Skopiuj ten klucz i przechowaj go bezpiecznie. Użyj go w nagłówku Authorization jako token Bearer dla wszystkich zapytań. Base URL dla wszystkich endpointów to https://api.gemma4api.com/v1. Ten URL działa z każdym standardowym klientem kompatybilnym z OpenAI, pozwalając na zmianę dostawcy poprzez prostą zmianę base URL i klucza API w konfiguracji.

Pierwsze zapytanie

Wyślij swój pierwszy prompt, używając curl, aby zweryfikować łączność. Zastąp YOUR_API_KEY swoim właściwym kluczem. Identyfikator modelu to uncensored. To proste zapytanie tekst na tekst potwierdza, że uwierzytelnienie jest poprawne i model odpowiada. Jeśli otrzymasz odpowiedź JSON z tablicą choices, konfiguracja jest zakończona. Możesz teraz przejść do integracji SDK dla bardziej złożonych przepływów pracy.

Copycurl https://api.gemma4api.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Integracja z Python SDK

Zainstaluj oficjalny pakiet Python OpenAI. Ustaw zmienne środowiskowe base URL i klucz API lub przekaż je bezpośrednio do konstruktora klienta. Użyj identyfikatora modelu uncensored, aby upewnić się, że wywołujesz naszą konkretną instancję. To podejście zapewnia, że Twój kod pozostaje zgodny ze standardowymi wzorcami OpenAI, jednocześnie wykorzystując nasz model bez cenzury do generowania treści. SDK obsługuje ponowne próby i parsowanie JSON automatycznie.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gemma4api.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integracja z Node.js SDK

W środowiskach JavaScript zainstaluj pakiet OpenAI Node.js. Skonfiguruj klienta z base URL https://api.gemma4api.com/v1 i swoim kluczem API. Użyj identyfikatora modelu uncensored w swoich zapytaniach completion. Ta konfiguracja pozwala zachować standardowe struktury kodu zgodne z OpenAI, czerpiąc jednocześnie korzyści ze specyficznego zachowania modelu hostowanego na naszych serwerach. Upewnij się, że poprawnie obsługujesz odpowiedzi asynchroniczne w pętli zdarzeń Node.js.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gemma4api.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie odpowiedzi

Włącz strumieniowanie, ustawiając parametr stream na true w swoim zapytaniu API. Zwraca to strumień Server-Sent Events (SSE), pozwalając wyświetlać tokeny w miarę ich generowania. Jest to idealne dla interfejsów czatu, gdzie liczy się opóźnienie. Każdy fragment zawiera częściowy deltę odpowiedzi. Obsłuż zdarzenie końca strumienia, aby wiedzieć, kiedy generowanie się zakończyło. Ta metoda znacznie redukuje postrzegane opóźnienie w porównaniu do czekania na pełną odpowiedź.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity, błędy i okno kontekstu

Twoje zapytania obsługują okno kontekstu 100 000 tokenów dla promptu i completion łącznie. Limit zapytań to 300 zapytań na minutę na klucz, z maksymalnym rozmiarem ciała zapytania 8 MB. Powszechne błędy to 401 dla nieprawidłowych kluczy, 402 jeśli Twój przedpłacony kredyt został wyczerpany oraz 429 jeśli przekroczysz limit na minutę. Wygenerowanie ponownie klucza API unieważnia stary klucz, ale nie resetuje licznika limitów. Upewnij się, że Twój klient odpowiednio obsługuje te kody statusu HTTP, aby utrzymać płynną pracę.