Koraniva AI Platform - Geliştirici Portalı

Yüksek performanslı NVIDIA GPU'larda LLM çıkarımı ve embedding servisleri.

Playground'da Dene

Kalan Bakiye

$500.00 USD

Append-only defter güvencesiyle

Bugünkü Token Tüketimi

1,200,000

Toplam 1,420 inference isteği

Aktif API Anahtarları

0 Aktif

Anahtarları Yönet

Hızlı Entegrasyon (OpenAI SDK Uyumluluğu)

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:8000/v1",
    api_key="kn_live_..._secret"  # Kendi gizli anahtarınız
)

response = client.chat.completions.create(
    model="qwen2.5-32b",
    messages=[{"role": "user", "content": "Merhaba!"}],
    stream=True
)

for chunk in response:
    print(chunk.choices[0].delta.content or "", end="")