Streaming

API REHBERİ

Streaming

İsteği oluştur, yanıtı işle ve production ortamında güvenilir biçimde kullan.

Parçalı yanıtlar

Uzun yanıtların kullanıcıya bekletmeden ulaşması için istekte stream: true kullan. Yanıt Server-Sent Events olarak gelir; her data: satırı bir parçadır.

curl

curl -N https://api.noxery.net/v1/chat/completions \
  -H "Authorization: Bearer nox-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"gpt-6-astra","stream":true,"messages":[{"role":"user","content":"Uzun bir açıklama yaz."}]}'

Production ayarları

Reverse proxy'de response buffering'i kapat. Client timeout'unu modelin ilk token süresinden ve toplam yanıt süresinden uzun tut. Parçaları geldiği sırayla birleştir; bağlantı koparsa tamamlanmamış yanıtı tamamlanmış gibi kaydetme.

Chat akışı data: [DONE] ile, Responses akışı response.completed olayıyla tamamlanır.