Skip to content

Bazı API uç noktaları varsayılan olarak yanıtları akış olarak gönderir, örneğin /api/generate. Bu yanıtlar satır sonu ile ayrılmış JSON formatında (yani application/x-ndjson içerik türü) sağlanır. Örneğin:

json
{"model":"gemma4","created_at":"2025-10-26T17:15:24.097767Z","response":"That","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.109172Z","response":"'","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.121485Z","response":"s","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.132802Z","response":" a","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.143931Z","response":" fantastic","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.155176Z","response":" question","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.166576Z","response":"!","done":true, "done_reason": "stop"}

Akışı Devre Dışı Bırakma

Akış, akışı destekleyen herhangi bir uç nokta için istek gövdesine {"stream": false} ekleyerek devre dışı bırakılabilir. Bu durumda yanıtlar application/json formatında döndürülür:

json
{"model":"gemma4","created_at":"2025-10-26T17:15:24.166576Z","response":"That's a fantastic question!","done":true}

Akışlı ve Akışsız Yanıtların Ne Zaman Kullanılacağı

Akışlı (varsayılan):

  • Gerçek zamanlı yanıt oluşturma
  • Daha düşük algılanan gecikme
  • Uzun yanıtlar için daha iyi

Akışsız:

  • İşlemesi daha basit
  • Kısa yanıtlar veya yapılandırılmış çıktılar için daha iyi
  • Bazı uygulamalarda daha kolay işlenebilir