कुछ API एंडपॉइंट्स डिफॉल्ट रूप से प्रतिक्रियाएं स्ट्रीम करते हैं, जैसे /api/generate। ये प्रतिक्रियाएं नई लाइन से अलग किए गए JSON प्रारूप में (अर्थात् application/x-ndjson कंटेंट टाइप) प्रदान की जाती हैं। उदाहरण के लिए:

{"model":"gemma4","created_at":"2025-10-26T17:15:24.097767Z","response":"That","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.109172Z","response":"'","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.121485Z","response":"s","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.132802Z","response":" a","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.143931Z","response":" fantastic","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.155176Z","response":" question","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:15:24.166576Z","response":"!","done":true, "done_reason": "stop"}

स्ट्रीमिंग को अक्षम करना

किसी भी ऐसे एंडपॉइंट के लिए जो स्ट्रीमिंग का समर्थन करता है, अनुरोध बॉडी में {"stream": false} प्रदान करके स्ट्रीमिंग को अक्षम किया जा सकता है। इससे प्रतिक्रियाएं बदले में application/json प्रारूप में वापसी करेंगी:

{"model":"gemma4","created_at":"2025-10-26T17:15:24.166576Z","response":"That's a fantastic question!","done":true}

स्ट्रीमिंग बनाम गैर-स्ट्रीमिंग का उपयोग कब करें

स्ट्रीमिंग (डिफॉल्ट):

• रीयल-टाइम प्रतिक्रिया जनरेशन
• कम अनुभवित लेटेंसी
• लंबी जनरेशन के लिए बेहतर

गैर-स्ट्रीमिंग:

• प्रोसेस करना आसान
• छोटी प्रतिक्रियाओं या संरचित आउटपुट के लिए बेहतर
• कुछ एप्लिकेशन में हैंडल करना आसान