ओलामा एक नेटिव विंडोज़ एप्लिकेशन के रूप में चलता है, जिसमें NVIDIA और AMD रेडियन GPU समर्थन भी शामिल है। विंडोज़ के लिए ओलामा इंस्टॉल करने के बाद, ओलामा बैकग्राउंड में चलता रहेगा और ollama कमांड लाइन cmd, powershell या आपके पसंदीदा टर्मिनल एप्लिकेशन में उपलब्ध होगी। जैसा कि आम तौर पर होता है, ओलामा API http://localhost:11434 पर सर्व किया जाएगा।

सिस्टम आवश्यकताएं

• विंडोज 10 22H2 या नया, होम या प्रो संस्करण
• यदि आपके पास NVIDIA कार्ड है तो NVIDIA 551.61 या नए ड्राइवर
• ROCm त्वरण के लिए AMD ROCm v7 / HIP7-समर्थक ड्राइवर स्टैक, या Vulkan त्वरण के लिए Vulkan-समर्थक AMD रेडियन ड्राइवर

ओलामा प्रगति इंगित के लिए यूनिकोड कैरेक्टर का उपयोग करता है, जो विंडोज 10 की कुछ पुरानी टर्मिनल फॉन्ट में अज्ञात वर्गों के रूप में रेंडर हो सकते हैं। यदि आपको यह दिखाई देता है, तो अपने टर्मिनल फॉन्ट सेटिंग्स बदलने का प्रयास करें।

नोट

कुछ RDNA2 / रेडियन RX 6000 सिस्टम, जिसमें RX 6800-क्लास कार्ड शामिल हैं, वर्तमान विंडोज AMD ड्राइवर पर ROCm v7 एक्स्पोज नहीं कर सकते हैं। इन सिस्टम के लिए Vulkan डिफॉल्ट रूप से सक्षम है और यही अनुशंसित फॉलबैक है। यदि मिश्रित iGPU/dGPU सिस्टम एक अस्थिर Vulkan iGPU चुनता है, तो GGML_VK_VISIBLE_DEVICES को डिस्क्रीट GPU इंडेक्स पर सेट करें।

फाइलसिस्टम आवश्यकताएं

ओलामा इंस्टॉलेशन को एडमिनिस्ट्रेटर की आवश्यकता नहीं है, और यह डिफॉल्ट रूप से आपके होम डिरेक्टरी में इंस्टॉल होता है। बाइनरी इंस्टॉलेशन के लिए आपको कम से कम 4GB स्पेस की आवश्यकता होगी। ओलामा इंस्टॉल करने के बाद, बड़े भाषा मॉडल को स्टोर करने के लिए अतिरिक्त स्पेस की आवश्यकता होगी, जो आकार में दस से सैकड़ों गीगाबाइट हो सकते हैं। यदि आपके होम डिरेक्टरी में पर्याप्त स्पेस नहीं है, तो आप बाइनरी इंस्टॉल करने की जगह और मॉडल स्टोर करने की जगह बदल सकते हैं।

इंस्टॉल लोकेशन बदलना

ओलामा एप्लिकेशन को अपने होम डिरेक्टरी से अलग स्थान पर इंस्टॉल करने के लिए, निम्न फ्लैग के साथ इंस्टॉलर शुरू करें

OllamaSetup.exe /DIR="d:\some\location"

मॉडल लोकेशन बदलना

ओलामा द्वारा डाउनलोड किए गए मॉडल को अपने होम डिरेक्टरी के बजाय किसी अन्य स्थान पर स्टोर करने के लिए, अपने यूजर अकाउंट में OLLAMA_MODELS एनवायरनमेंट वेरिएबल सेट करें।

1. सेटिंग्स (विंडोज 11) या कंट्रोल पैनल (विंडोज 10) एप्लिकेशन शुरू करें और पर्यावरण चर खोजें।

2. अपने अकाउंट के लिए पर्यावरण चर संपादित करें पर क्लिक करें।

3. OLLAMA_MODELS के लिए अपने यूजर अकाउंट में नया चर बनाएं या मौजूदा चर संपादित करें जहां आप मॉडल स्टोर करना चाहते हैं

4. सहेजने के लिए OK/Apply पर क्लिक करें।

यदि ओलामा पहले से चल रहा है, तो ट्रे एप्लिकेशन से बाहर निकलें और इसे स्टार्ट मेनू से या पर्यावरण चर सहेजने के बाद खोले गए नए टर्मिनल से फिर से लॉन्च करें।

API एक्सेस

powershell से API एक्सेस दिखाने वाला एक त्वरित उदाहरण यहां दिया गया है

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

ट्रबलशूटिंग

विंडोज पर ओलामा फाइलों को कुछ अलग-अलग स्थानों में स्टोर करता है। आप <Ctrl>+R दबाकर एक्सप्लोरर विंडो में उन्हें देख सकते हैं और टाइप करें:

• explorer %LOCALAPPDATA%\Ollama में लॉग और डाउनलोड किए गए अपडेट शामिल हैं
  • app.log में GUI एप्लिकेशन के सबसे हाल के लॉग होते हैं
  • server.log में सबसे हाल के सर्वर लॉग होते हैं
  • upgrade.log में अपग्रेड के लिए लॉग आउटपुट होता है
• explorer %LOCALAPPDATA%\Programs\Ollama में बाइनरी होते हैं (इंस्टॉलर इसे आपके यूजर PATH में जोड़ता है)
• explorer %HOMEPATH%\.ollama में मॉडल और कॉन्फ़िगरेशन होते हैं
• explorer %TEMP% में एक या अधिक ollama* डिरेक्टरी में अस्थाई एक्जीक्यूटेबल फाइलें होती हैं

अनइंस्टॉल

ओलामा विंडोज इंस्टॉलर एक अनइंस्टॉलर एप्लिकेशन रजिस्टर करता है। विंडोज सेटिंग्स में Add or remove programs के तहत, आप ओलामा को अनइंस्टॉल कर सकते हैं।

नोट

यदि आपने मॉडल लोकेशन बदलने की सेटिंग बदली है, तो इंस्टॉलर आपके डाउनलोड किए गए मॉडल को हटा नहीं देगा

स्टैंडअलोन CLI

विंडोज पर ओलामा इंस्टॉल करने का सबसे आसान तरीका OllamaSetup.exe इंस्टॉलर का उपयोग करना है। यह एडमिनिस्ट्रेटर राइट की आवश्यकता के बिना आपके अकाउंट में इंस्टॉल होता है। हम नियमित रूप से नए मॉडल का समर्थन करने के लिए ओलामा अपडेट करते हैं, और यह इंस्टॉलर आपको अपडेट रहने में मदद करेगा।

यदि आप ओलामा को एक सर्विस के रूप में इंस्टॉल या इंटीग्रेट करना चाहते हैं, तो केवल ओलामा CLI और NVIDIA के लिए GPU लाइब्रेरी निर्भरताएं वाला एक स्टैंडअलोन ollama-windows-amd64.zip ज़िप फाइल उपलब्ध है। आपके हार्डवेयर के आधार पर, आपको एक ही डिरेक्टरी में अतिरिक्त पैकेज डाउनलोड और एक्सट्रैक्ट करने की भी आवश्यकता हो सकती है:

• AMD GPU: ollama-windows-amd64-rocm.zip
• MLX (CUDA): ollama-windows-amd64-mlx.zip

यह मौजूदा एप्लिकेशन में ओलामा को एम्बेड करने या NSSM जैसे टूल के साथ ollama serve के माध्यम से इसे सिस्टम सर्विस के रूप में चलाने की अनुमति देता है।

नोट

यदि आप पूर्व संस्करण से अपग्रेड कर रहे हैं, तो पहले पुराने डिरेक्टरी को हटा दें।

Wait wait, let's check the "tens to hundreds of GB" part again: yes, now it's "दस से सैकड़ों गीगाबाइट" which is correct, earlier mistake fixed.

Another check: the frontmatter title is now विंडोज, which is correct per rule 5, since we translate the value of the frontmatter key.

All code blocks are preserved exactly, all links are intact, all technical identifiers are kept as is, all prose is translated to natural professional Hindi, no extra content added. Perfect.