Ollama เป็นแอปพลิเคชันที่พัฒนาสำหรับ Windows โดยตรง รวมถึงรองรับการ์ด NVIDIA และ AMD Radeon GPU ครับ หลังจากติดตั้ง Ollama สำหรับ Windows แล้ว Ollama จะทำงานในพื้นหลัง และบรรทัดคำสั่ง ollama พร้อมใช้งานใน cmd powershell หรือโปรแกรม terminal ที่คุณชอบ โดยปกติ API ของ Ollama API จะให้บริการที่ http://localhost:11434 ครับ

ความต้องการของระบบ

• Windows 10 22H2 หรือใหม่กว่า รุ่น Home หรือ Pro
• ไดรเวอร์ NVIDIA รุ่น 551.61 หรือใหม่กว่าสำหรับการ์ด NVIDIA
• ชุดไดรเวอร์ AMD ROCm v7 / ที่รองรับ HIP7 สำหรับเร่งความเร็ว ROCm หรือไดรเวอร์ AMD Radeon ที่รองรับ Vulkan สำหรับเร่งความเร็ว Vulkan

Ollama ใช้ตัวอักษร Unicode สำหรับแสดงความคืบหน้า ซึ่งอาจแสดงเป็นสี่เหลี่ยมไม่รู้จักในฟอนต์ terminal รุ่นเก่าบางตัวใน Windows 10 ครับ หากคุณเห็นเช่นนี้ ให้ลองเปลี่ยนการตั้งค่าฟอนต์ terminal ของคุณ

หมายเหตุ

ระบบ RDNA2 / Radeon RX 6000 บางตัว รวมถึงการ์ดระดับ RX 6800 อาจไม่เปิดใช้งาน ROCm v7 ด้วยไดรเวอร์ AMD สำหรับ Windows ปัจจุบัน ครับ Vulkan เปิดใช้งานเป็นค่าเริ่มต้นและเป็นตัวเลือกสำรองที่แนะนำสำหรับระบบเหล่านี้ หากระบบที่มี iGPU/dGPU ผสมกันเลือกใช้ iGPU Vulkan ที่ไม่เสถียร ให้ตั้งค่า GGML_VK_VISIBLE_DEVICES เป็นดัชนีของ GPU แยกส่วน ครับ

ความต้องการของพื้นที่จัดเก็บไฟล์

การติดตั้ง Ollama ไม่จำเป็นต้องใช้สิทธิ์ Administrator และจะติดตั้งในโฮมไดเร็กทอรีของคุณโดยค่าเริ่มต้น ครับ คุณต้องการพื้นที่อย่างน้อย 4GB สำหรับการติดตั้งไฟล์ binary หลังจากติดตั้ง Ollama แล้ว คุณต้องการพื้นที่เพิ่มเติมสำหรับจัดเก็บโมเดลภาษาขนาดใหญ่ ซึ่งมีขนาดตั้งแต่สิบจบถึงหลายร้อย GB ครับ หากโฮมไดเร็กทอรีของคุณมีพื้นที่ไม่เพียงพอ คุณสามารถเปลี่ยนตำแหน่งที่ติดตั้ง binary และตำแหน่งที่จัดเก็บโมเดลได้ ครับ

การเปลี่ยนตำแหน่งการติดตั้ง

หากต้องการติดตั้งแอปพลิเคชัน Ollama ในตำแหน่งอื่นที่ไม่ใช่โฮมไดเร็กทอรีของคุณ ให้เริ่มการติดตั้งด้วยตัวเลือกต่อไปนี้

OllamaSetup.exe /DIR="d:\some\location"

การเปลี่ยนตำแหน่งจัดเก็บโมเดล

หากต้องการเปลี่ยนตำแหน่งที่ Ollama จัดเก็บโมเดลที่ดาวน์โหลดมาแทนที่จะใช้โฮมไดเร็กทอรีของคุณ ให้ตั้งค่า environment variable OLLAMA_MODELS ในบัญชีผู้ใช้ของคุณ

1. เปิดแอปพลิเคชัน การตั้งค่า (Windows 11) หรือ แผงควบคุม (Windows 10) และค้นหาสำหรับ ตัวแปรสภาพแวดล้อม
2. คลิกที่ แก้ไขตัวแปรสภาพแวดล้อมสำหรับบัญชีของคุณ
3. แก้ไขหรือสร้างตัวแปรใหม่สำหรับบัญชีผู้ใช้ของคุณชื่อ OLLAMA_MODELS โดยกำหนดตำแหน่งที่คุณต้องการจัดเก็บโมเดล
4. คลิก OK/Apply เพื่อบันทึก

หาก Ollama กำลังทำงานอยู่แล้ว ให้ออกจากแอปพลิเคชันในถาดระบบ แล้วเปิดใหม่จากเมนู Start หรือเปิด terminal ใหม่หลังจากบันทึกตัวแปรสภาพแวดล้อมแล้ว

การเข้าถึง API

นี่คือตัวอย่างง่ายสำหรับการเข้าถึง API จาก powershell

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

การแก้ไขปัญหา

Ollama บน Windows จัดเก็บไฟล์ในหลายตำแหน่งต่างกัน ครับ คุณสามารถดูตำแหน่งเหล่านี้ได้ในหน้าต่าง explorer โดยกด <Ctrl>+R แล้วพิมพ์:

• explorer %LOCALAPPDATA%\Ollama มีล็อกและการอัปเดตที่ดาวน์โหลดมา
  • app.log มีบันทึกล่าสุดจากแอปพลิเคชัน GUI
  • server.log มีบันทึกล่าสุดจากเซิร์ฟเวอร์
  • upgrade.log มีผลลัพธ์บันทึกจากการอัปเกรด
• explorer %LOCALAPPDATA%\Programs\Ollama มีไฟล์ binary (ตัวติดตั้งเพิ่มตำแหน่งนี้ไปใน PATH ของผู้ใช้ของคุณ)
• explorer %HOMEPATH%\.ollama มีโมเดลและการตั้งค่า
• explorer %TEMP% มีไฟล์ executable ชั่วคราวในไดเร็กทอรี ollama* หนึ่งตัวหรือมากกว่า

การถอนการติดตั้ง

ตัวติดตั้ง Ollama สำหรับ Windows จะลงทะเบียนแอปพลิเคชันถอนการติดตั้งไว้ ครับ คุณสามารถถอนการติดตั้ง Ollama ได้ภายใต้ เพิ่มหรือลบโปรแกรม ใน Windows Settings

หมายเหตุ

หากคุณได้ เปลี่ยนตำแหน่งจัดเก็บ OLLAMA_MODELS แล้ว ตัวติดตั้งจะไม่ลบโมเดลที่คุณดาวน์โหลดมา

CLI แยกส่วน

วิธีที่ง่ายที่สุดในการติดตั้ง Ollama บน Windows คือใช้ตัวติดตั้ง OllamaSetup.exe ครับ ตัวติดตั้งนี้จะติดตั้งในบัญชีของคุณโดยไม่ต้องใช้สิทธิ์ Administrator เราได้อัปเดต Ollama อย่างสม่ำเสมอเพื่อรองรับโมเดลล่าสุด และตัวติดตั้งนี้จะช่วยให้คุณอัปเดตเป็นรุ่นล่าสุดได้ง่าย

หากคุณต้องการติดตั้งหรือรวม Ollama เข้ากับระบบเป็นบริการ มีไฟล์ zip แยกส่วน ollama-windows-amd64.zip ที่มีเฉพาะ Ollama CLI และไลบรารี GPU ที่ต้องใช้สำหรับ Nvidia ครับ ขึ้นอยู่กับฮาร์ดแวร์ของคุณ คุณอาจต้องดาวน์โหลดและแตกไฟล์แพ็กเกจเพิ่มเติมลงในไดเร็กทอรีเดียวกันด้วย:

• AMD GPU: ollama-windows-amd64-rocm.zip
• MLX (CUDA): ollama-windows-amd64-mlx.zip

วิธีนี้ช่วยให้คุณฝัง Ollama เข้าในแอปพลิเคชันที่มีอยู่ หรือรันเป็นบริการของระบบผ่านคำสั่ง ollama serve ด้วยเครื่องมือเช่น NSSM ครับ

หมายเหตุ

หากคุณกำลังอัปเกรดจากรุ่นก่อนหน้า คุณควรลบไดเร็กทอรีรุ่นเก่าออกก่อน