Ollama працює як нативний додаток для Windows, з підтримкою GPU NVIDIA та AMD Radeon. Після встановлення Ollama для Windows програма буде запущена в фоновому режимі, а інтерфейс командного рядка ollama буде доступний у cmd, powershell або вашому улюбленому терміналі. Як і зазвичай, API Ollama буде доступний за адресою http://localhost:11434.

Системні вимоги

• Windows 10 22H2 або новішої версії, Home або Pro
• NVIDIA 551.61 або новіші драйвери, якщо у вас є відеокарта NVIDIA
• Драйверний стек AMD ROCm v7 з підтримкою HIP7 для прискорення ROCm або драйвер AMD Radeon з підтримкою Vulkan для прискорення Vulkan

Ollama використовує символи Unicode для відображення прогресу, які на деяких старих шрифтах терміналів у Windows 10 можуть відображатися як невідомі квадрати. Якщо ви бачите таку проблему, спробуйте змінити налаштування шрифту терміналу.

Примітка

Деякі системи з RDNA2 / Radeon RX 6000, зокрема відеокарти класу RX 6800, можуть не надавати підтримку ROCm v7 у поточних драйверах AMD для Windows. Vulkan увімкнено за замовчуванням і є рекомендованим резервним варіантом для таких систем. Якщо у змішаної системі з iGPU/dGPU вибрано нестабільний Vulkan iGPU, встановіть для змінної GGML_VK_VISIBLE_DEVICES значення, що відповідає індексу дискретного графічного процесора.

Вимоги до файлової системи

Встановлення Ollama не вимагає прав адміністратора, і за замовчуванням воно встановлюється у вашому домашньому каталозі. Для встановлення виконуваних файлів знадобиться щонайменше 4 ГБ вільного місця. Після встановлення Ollama вам знадобиться додаткове місце для зберігання великих мовних моделей, розмір яких може сягати від десятків до сотень ГБ. Якщо у вашому домашньому каталозі недостатньо вільного місця, ви можете змінити шлях встановлення виконуваних файлів та місце зберігання моделей.

Зміна каталогу встановлення

Щоб встановити додаток Ollama в каталог, відмінний від вашого домашнього, запустіть інсталятор з таким параметром:

OllamaSetup.exe /DIR="d:\some\location"

Зміна каталогу зберігання моделей

Щоб змінити каталог, у якому Ollama зберігає завантажені моделі, замість вашого домашнього каталогу, встановіть змінну середовища OLLAMA_MODELS у вашому обліковому записі користувача.

1. Запустіть програму «Параметри» (Windows 11) або «Панель керування» (Windows 10) і знайдіть змінні середовища.
2. Натисніть Редагувати змінні середовища для вашого облікового запису.
3. Відредагуйте або створіть нову змінну для вашого облікового запису користувача з ім'ям OLLAMA_MODELS, вказавши шлях до каталогу, у якому ви хочете зберігати моделі
4. Натисніть «Гаразд»/«Застосувати», щоб зберегти зміни.

Якщо Ollama вже запущено, вийдіть з програми в області сповіщень і запустіть її знову з меню «Пуск», або з нового терміналу, запущеного після збереження змінних середовища.

Доступ до API

Ось простий приклад доступу до API з powershell

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

Усунення несправностей

Ollama у Windows зберігає файли в кількох різних каталогах. Ви можете переглянути їх у вікні Провідника, натиснувши <Ctrl>+R і ввівши такі шляхи:

• explorer %LOCALAPPDATA%\Ollama містить файли журналів та завантажені оновлення
  • app.log містить останні журнали роботи графічного інтерфейсу додатка
  • server.log містить останні журнали роботи сервера
  • upgrade.log містить вивід журналів під час оновлення
• explorer %LOCALAPPDATA%\Programs\Ollama містить виконувані файли (інсталятор додає цей каталог до змінної PATH вашого користувача)
• explorer %HOMEPATH%\.ollama містить моделі та конфігураційні файли
• explorer %TEMP% містить тимчасові виконувані файли в одному або кількох каталогах ollama*

Видалення

Інсталятор Ollama для Windows реєструє програму для видалення. У розділі «Додати або видалити програми» в Параметрах Windows ви можете видалити Ollama.

Примітка

Якщо ви змінили каталог зберігання OLLAMA_MODELS, інсталятор не видалить ваші завантажені моделі

Окремий інтерфейс командного рядка

Найпростіший спосіб встановити Ollama на Windows — використовувати інсталятор OllamaSetup.exe. Він встановлюється у вашому обліковому записі без необхідності в правах адміністратора. Ми регулярно оновлюємо Ollama для підтримки новітніх моделей, і цей інсталятор допоможе вам завжди мати актуальну версію.

Якщо ви хочете встановити або інтегрувати Ollama як службу, доступний окремий ZIP-архів ollama-windows-amd64.zip, який містить лише інтерфейс командного рядка Ollama та залежності бібліотек графічних процесорів для Nvidia. Залежно від вашої апаратної конфігурації, вам також може знадобитися завантажити та розпакувати додаткові пакети в той самий каталог:

• AMD GPU: ollama-windows-amd64-rocm.zip
• MLX (CUDA): ollama-windows-amd64-mlx.zip

Це дозволяє вбудовувати Ollama в наявні додатки або запускати його як системну службу за допомогою команди ollama serve з інструментами на кшталт NSSM.

Примітка

Якщо ви оновлюєте Ollama з попередньої версії, спочатку видаліть старі каталоги.