Ollama работает как нативное приложение для Windows, включая поддержку видеокарт NVIDIA и AMD Radeon. После установки Ollama для Windows приложение будет работать в фоновом режиме, а командная строка ollama будет доступна в cmd, powershell или любом другом терминале по вашему выбору. Как обычно, API Ollama будет доступен по адресу http://localhost:11434.

Системные требования

• Windows 10 22H2 или новее, редакции Home или Pro
• Драйверы NVIDIA версии 551.61 или новее, если у вас установлена видеокарта NVIDIA
• Драйверский стек AMD ROCm v7 / HIP7 для ускорения ROCm или драйвер AMD Radeon с поддержкой Vulkan для ускорения через Vulkan

Ollama использует символы Unicode для индикации прогресса, которые в некоторых старых шрифтах терминалов Windows 10 могут отображаться в виде неопознанных квадратов. Если вы столкнулись с этой проблемой, попробуйте изменить настройки шрифта терминала.

Примечание

На некоторых системах с RDNA2 / видеокартами Radeon RX 6000, включая карты класса RX 6800, текущие драйверы AMD для Windows могут не предоставлять поддержку ROCm v7. Для таких систем по умолчанию включен Vulkan, который является рекомендуемым резервным вариантом. Если в системе с комбинацией iGPU/dGPU выбран нестабильный Vulkan iGPU, установите для переменной GGML_VK_VISIBLE_DEVICES индекс дискретного графического процессора.

Требования к файловой системе

Установка Ollama не требует прав администратора, а по умолчанию происходит в ваш домашний каталог. Для установки бинарных файлов потребуется не менее 4 ГБ свободного места. После установки Ollama вам понадобится дополнительное место для хранения больших языковых моделей, размер которых может составлять от десятков до сотен гигабайт. Если в вашем домашнем каталоге недостаточно места, вы можете изменить расположение как для бинарных файлов, так и для моделей.

Изменение расположения установки

Чтобы установить приложение Ollama в каталог, отличный от вашего домашнего, запустите установщик со следующим флагом

OllamaSetup.exe /DIR="d:\some\location"

Изменение расположения моделей

Чтобы изменить каталог, в котором Ollama сохраняет загруженные модели, вместо использования вашего домашнего каталога, задайте переменную окружения OLLAMA_MODELS в вашей учетной записи пользователя.

1. Запустите приложение «Параметры» (Windows 11) или «Панель управления» (Windows 10) и найдите пункт переменные окружения.
2. Нажмите на пункт Изменить переменные окружения для вашей учетной записи.
3. Отредактируйте или создайте новую переменную для вашей учетной записи с именем OLLAMA_MODELS, указав в её значении каталог, в котором вы хотите хранить модели
4. Нажмите «ОК» или «Применить» для сохранения изменений.

Если Ollama уже запущена, закройте приложение из области уведомлений и запустите его заново через меню «Пуск» или из нового окна терминала, открытого после сохранения переменных окружения.

Доступ к API

Ниже приведен краткий пример доступа к API из powershell

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

Устранение неполадок

Ollama в Windows сохраняет файлы в нескольких разных каталогах. Вы можете открыть их в окне проводника, нажав <Ctrl>+R и введя следующие пути:

• explorer %LOCALAPPDATA%\Ollama содержит журналы работы и загруженные обновления
  • app.log содержит самые последние журналы работы графического приложения
  • server.log содержит самые последние журналы работы сервера
  • upgrade.log содержит журнальные записи процесса обновления
• explorer %LOCALAPPDATA%\Programs\Ollama содержит бинарные файлы (установщик добавляет этот каталог в переменную PATH вашей учетной записи)
• explorer %HOMEPATH%\.ollama содержит модели и конфигурационные файлы
• explorer %TEMP% содержит временные исполняемые файлы в одном или нескольких каталогах ollama*

Удаление

Установщик Ollama для Windows регистрирует программу для удаления приложения. Вы можете удалить Ollama через раздел «Установка и удаление программ» в параметрах Windows.

Примечание

Если вы изменяли расположение моделей через переменную OLLAMA_MODELS, установщик не удалит ваши загруженные модели.

Автономный CLI

Самый простой способ установить Ollama на Windows — использовать установщик OllamaSetup.exe. Он устанавливается в вашу учетную запись без запроса прав администратора. Мы регулярно обновляем Ollama для поддержки новейших моделей, и этот установщик поможет вам всегда иметь актуальную версию.

Если вы хотите установить Ollama как службу или интегрировать её в существующие приложения, доступен отдельный zip-архив ollama-windows-amd64.zip, содержащий только CLI Ollama и зависимости графических библиотек для Nvidia. В зависимости от вашего оборудования вам также может потребоваться скачать и распаковать дополнительные пакеты в тот же каталог:

• AMD GPU: ollama-windows-amd64-rocm.zip
• MLX (CUDA): ollama-windows-amd64-mlx.zip

Это позволяет встраивать Ollama в существующие приложения или запускать её как системную службу с помощью команды ollama serve и инструментов вроде NSSM.

Примечание

Если вы обновляетесь с предыдущей версии, сначала удалите старые каталоги.