Установка

Для установки Ollama выполните следующую команду:

curl -fsSL https://ollama.com/install.sh | sh

Ручная установка

Примечание

Если вы обновляетесь с предыдущей версии, сначала удалите старые библиотеки с помощью команды sudo rm -rf /usr/lib/ollama.

Скачайте и распакуйте пакет:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Запустите Ollama:

ollama serve

В другом терминале убедитесь, что Ollama запущен:

ollama -v

Установка для AMD GPU

Если у вас есть видеокарта AMD, также скачайте и распакуйте дополнительный пакет ROCm:

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

Установка для ARM64

Скачайте и распакуйте пакет, предназначенный для ARM64:

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

Добавление Ollama в качестве службы автозагрузки (рекомендуется)

Создайте пользователя и группу для Ollama:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Создайте файл службы по пути /etc/systemd/system/ollama.service:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target

Затем запустите службу:

sudo systemctl daemon-reload
sudo systemctl enable ollama

Установка драйверов CUDA (опционально)

Скачайте и установите CUDA.

Проверьте установку драйверов, выполнив следующую команду, которая выведет сведения о вашей видеокарте:

nvidia-smi

Установка драйверов AMD ROCm (опционально)

Скачайте и установите ROCm v7.

Запуск Ollama

Запустите Ollama и убедитесь, что он работает:

sudo systemctl start ollama
sudo systemctl status ollama

Примечание

Хотя AMD передала драйвер amdgpu в основную ветку официального исходного кода ядра Linux, его версия устарела и может не поддерживать все функции ROCm. Мы рекомендуем установить последнюю версию драйвера с https://www.amd.com/en/support/linux-drivers для наилучшей поддержки вашей видеокарты Radeon.

Настройка

Для настройки установки Ollama вы можете отредактировать файл службы systemd или переменные окружения, выполнив команду:

sudo systemctl edit ollama

В качестве альтернативы создайте файл переопределения вручную по пути /etc/systemd/system/ollama.service.d/override.conf:

[Service]
Environment="OLLAMA_DEBUG=1"

Обновление

Обновите Ollama, повторно запустив скрипт установки:

curl -fsSL https://ollama.com/install.sh | sh

Или повторно скачав пакет Ollama:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Установка определённых версий

Используйте переменную окружения OLLAMA_VERSION вместе со скриптом установки, чтобы установить нужную версию Ollama, включая предварительные релизы. Номера версий можно найти на странице релизов.

Например:

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

Просмотр журналов

Для просмотра журналов работы Ollama, запущенного в качестве службы автозагрузки, выполните команду:

journalctl -e -u ollama

Удаление

Удалите службу ollama:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

Удалите библиотеки ollama из каталога lib (возможные варианты: /usr/local/lib, /usr/lib или /lib):

sudo rm -r $(which ollama | tr 'bin' 'lib')

Удалите исполняемый файл ollama из каталога bin (возможные варианты: /usr/local/bin, /usr/bin или /bin):

sudo rm $(which ollama)

Удалите скачанные модели, а также пользователя и группу службы Ollama:

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama