Instalação

Para instalar o Ollama, execute o seguinte comando:

curl -fsSL https://ollama.com/install.sh | sh

Instalação manual

Nota

Se você estiver atualizando a partir de uma versão anterior, deve remover as bibliotecas antigas primeiro com sudo rm -rf /usr/lib/ollama.

Baixe e extraia o pacote:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Inicie o Ollama:

ollama serve

Em outro terminal, verifique se o Ollama está em execução:

ollama -v

Instalação de GPU AMD

Se você tiver uma GPU AMD, baixe e extraia também o pacote ROCm adicional:

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

Instalação ARM64

Baixe e extraia o pacote específico para ARM64:

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

Adicionando o Ollama como serviço de inicialização (recomendado)

Crie um usuário e um grupo para o Ollama:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Crie um arquivo de serviço em /etc/systemd/system/ollama.service:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target

Em seguida, inicie o serviço:

sudo systemctl daemon-reload
sudo systemctl enable ollama

Instalação de drivers CUDA (opcional)

Baixe e instale o CUDA.

Verifique se os drivers estão instalados executando o seguinte comando, que deve exibir detalhes sobre sua GPU:

nvidia-smi

Instalação de drivers AMD ROCm (opcional)

Baixe e instale o ROCm v7.

Iniciar o Ollama

Inicie o Ollama e verifique se ele está em execução:

sudo systemctl start ollama
sudo systemctl status ollama

Nota

Embora a AMD tenha contribuído com o driver amdgpu para o código-fonte oficial do kernel Linux, a versão é mais antiga e pode não suportar todos os recursos do ROCm. Recomendamos que você instale o driver mais recente em https://www.amd.com/en/support/linux-drivers para obter o melhor suporte para sua GPU Radeon.

Personalização

Para personalizar a instalação do Ollama, você pode editar o arquivo de serviço systemd ou as variáveis de ambiente executando:

sudo systemctl edit ollama

Como alternativa, crie um arquivo de sobreposição manualmente em /etc/systemd/system/ollama.service.d/override.conf:

[Service]
Environment="OLLAMA_DEBUG=1"

Atualização

Atualize o Ollama executando o script de instalação novamente:

curl -fsSL https://ollama.com/install.sh | sh

Ou baixando o Ollama novamente:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Instalação de versões específicas

Use a variável de ambiente OLLAMA_VERSION com o script de instalação para instalar uma versão específica do Ollama, incluindo pré-lançamentos. Você pode encontrar os números de versão na página de lançamentos.

Por exemplo:

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

Visualização de logs

Para visualizar os logs do Ollama em execução como serviço de inicialização, execute:

journalctl -e -u ollama

Desinstalação

Remova o serviço ollama:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

Remova as bibliotecas do ollama do seu diretório lib (seja /usr/local/lib, /usr/lib ou /lib):

sudo rm -r $(which ollama | tr 'bin' 'lib')

Remova o binário do ollama do seu diretório bin (seja /usr/local/bin, /usr/bin ou /bin):

sudo rm $(which ollama)

Remova os modelos baixados, o usuário e o grupo do serviço Ollama:

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama