Instalación

Para instalar Ollama, ejecuta el siguiente comando:

curl -fsSL https://ollama.com/install.sh | sh

Instalación manual

Nota

Si estás actualizando desde una versión anterior, primero debes eliminar las bibliotecas antiguas con sudo rm -rf /usr/lib/ollama.

Descarga y extrae el paquete:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Inicia Ollama:

ollama serve

En otra terminal, verifica que Ollama se esté ejecutando:

ollama -v

Instalación para GPU AMD

Si tienes una GPU AMD, también descarga y extrae el paquete ROCm adicional:

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

Instalación para ARM64

Descarga y extrae el paquete específico para ARM64:

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

Agregar Ollama como servicio de inicio (recomendado)

Crea un usuario y un grupo para Ollama:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Crea un archivo de servicio en /etc/systemd/system/ollama.service:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target

Luego inicia el servicio:

sudo systemctl daemon-reload
sudo systemctl enable ollama

Instalar controladores CUDA (opcional)

Descarga e instala CUDA.

Verifica que los controladores estén instalados ejecutando el siguiente comando, que debería mostrar información detallada sobre tu GPU:

nvidia-smi

Instalar controladores AMD ROCm (opcional)

Descarga e instala ROCm v7.

Iniciar Ollama

Inicia Ollama y verifica que se esté ejecutando:

sudo systemctl start ollama
sudo systemctl status ollama

Nota

Si bien AMD ha contribuido con el controlador amdgpu al código fuente oficial del kernel de Linux, la versión incluida es antigua y puede no admitir todas las funciones de ROCm. Te recomendamos instalar el controlador más reciente desde https://www.amd.com/en/support/linux-drivers para obtener el mejor soporte para tu GPU Radeon.

Personalización

Para personalizar la instalación de Ollama, puedes editar el archivo de servicio de systemd o las variables de entorno ejecutando:

sudo systemctl edit ollama

Como alternativa, crea manualmente un archivo de anulación en /etc/systemd/system/ollama.service.d/override.conf:

[Service]
Environment="OLLAMA_DEBUG=1"

Actualización

Actualiza Ollama ejecutando nuevamente el script de instalación:

curl -fsSL https://ollama.com/install.sh | sh

O volviendo a descargar Ollama:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Instalación de versiones específicas

Usa la variable de entorno OLLAMA_VERSION con el script de instalación para instalar una versión específica de Ollama, incluyendo versiones prelanzamiento. Puedes encontrar los números de versión en la página de lanzamientos.

Por ejemplo:

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

Visualización de registros

Para ver los registros de Ollama ejecutándose como servicio de inicio, ejecuta:

journalctl -e -u ollama

Desinstalación

Elimina el servicio de ollama:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

Elimina las bibliotecas de ollama de tu directorio lib (ya sea /usr/local/lib, /usr/lib o /lib):

sudo rm -r $(which ollama | tr 'bin' 'lib')

Elimina el binario de ollama de tu directorio bin (ya sea /usr/local/bin, /usr/bin o /bin):

sudo rm $(which ollama)

Elimina los modelos descargados, así como el usuario y el grupo del servicio de Ollama:

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama