Installation

Pour installer Ollama, exécutez la commande suivante :

curl -fsSL https://ollama.com/install.sh | sh

Installation manuelle

Note

Si vous effectuez une mise à jour depuis une version précédente, vous devez d'abord supprimer les anciennes bibliothèques avec sudo rm -rf /usr/lib/ollama.

Téléchargez et extrayez le paquet :

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Démarrez Ollama :

ollama serve

Dans un autre terminal, vérifiez qu'Ollama est en cours d'exécution :

ollama -v

Installation sur GPU AMD

Si vous disposez d'un GPU AMD, téléchargez et extrayez également le paquet ROCm supplémentaire :

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

Installation ARM64

Téléchargez et extrayez le paquet spécifique à l'architecture ARM64 :

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

Ajout d'Ollama en tant que service de démarrage (recommandé)

Créez un utilisateur et un groupe pour Ollama :

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Créez un fichier de service dans /etc/systemd/system/ollama.service :

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target

Démarrez ensuite le service :

sudo systemctl daemon-reload
sudo systemctl enable ollama

Installation des pilotes CUDA (facultatif)

Téléchargez et installez CUDA.

Vérifiez que les pilotes sont installés en exécutant la commande suivante, qui doit afficher les détails de votre GPU :

nvidia-smi

Installation des pilotes AMD ROCm (facultatif)

Téléchargez et installez ROCm v7.

Démarrage d'Ollama

Démarrez Ollama et vérifiez qu'il est en cours d'exécution :

sudo systemctl start ollama
sudo systemctl status ollama

Note

Bien qu'AMD ait contribué au pilote amdgpu en amont dans le source du noyau Linux officiel, la version est ancienne et peut ne pas prendre en charge toutes les fonctionnalités de ROCm. Nous vous recommandons d'installer le dernier pilote depuis https://www.amd.com/en/support/linux-drivers pour une meilleure prise en charge de votre GPU Radeon.

Personnalisation

Pour personnaliser l'installation d'Ollama, vous pouvez modifier le fichier de service systemd ou les variables d'environnement en exécutant :

sudo systemctl edit ollama

Vous pouvez également créer manuellement un fichier de substitution dans /etc/systemd/system/ollama.service.d/override.conf :

[Service]
Environment="OLLAMA_DEBUG=1"

Mise à jour

Mettez à jour Ollama en exécutant à nouveau le script d'installation :

curl -fsSL https://ollama.com/install.sh | sh

Ou en retéléchargeant Ollama :

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Installation de versions spécifiques

Utilisez la variable d'environnement OLLAMA_VERSION avec le script d'installation pour installer une version spécifique d'Ollama, y compris les pré-versions. Vous trouverez les numéros de version sur la page des versions.

Par exemple :

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

Consultation des journaux

Pour consulter les journaux d'Ollama fonctionnant en tant que service de démarrage, exécutez :

journalctl -e -u ollama

Désinstallation

Supprimez le service ollama :

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

Supprimez les bibliothèques ollama de votre répertoire lib (soit /usr/local/lib, /usr/lib ou /lib) :

sudo rm -r $(which ollama | tr 'bin' 'lib')

Supprimez le binaire ollama de votre répertoire bin (soit /usr/local/bin, /usr/bin ou /bin) :

sudo rm $(which ollama)

Supprimez les modèles téléchargés ainsi que l'utilisateur et le groupe du service Ollama :

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama