Yükleme

Ollama'yı yüklemek için şu komutu çalıştırın:

curl -fsSL https://ollama.com/install.sh | sh

Manuel yükleme

Not

Eğer önceki bir sürümden yükseltme yapıyorsanız, önce sudo rm -rf /usr/lib/ollama komutuyla eski kütüphaneleri kaldırmalısınız.

Paketi indirin ve çıkarın:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Ollama'yı başlatın:

ollama serve

Başka bir terminalde Ollama'nın çalıştığını doğrulayın:

ollama -v

AMD GPU yüklemesi

Eğer AMD GPU'nuz varsa, ek ROCm paketini de indirip çıkarın:

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

ARM64 yüklemesi

ARM64'a özel paketi indirin ve çıkarın:

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

Ollama'yı başlangıç hizmeti olarak ekleme (önerilen)

Ollama için bir kullanıcı ve grup oluşturun:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

/etc/systemd/system/ollama.service konumunda bir hizmet dosyası oluşturun:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target

Ardından hizmeti başlatın:

sudo systemctl daemon-reload
sudo systemctl enable ollama

CUDA sürücülerini yükleme (isteğe bağlı)

CUDA'yi indirip yükleyin.

Sürücülerin yüklendiğini, GPU'nuzla ilgili ayrıntıları yazdırması gereken şu komutu çalıştırarak doğrulayın:

nvidia-smi

AMD ROCm sürücülerini yükleme (isteğe bağlı)

ROCm v7'yi indirip yükleyin.

Ollama'yı başlatma

Ollama'yı başlatın ve çalıştığını doğrulayın:

sudo systemctl start ollama
sudo systemctl status ollama

Not

AMD, amdgpu sürücüsünü resmi Linux çekirdek kaynağına yukarı akış olarak katkıda bulunsa da, sürüm daha eski olduğu için tüm ROCm özelliklerini desteklemeyebilir. Radeon GPU'nuz için en iyi destek almak için en son sürücüyü https://www.amd.com/en/support/linux-drivers adresinden yüklemenizi öneririz.

Özelleştirme

Ollama kurulumunu özelleştirmek için şu komutu çalıştırarak systemd hizmet dosyasını veya ortam değişkenlerini düzenleyebilirsiniz:

sudo systemctl edit ollama

Alternatif olarak, /etc/systemd/system/ollama.service.d/override.conf konumunda elle bir geçersizleştirme dosyası oluşturun:

[Service]
Environment="OLLAMA_DEBUG=1"

Güncelleme

Ollama'yı kurulum betiğini tekrar çalıştırarak güncelleyin:

curl -fsSL https://ollama.com/install.sh | sh

Veya Ollama'yı yeniden indirerek:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Belirli sürümleri yükleme

OLLAMA_VERSION ortam değişkenini kurulum betiği ile birlikte kullanarak ön sürümler de dahil belirli bir Ollama sürümünü yükleyebilirsiniz. Sürüm numaralarını sürümler sayfasında bulabilirsiniz.

Örneğin:

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

Günlükleri görüntüleme

Başlangıç hizmeti olarak çalışan Ollama'nın günlüklerini görüntülemek için şu komutu çalıştırın:

journalctl -e -u ollama

Kaldırma

Ollama hizmetini kaldırın:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

Ollama kütüphanelerini kütüphane dizininizden (ya /usr/local/lib, /usr/lib ya da /lib) kaldırın:

sudo rm -r $(which ollama | tr 'bin' 'lib')

Ollama ikili dosyasını bin dizininizden (ya /usr/local/bin, /usr/bin ya da /bin) kaldırın:

sudo rm $(which ollama)

İndirilen modelleri ve Ollama hizmet kullanıcısı ile grubunu kaldırın:

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama