Instal

Untuk menginstal Ollama, jalankan perintah berikut:

curl -fsSL https://ollama.com/install.sh | sh

Instal manual

Catatan

Jika Anda sedang meningkatkan versi dari versi sebelumnya, Anda harus menghapus pustaka lama dengan sudo rm -rf /usr/lib/ollama terlebih dahulu.

Unduh dan ekstrak paketnya:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Jalankan Ollama:

ollama serve

Di terminal lain, verifikasi bahwa Ollama sedang berjalan:

ollama -v

Instal GPU AMD

Jika Anda memiliki GPU AMD, unduh dan ekstrak juga paket ROCm tambahan:

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

Instal ARM64

Unduh dan ekstrak paket khusus ARM64:

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

Menambahkan Ollama sebagai layanan startup (disarankan)

Buat pengguna dan grup untuk Ollama:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Buat file layanan di /etc/systemd/system/ollama.service:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target

Kemudian jalankan layanan tersebut:

sudo systemctl daemon-reload
sudo systemctl enable ollama

Instal driver CUDA (opsional)

Unduh dan instal CUDA.

Verifikasi bahwa driver sudah terinstal dengan menjalankan perintah berikut, yang akan menampilkan detail tentang GPU Anda:

nvidia-smi

Instal driver AMD ROCm (opsional)

Unduh dan Instal ROCm v7.

Jalankan Ollama

Jalankan Ollama dan verifikasi bahwa ia sedang berjalan:

sudo systemctl start ollama
sudo systemctl status ollama

Catatan

Meskipun AMD telah berkontribusi driver amdgpu ke kernel linux resmi, versinya lebih lama dan mungkin tidak mendukung semua fitur ROCm. Kami sarankan Anda menginstal driver terbaru dari https://www.amd.com/en/support/linux-drivers untuk dukungan terbaik terhadap GPU Radeon Anda.

Menyesuaikan

Untuk menyesuaikan instalasi Ollama, Anda dapat mengedit file layanan systemd atau variabel lingkungan dengan menjalankan:

sudo systemctl edit ollama

Atau, buat file override secara manual di /etc/systemd/system/ollama.service.d/override.conf:

[Service]
Environment="OLLAMA_DEBUG=1"

Memperbarui

Perbarui Ollama dengan menjalankan skrip instalasi lagi:

curl -fsSL https://ollama.com/install.sh | sh

Atau dengan mengunduh ulang Ollama:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Menginstal versi tertentu

Gunakan variabel lingkungan OLLAMA_VERSION bersama skrip instalasi untuk menginstal versi tertentu Ollama, termasuk pra-rilis. Anda dapat menemukan nomor versi di halaman rilis.

Contohnya:

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

Melihat log

Untuk melihat log Ollama yang berjalan sebagai layanan startup, jalankan:

journalctl -e -u ollama

Menghapus instalasi

Hapus layanan ollama:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

Hapus pustaka ollama dari direktori lib Anda (baik /usr/local/lib, /usr/lib, atau /lib):

sudo rm -r $(which ollama | tr 'bin' 'lib')

Hapus biner ollama dari direktori bin Anda (baik /usr/local/bin, /usr/bin, atau /bin):

sudo rm $(which ollama)

Hapus model yang telah diunduh serta pengguna dan grup layanan Ollama:

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama