Instalacja

Aby zainstalować Ollamę, uruchom poniższe polecenie:

curl -fsSL https://ollama.com/install.sh | sh

Ręczna instalacja

Uwaga

Jeśli aktualizujesz z poprzedniej wersji, najpierw powinieneś usunąć stare biblioteki za pomocą sudo rm -rf /usr/lib/ollama.

Pobierz i rozpakuj pakiet:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Uruchom Ollamę:

ollama serve

W innym terminalu sprawdź, czy Ollama jest uruchomiona:

ollama -v

Instalacja na karcie graficznej AMD

Jeśli masz kartę graficzną AMD, pobierz również i rozpakuj dodatkowy pakiet ROCm:

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

Instalacja na ARM64

Pobierz i rozpakuj pakiet przeznaczony dla architektury ARM64:

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

Dodanie Ollamy jako usługi startowej (zalecane)

Utwórz użytkownika i grupę dla Ollamy:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Utwórz plik usługi w lokalizacji /etc/systemd/system/ollama.service:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target

Następnie uruchom usługę:

sudo systemctl daemon-reload
sudo systemctl enable ollama

Instalacja sterowników CUDA (opcjonalnie)

Pobierz i zainstaluj CUDA.

Sprawdź, czy sterowniki są zainstalowane, uruchamiając poniższe polecenie, które powinno wyświetlić szczegóły dotyczące Twojej karty graficznej:

nvidia-smi

Instalacja sterowników AMD ROCm (opcjonalnie)

Pobierz i zainstaluj ROCm w wersji 7.

Uruchomienie Ollamy

Uruchom Ollamę i sprawdź, czy działa:

sudo systemctl start ollama
sudo systemctl status ollama

Uwaga

Chociaż AMD przyczyniło się do wprowadzenia sterownika amdgpu do oficjalnego źródła jądra Linux, jego wersja jest starsza i może nie obsługiwać wszystkich funkcji ROCm. Zalecamy zainstalowanie najnowszego sterownika z adresu https://www.amd.com/en/support/linux-drivers, aby uzyskać najlepszą obsługę karty graficznej Radeon.

Dostosowywanie

Aby dostosować instalację Ollamy, możesz edytować plik usługi systemd lub zmienne środowiskowe, uruchamiając:

sudo systemctl edit ollama

Alternatywnie utwórz plik nadpisania ręcznie w lokalizacji /etc/systemd/system/ollama.service.d/override.conf:

[Service]
Environment="OLLAMA_DEBUG=1"

Aktualizacja

Zaktualizuj Ollamę, uruchamiając ponownie skrypt instalacyjny:

curl -fsSL https://ollama.com/install.sh | sh

Lub ponownie pobierz Ollamę:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

Instalacja określonych wersji

Użyj zmiennej środowiskowej OLLAMA_VERSION wraz ze skryptem instalacyjnym, aby zainstalować określoną wersję Ollamy, w tym wersje przedpremierowe. Numery wersji można znaleźć na stronie z wydaniami.

Na przykład:

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

Przeglądanie logów

Aby wyświetlić logi Ollamy działającej jako usługa startowa, uruchom:

journalctl -e -u ollama

Deinstalacja

Usuń usługę ollama:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

Usuń biblioteki ollama z katalogu lib (z jednego z katalogów: /usr/local/lib, /usr/lib lub /lib):

sudo rm -r $(which ollama | tr 'bin' 'lib')

Usuń plik binarny ollama z katalogu bin (z jednego z katalogów: /usr/local/bin, /usr/bin lub /bin):

sudo rm $(which ollama)

Usuń pobrane modele oraz użytkownika i grupę usługi Ollamy:

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama