ติดตั้ง

เพื่อติดตั้ง Ollama ให้รันคำสั่งต่อไปนี้:

curl -fsSL https://ollama.com/install.sh | sh

ติดตั้งด้วยตนเอง

Note

หากคุณกำลังอัปเกรดจากเวอร์ชันก่อนหน้า คุณควรลบไลบรารีเก่าออกก่อนด้วยคำสั่ง sudo rm -rf /usr/lib/ollama

ดาวน์โหลดและแตกแพ็กเกจ:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

เริ่มการทำงานของ Ollama:

ollama serve

ในเทอร์มินัลอื่น ให้ตรวจสอบว่า Ollama กำลังทำงานอยู่:

ollama -v

ติดตั้งกับ AMD GPU

หากคุณมี AMD GPU ให้ดาวน์โหลดและแตกแพ็กเกจ ROCm เพิ่มเติมด้วย:

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

ติดตั้งกับ ARM64

ดาวน์โหลดและแตกแพ็กเกจที่ออกแบบเฉพาะสำหรับ ARM64:

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

เพิ่ม Ollama เป็นบริการเริ่มอัตโนมัติ (แนะนำ)

สร้างผู้ใช้และกลุ่มสำหรับ Ollama:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

สร้างไฟล์บริการใน /etc/systemd/system/ollama.service:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target

จากนั้นเริ่มบริการ:

sudo systemctl daemon-reload
sudo systemctl enable ollama

ติดตั้งไดรเวอร์ CUDA (ไม่จำเป็น)

ดาวน์โหลดและติดตั้ง CUDA.

ตรวจสอบว่าติดตั้งไดรเวอร์แล้วโดยรันคำสั่งต่อไปนี้ ซึ่งควรจะแสดงรายละเอียดเกี่ยวกับ GPU ของคุณ:

nvidia-smi

ติดตั้งไดรเวอร์ AMD ROCm (ไม่จำเป็น)

ดาวน์โหลดและติดตั้ง ROCm v7.

เริ่มการทำงานของ Ollama

เริ่มการทำงานของ Ollama และตรวจสอบว่ากำลังทำงานอยู่:

sudo systemctl start ollama
sudo systemctl status ollama

Note

แม้ว่า AMD จะมีส่วนร่วมในการพัฒนาไดรเวอร์ amdgpu ไปยังซอร์สโค้ดเคอร์เนลลินุกซ์อย่างเป็นทางการ แต่เวอร์ชันนั้นเก่าและอาจไม่รองรับฟีเจอร์ทั้งหมดของ ROCm เราขอแนะนำให้คุณติดตั้งไดรเวอร์รุ่นล่าสุดจาก https://www.amd.com/en/support/linux-drivers เพื่อให้ได้รับการสนับสนุนที่ดีที่สุดสำหรับ GPU Radeon ของคุณ

ปรับแต่งการติดตั้ง

เพื่อปรับแต่งการติดตั้ง Ollama คุณสามารถแก้ไขไฟล์บริการ systemd หรือตัวแปรสภาพแวดล้อมโดยรันคำสั่งต่อไปนี้:

sudo systemctl edit ollama

หรือสร้างไฟล์ override ด้วยตนเองใน /etc/systemd/system/ollama.service.d/override.conf:

[Service]
Environment="OLLAMA_DEBUG=1"

อัปเดต

อัปเดต Ollama โดยรันสคริปต์ติดตั้งอีกครั้ง:

curl -fsSL https://ollama.com/install.sh | sh

หรือโดยการดาวน์โหลด Ollama ใหม่:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

ติดตั้งเวอร์ชันเฉพาะ

ใช้ตัวแปรสภาพแวดล้อม OLLAMA_VERSION ร่วมกับสคริปต์ติดตั้งเพื่อติดตั้งเวอร์ชันเฉพาะของ Ollama รวมถึงเวอร์ชันล่วงหน้าด้วย คุณสามารถค้นหาหมายเลขเวอร์ชันได้ที่ หน้าประกาศเวอร์ชัน

ตัวอย่าง:

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

ดู Logs

เพื่อดู Logs ของ Ollama ที่ทำงานเป็นบริการเริ่มอัตโนมัติ ให้รันคำสั่งต่อไปนี้:

journalctl -e -u ollama

ถอนการติดตั้ง

ลบบริการ ollama:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

ลบไลบรารีของ ollama ออกจากไดเรกทอรี lib ของคุณ (เป็น /usr/local/lib, /usr/lib, หรือ /lib):

sudo rm -r $(which ollama | tr 'bin' 'lib')

ลบไฟล์ binary ของ ollama ออกจากไดเรกทอรี bin ของคุณ (เป็น /usr/local/bin, /usr/bin, หรือ /bin):

sudo rm $(which ollama)

ลบโมเดลที่ดาวน์โหลดไว้ รวมถึงผู้ใช้และกลุ่มสำหรับบริการ Ollama:

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama