Ollama viene eseguito come applicazione nativa per Windows, con supporto per GPU NVIDIA e AMD Radeon. Dopo aver installato Ollama per Windows, il programma verrà eseguito in background e la riga di comando ollama sarà disponibile in cmd, powershell o nella tua applicazione terminale preferita. Come di consueto, l'API di Ollama sarà disponibile all'indirizzo http://localhost:11434.

Requisiti di sistema

• Windows 10 22H2 o versioni successive, edizioni Home o Pro
• Driver NVIDIA 551.61 o versioni successive se disponi di una scheda NVIDIA
• Stack di driver compatibile con AMD ROCm v7 / HIP7 per l'accelerazione ROCm, oppure un driver AMD Radeon compatibile con Vulkan per l'accelerazione Vulkan

Ollama utilizza caratteri Unicode per l'indicazione di avanzamento, che potrebbero essere visualizzati come quadrati sconosciuti in alcuni font di terminale più vecchi su Windows 10. Se riscontri questo problema, prova a modificare le impostazioni dei font del terminale.

Note

Alcuni sistemi RDNA2 / Radeon RX 6000, incluse le schede della classe RX 6800, potrebbero non esporre ROCm v7 con i driver AMD Windows attuali. Vulkan è abilitato per impostazione predefinita ed è la soluzione alternativa consigliata per questi sistemi. Se un sistema misto iGPU/dGPU seleziona una iGPU Vulkan instabile, imposta GGML_VK_VISIBLE_DEVICES sull'indice della GPU discreta.

Requisiti del filesystem

L'installazione di Ollama non richiede i privilegi di amministratore e, per impostazione predefinita, viene installata nella tua directory home. Avrai bisogno di almeno 4GB di spazio per l'installazione dei file binari. Una volta installato Ollama, ti servirà spazio aggiuntivo per archiviare i Large Language Model, che possono avere dimensioni da decine a centinaia di GB. Se la tua directory home non ha spazio sufficiente, puoi modificare la posizione di installazione dei file binari e quella di archiviazione dei modelli.

Modifica della posizione di installazione

Per installare l'applicazione Ollama in una posizione diversa dalla tua directory home, avvia il programma di installazione con il seguente flag

OllamaSetup.exe /DIR="d:\some\location"

Modifica della posizione dei modelli

Per modificare la posizione in cui Ollama archivia i modelli scaricati, invece di utilizzare la tua directory home, imposta la variabile d'ambiente OLLAMA_MODELS nel tuo account utente.

1. Avvia l'applicazione Impostazioni (Windows 11) o Pannello di controllo (Windows 10) e cerca variabili d'ambiente.

2. Fai clic su Modifica le variabili d'ambiente per il tuo account.

3. Modifica o crea una nuova variabile per il tuo account utente denominata OLLAMA_MODELS, impostando come valore il percorso in cui desideri archiviare i modelli

4. Fai clic su OK/Applica per salvare.

Se Ollama è già in esecuzione, chiudi l'applicazione dalla barra delle applicazioni e riavviala dal menu Start, oppure da un nuovo terminale avviato dopo aver salvato le variabili d'ambiente.

Accesso all'API

Ecco un esempio rapido che mostra l'accesso all'API da powershell

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

Risoluzione dei problemi

Ollama su Windows archivia i file in diverse posizioni. Puoi visualizzarle nella finestra di Explorer premendo <Ctrl>+R e digitando:

• explorer %LOCALAPPDATA%\Ollama contiene i log e gli aggiornamenti scaricati
  • app.log contiene i log più recenti dell'applicazione GUI
  • server.log contiene i log più recenti del server
  • upgrade.log contiene i log di output degli aggiornamenti
• explorer %LOCALAPPDATA%\Programs\Ollama contiene i file binari (il programma di installazione aggiunge questo percorso al PATH del tuo utente)
• explorer %HOMEPATH%\.ollama contiene i modelli e la configurazione
• explorer %TEMP% contiene i file eseguibili temporanei in una o più directory ollama*

Disinstallazione

Il programma di installazione di Ollama per Windows registra un'applicazione di disinstallazione. Alla voce Aggiungi o rimuovi programmi nelle Impostazioni di Windows, puoi disinstallare Ollama.

Note

Se hai modificato la posizione di OLLAMA_MODELS, il programma di installazione non rimuoverà i modelli scaricati

CLI autonomo

Il modo più semplice per installare Ollama su Windows è utilizzare il programma di installazione OllamaSetup.exe. Viene installato nel tuo account senza richiedere i privilegi di amministratore. Aggiorniamo Ollama regolarmente per supportare i modelli più recenti, e questo programma di installazione ti aiuterà a rimanere aggiornato.

Se desideri installare o integrare Ollama come servizio, è disponibile un file zip autonomo ollama-windows-amd64.zip che contiene solo la CLI di Ollama e le dipendenze delle librerie GPU per Nvidia. A seconda dell'hardware in tuo possesso, potresti anche dover scaricare ed estrarre pacchetti aggiuntivi nella stessa directory:

• AMD GPU: ollama-windows-amd64-rocm.zip
• MLX (CUDA): ollama-windows-amd64-mlx.zip

Questo permette di integrare Ollama in applicazioni esistenti, o di eseguirlo come servizio di sistema tramite ollama serve con strumenti come NSSM.

Note

Se stai effettuando l'aggiornamento da una versione precedente, devi prima rimuovere le vecchie directory.