Ollama se ejecuta como una aplicación nativa de Windows, incluyendo soporte para GPU NVIDIA y AMD Radeon. Después de instalar Ollama para Windows, Ollama se ejecutará en segundo plano y la línea de comandos ollama estará disponible en cmd, powershell o tu aplicación de terminal favorita. Como de costumbre, la API de Ollama se servirá en http://localhost:11434.

Requisitos del sistema

• Windows 10 22H2 o más reciente, Home o Pro
• Controladores NVIDIA 551.61 o más recientes si tienes una tarjeta NVIDIA
• Pila de controladores ROCm v7 / compatible con HIP7 para aceleración ROCm, o un controlador AMD Radeon compatible con Vulkan para aceleración Vulkan

Ollama utiliza caracteres Unicode para la indicación de progreso, que pueden mostrarse como cuadrados desconocidos en algunas fuentes de terminal antiguas en Windows 10. Si ves esto, intenta cambiar la configuración de fuentes de tu terminal.

Nota

Algunos sistemas RDNA2 / Radeon RX 6000, incluyendo tarjetas de la clase RX 6800, pueden no exponer ROCm v7 en los controladores AMD actuales de Windows. Vulkan está habilitado de forma predeterminada y es la alternativa recomendada para estos sistemas. Si un sistema combinado de iGPU/dGPU selecciona una iGPU Vulkan inestable, establece la variable GGML_VK_VISIBLE_DEVICES en el índice de la GPU discreta.

Requisitos del sistema de archivos

La instalación de Ollama no requiere privilegios de administrador, y se instala en tu directorio de usuario de forma predeterminada. Necesitarás al menos 4 GB de espacio para la instalación de los binarios. Una vez que hayas instalado Ollama, necesitarás espacio adicional para almacenar los modelos de lenguaje grande, que pueden tener un tamaño de decenas a cientos de GB. Si tu directorio de usuario no tiene suficiente espacio, puedes cambiar la ubicación de instalación de los binarios y la ubicación de almacenamiento de los modelos.

Cambiar la ubicación de instalación

Para instalar la aplicación Ollama en una ubicación diferente a tu directorio de usuario, inicia el instalador con el siguiente parámetro

OllamaSetup.exe /DIR="d:\some\location"

Cambiar la ubicación de los modelos

Para cambiar la ubicación donde Ollama almacena los modelos descargados en lugar de usar tu directorio de usuario, establece la variable de entorno OLLAMA_MODELS en tu cuenta de usuario.

1. Inicia la aplicación Configuración (Windows 11) o Panel de control (Windows 10) y busca variables de entorno.

2. Haz clic en Editar variables de entorno para tu cuenta.

3. Edita o crea una nueva variable para tu cuenta de usuario llamada OLLAMA_MODELS con la ruta donde quieras almacenar los modelos

4. Haz clic en Aceptar/Aplicar para guardar.

Si Ollama ya se está ejecutando, sal de la aplicación de la bandeja del sistema y vuelve a iniciarla desde el menú Inicio, o desde una terminal nueva iniciada después de guardar las variables de entorno.

Acceso a la API

Aquí tienes un ejemplo rápido que muestra el acceso a la API desde powershell

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

Solución de problemas

Ollama en Windows almacena archivos en varias ubicaciones diferentes. Puedes verlas en la ventana del explorador presionando <Ctrl>+R y escribiendo:

• explorer %LOCALAPPDATA%\Ollama contiene registros y actualizaciones descargadas
  • app.log contiene los registros más recientes de la aplicación de interfaz gráfica
  • server.log contiene los registros más recientes del servidor
  • upgrade.log contiene el registro de salida de las actualizaciones
• explorer %LOCALAPPDATA%\Programs\Ollama contiene los binarios (el instalador agrega esta ruta a la variable PATH de tu usuario)
• explorer %HOMEPATH%\.ollama contiene los modelos y la configuración
• explorer %TEMP% contiene archivos ejecutables temporales en uno o más directorios ollama*

Desinstalación

El instalador de Ollama para Windows registra una aplicación de desinstalación. En la sección Agregar o quitar programas de la Configuración de Windows, puedes desinstalar Ollama.

Nota

Si has cambiado la ubicación de OLLAMA_MODELS, el instalador no eliminará los modelos descargados.

CLI independiente

La forma más sencilla de instalar Ollama en Windows es usar el instalador OllamaSetup.exe. Se instala en tu cuenta sin necesidad de privilegios de administrador. Actualizamos Ollama regularmente para dar soporte a los modelos más recientes, y este instalador te ayudará a mantenerte al día.

Si deseas instalar o integrar Ollama como un servicio, está disponible un archivo zip independiente ollama-windows-amd64.zip que solo contiene la CLI de Ollama y las dependencias de bibliotecas GPU para Nvidia. Dependiendo de tu hardware, también puede que necesites descargar y extraer paquetes adicionales en el mismo directorio:

• AMD GPU: ollama-windows-amd64-rocm.zip
• MLX (CUDA): ollama-windows-amd64-mlx.zip

Esto permite incrustar Ollama en aplicaciones existentes, o ejecutarlo como un servicio del sistema mediante ollama serve con herramientas como NSSM.

Nota

Si estás actualizando desde una versión anterior, debes eliminar primero los directorios antiguos.