Probar desde otra máquina si Ollama responde por la API

Pruebas rápidas con curl para validar el acceso remoto a Ollama: versión de la API, modelos disponibles y generación de texto desde un equipo cliente.

¿Cómo comprobar desde otra máquina si Ollama responde? Haz una petición con curl a su API para verificar que el servidor es accesible, consultar los modelos disponibles y probar una generación de texto.

Continuar leyendo «Probar desde otra máquina si Ollama responde por la API»

Instalar Ollama en Ubuntu y permitir conexiones desde otra máquina

Instalar Ollama en Ubuntu, probar la API local y configurar OLLAMA_HOST para permitir conexiones desde otros equipos de la red.

Ollama permite ejecutar modelos de IA local desde la propia máquina o exponer su API para usarla desde otros equipos de la red.

Continuar leyendo «Instalar Ollama en Ubuntu y permitir conexiones desde otra máquina»

Pasar una GPU NVIDIA a una VM en Proxmox 9 para IA local

Pasar una GPU NVIDIA a una VM de Proxmox 9 para preparar un entorno de IA local con Ubuntu.

Para usar una GPU NVIDIA dentro de una VM, Proxmox tiene que poder pasar la tarjeta completa al invitado mediante PCI passthrough.

Continuar leyendo «Pasar una GPU NVIDIA a una VM en Proxmox 9 para IA local»

Preparar Ubuntu 22.04, 24.04 y 26.04 con NVIDIA para IA local

Instalar el driver NVIDIA en Ubuntu 22.04, 24.04 o 26.04, reiniciar y comprobar la GPU con nvidia-smi como base para IA local.

Si vas a ejecutar modelos de IA en local en Ubuntu 22.04, 24.04 o 26.04, lo primero es que el sistema vea bien la tarjeta NVIDIA.

Continuar leyendo «Preparar Ubuntu 22.04, 24.04 y 26.04 con NVIDIA para IA local»