Ollama permite ejecutar modelos de IA local desde la propia máquina o exponer su API para usarla desde otros equipos de la red.
Continuar leyendo «Instalar Ollama en Ubuntu y permitir conexiones desde otra máquina»
Instalar Ollama en Ubuntu, probar la API local y configurar OLLAMA_HOST para permitir conexiones desde otros equipos de la red.
Ollama permite ejecutar modelos de IA local desde la propia máquina o exponer su API para usarla desde otros equipos de la red.
Continuar leyendo «Instalar Ollama en Ubuntu y permitir conexiones desde otra máquina»
Pasar una GPU NVIDIA a una VM de Proxmox 9 para preparar un entorno de IA local con Ubuntu.
Para usar una GPU NVIDIA dentro de una VM, Proxmox tiene que poder pasar la tarjeta completa al invitado mediante PCI passthrough.
Continuar leyendo «Pasar una GPU NVIDIA a una VM en Proxmox 9 para IA local»
Instalar el driver NVIDIA en Ubuntu 22.04, 24.04 o 26.04, reiniciar y comprobar la GPU con nvidia-smi como base para IA local.
Si vas a ejecutar modelos de IA en local en Ubuntu 22.04, 24.04 o 26.04, lo primero es que el sistema vea bien la tarjeta NVIDIA.
Continuar leyendo «Preparar Ubuntu 22.04, 24.04 y 26.04 con NVIDIA para IA local»