Dos proyectos, una plantilla
Por qué alojar Ollama y Open WebUI tú mismo
Ollama descarga modelos abiertos y los sirve detrás de una API local. Un solo comando pone en marcha Llama, Qwen, Gemma, DeepSeek o gpt-oss. El endpoint del puerto 11434 habla el formato de OpenAI, así que casi todo el código de cliente que ya tienes apunta ahí con solo cambiar la URL. El proyecto tiene licencia MIT.
Open WebUI es la interfaz de chat que viene en la misma plantilla. Se encarga de los accesos, de subir documentos para RAG y de los permisos por grupo. También habla con cualquier backend compatible con OpenAI, así que Ollama no tiene por qué ser lo único que hay detrás. Ejecutar ambos en tu propio VPS mantiene los prompts, los documentos subidos y los pesos de los modelos en un disco que alquilas tú y no un proveedor.