İki proje, tek şablon
Ollama'yı ve Open WebUI'yi neden kendiniz barındırmalısınız
Ollama açık modelleri indirir ve onları yerel bir API'nin arkasından sunar. Tek bir komut Llama'yı, Qwen'i, Gemma'yı, DeepSeek'i ya da gpt-oss'u çalıştırır. 11434 portundaki endpoint OpenAI formatını konuşur, dolayısıyla mevcut istemci kodunun çoğu yalnızca URL değişikliğiyle oraya yönelir. Proje MIT lisanslıdır.
Open WebUI ise aynı şablonda gelen sohbet arayüzüdür. Girişleri, RAG için doküman yüklemeyi ve grup bazlı izinleri üstlenir. Ayrıca OpenAI uyumlu her backend ile konuşur, yani arkasında yalnızca Ollama olmak zorunda değildir. İkisini de kendi VPS'inizde çalıştırmak promptları, yüklenen dokümanları ve model ağırlıklarını bir sağlayıcının değil, sizin kiraladığınız diskte tutar.