Dva projekty, jedna šablona
Proč si hostovat Ollamu a Open WebUI sami
Ollama stahuje otevřené modely a servíruje je za lokálním API. Jediný příkaz rozjede Llamu, Qwen, Gemmu, DeepSeek nebo gpt-oss. Endpoint na portu 11434 mluví formátem OpenAI, takže většina existujícího klientského kódu na něj míří po změně URL. Projekt je pod licencí MIT.
Open WebUI je chatovací rozhraní, které přichází ve stejné šabloně. Řeší přihlašování, nahrávání dokumentů pro RAG i oprávnění po skupinách. Umí mluvit i s jakýmkoli backendem kompatibilním s OpenAI, takže za ním nemusí stát jenom Ollama. Když si obojí provozujete na vlastním VPS, prompty, nahrané dokumenty i váhy modelů zůstávají na disku, který si pronajímáte vy, ne dodavatel.