Два проєкти, один шаблон
Навіщо розгортати Ollama та Open WebUI самому
Ollama підтягує відкриті моделі й віддає їх за локальним API. Однієї команди досить, щоб запустити Llama, Qwen, Gemma, DeepSeek чи gpt-oss. Endpoint на порту 11434 говорить форматом OpenAI, тож більшість наявного клієнтського коду спрямовується на нього простою зміною URL. Проєкт має ліцензію MIT.
Open WebUI — це чат інтерфейс, який іде в тому самому шаблоні. Він бере на себе входи, завантаження документів для RAG і права для кожної групи. Ще він говорить з будь-яким OpenAI сумісним backend, тож за ним не обов'язково має стояти саме Ollama. Коли ти запускаєш обидва на власному VPS, prompts, завантажені документи й ваги моделей лишаються на диску, який орендуєш ти, а не якийсь вендор.