Run a private ChatGPT-style UI for local models with Open WebUI

Описание и применение

Open WebUI позволяет развернуть локальную версию ChatGPT-подобного интерфейса, работающего с моделями, размещенными локально. INSTALL: pip install open-webui && open-webui serve, или docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main. MODEL: ollama pull llama3, затем выберите модель в интерфейсе. Резервное копирование volumes open-webui перед обновлением изображения.

Задача

A user wants a polished, self-hosted chat interface that talks to local models without sending prompts or data to a hosted service.

Результат

A private ChatGPT-style interface is running locally, talking to a local Ollama model, with chat history stored in a named volume.

Рабочий процесс

• Install Open WebUI via pip or Docker.
• Run the server or start the container.
• Pull a model with ollama pull llama3.
• Open http://localhost:3000 and create the first account as admin.
• Select the pulled model from the model dropdown in a new chat.

Доказательства

You can get a ChatGPT-style interface that runs on your own machine and talks to local models.

Источник

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Источник

ollama pull llama3

Источник

Do not expose port 3000 to the internet without a reverse proxy and strong passwords.

Источник