hwdsl2/self-hosted-ai-stack

Описание и применение

**hwdsl2/self-hosted-ai-stack** — это готовый набор Docker‑Compose сервисов, позволяющий развернуть полностью локальный AI‑стек (Ollama, LiteLLM, AnythingLLM, Whisper, WhisperLive, Kokoro, Embeddings, Docling и MCP Gateway) с поддержкой NVIDIA CUDA и мульти‑архитектурой amd64/arm64. Он упрощает подключение AI‑ассистентов к реальным инструментам и данным через единый протокол Model Context Protocol, что делает его идеальным решением для построения RAG‑систем, интеграции моделей в существующие бизнес‑процессы и создания собственных серверов‑агентов. Проект уже активно поддерживается (обновления 2026‑06‑24, 107 звёзд, 21 форк), имеет чистый Docker‑интерфейс и достаточно зрелую инфраструктуру, чтобы использовать его в пилотных и production‑окружениях после обычного аудита лицензий и безопасности.

Применение в работе

hwdsl2/self-hosted-ai-stack helps connect AI assistants to real tools and data through a standard protocol.

• connect AI agents to tools
• ship Model Context Protocol servers
• standardize integrations

Ограничения и замечания

High for an OSS candidate: recent activity, adoption, and ecosystem signals are strong enough for a serious pilot.