Show HN: Relay – a self-hosted LLM gateway with smart routing and request pacing
Описание и применение
Relay – это самодостаточный шлюз для LLM с интеллектуальной маршрутизацией и регулировкой запросов, позволяющий быстро интегрировать модели в собственные сервисы. Для начала используйте Docker‑образ и настройте переменные окружения, после чего подключите API к вашему приложению. Готовность к продакшн‑использованию средняя: проект обновляется регулярно, но требует проверки зависимостей и поддержки перед масштабированием.
Применение в работе
Show HN: Relay – a self-hosted LLM gateway with smart routing and request pacing may be useful when its README and activity match a concrete workflow.
Ограничения и замечания
Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.
- Источник: hackernews
- Дата записи: 2026-09-22T12:32:33.000Z