Show HN: Relay – a self-hosted LLM gateway with eval-gated routing

Описание и применение

Relay — это самодостаточный шлюз LLM, позволяющий быстро добавить ИИ‑возможности в проекты без необходимости создавать модель с нуля. Типичный сценарий использования — прототипирование AI‑фич, построение RAG‑ или агентных workflow‑ов и оценка инструментов моделей. Проект пока имеет средний уровень готовности к production: подходит для внутренних прототипов и экспериментов, но перед внедрением в продакшн требуется проверьев, поддержки, документации и частоты релизов обязательна.

Применение в работе

Show HN: Relay – a self-hosted LLM gateway with eval-gated routing helps add AI capability without starting from a blank model stack.

• prototype AI features
• build RAG or agent workflows
• evaluate model tooling

Ограничения и замечания

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.