RelayPlane/proxy helps add AI capability without starting from a blank model stack

Описание и применение

RelayPlane/proxy — open‑source прокси‑слой для снижения расходов на использование ИИ‑моделей (экономия до 80 % за счёт интеллектуального роутинга запросов между 11 провайдерами). Он предоставляет готовую панель управления, политический движок и типичные интеграционные примеры, что делает его удобным решением для быстрого прототипирования AI‑фич, построения RAG‑ или агентных воркфлоу и сравнения разных моделей. Готовность к production — средняя: проект подходит для внутренних сервисов и PoC, однако перед выводом в продакшн рекомендуется проверить зависимости, актуальность безопасности и наличие активных мейнтейнеров.

Задача

RelayPlane/proxy helps add AI capability without starting from a blank model stack.

Результат

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.

Рабочий процесс

• prototype AI features
• build RAG or agent workflows
• evaluate model tooling

Доказательства

Open source cost intelligence proxy for AI agents. Cut costs ~80% with smart model routing. Dashboard, policy engine, 11 providers. MIT licensed.

Источник