higress-group/higress helps add AI capability without starting from a blank model stack

Описание и применение

higress — это open‑source AI‑ориентированный API‑gateway, разработанный для бесшовной интеграции моделей машинного обучения и сервисов в инфраструктуру backend. Он предоставляет гибкую маршрутизацию запросов, поддержку плагинов и нативные возможности AI (например, предобработку, инференс и пост‑обработку) прямо на уровне шлюза, упрощая построение масштабируемых и безопасных микросервисных систем. Проект подходит для разработчиков, которым нужен высокопроизводительный шлюз с встроенными AI‑функциями.

Задача

higress-group/higress helps add AI capability without starting from a blank model stack.

Результат

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.

Рабочий процесс

• prototype AI features
• build RAG or agent workflows
• evaluate model tooling

Доказательства

🤖 AI Gateway | AI Native API Gateway

Источник