smg-project/smg helps turn isolated prompts and tools into repeatable agent workflows

Описание и применение

smg‑project/smg — это engine‑agnostic шлюз LLM на Rust, обеспечивающий полную совместимость с API OpenAI и Anthropic для vLLM, TRT‑LLM, TokenSpeed, SGLang, Gemini и др., а также добавляющий gRPC‑pipeline, кэширование KV‑кеша и токенизации, историю чата, Responses API, эмбеддинги, WASM‑плагины и мультитенантную аутентификацию. Типовой сценарий — интеграция шлюза в существующую инфраструктуру для координации многоагентных рабочих процессов, стандартизации инструментов и памяти агентов, что позволяет превращать разрозненные промпты в повторяемые workflows. Благодаря активной разработке (обновлено 2026‑08‑01), 429★/129★, сильным экосистемным сигналам и

Задача

smg-project/smg helps turn isolated prompts and tools into repeatable agent workflows.

Результат

High for an OSS candidate: recent activity, adoption, and ecosystem signals are strong enough for a serious pilot.

Рабочий процесс

• coordinate multi-agent workflows
• add tool-use pipelines
• standardize agent memory

Доказательства

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.

Источник