Deploying LLM Models on a Kubernetes Cluster with GPU Support: A Tutorial

Создайте легковесный сервис на FastAPI, который отправляет запросы к Oxlo.ai для инференса LLM, разверните его в Kubernetes на CPU‑нодах, освобождая GPU‑ноды дл