Loading page...Загружаем страницу...正在加载页面...
AtlasRepo

Out-of-core LLM inference engine written from scratch in Rust

Out‑of‑core LLM inference engine, написанный полностью на Rust, позволяет добавить возможности генеративного ИИ, не собирая стек моделей «с нуля», и подходит дл

Первоисточник