Loading page...Загружаем страницу...正在加载页面...
AtlasRepo

Janas: Run LLMs larger than RAM by streaming experts from SSD

Janas позволяет запускать модели LLM, превышающие объём оперативной памяти, за счёт потоковой загрузки экспертов с SSD. Для практического внедрения сначала инте

Первоисточник