Loading page...Загружаем страницу...正在加载页面...
AtlasRepo

intel/auto-round

**intel/auto-round** — современный алгоритм квантования, позволяющий выполнять высокоточную инференцию больших языковых моделей в низкоразрядных форматах на CPU

Первоисточник