intel/auto-round
**intel/auto-round** — современный алгоритм квантования, позволяющий выполнять высокоточную инференцию больших языковых моделей в низкоразрядных форматах на CPU
Первоисточник**intel/auto-round** — современный алгоритм квантования, позволяющий выполнять высокоточную инференцию больших языковых моделей в низкоразрядных форматах на CPU
Первоисточник