2x Tesla p100s, q6_k quant, Qwen 3.8 27B ~60tps
Данный проект предоставляет два Tesla P100, квантовый q6_k и модель Qwen 3.8 27B с производительностью около 60 TPS, что позволяет исследователям и трейдерам бы
ПервоисточникДанный проект предоставляет два Tesla P100, квантовый q6_k и модель Qwen 3.8 27B с производительностью около 60 TPS, что позволяет исследователям и трейдерам бы
Первоисточник