NVIDIA/TransformerEngine

NVIDIA/TransformerEngine — это открытая библиотека, оптимизированная для ускорения Transformer‑моделей на GPU NVIDIA, включая поддержку 8‑битных и 4‑битных форм