NVIDIA/TensorRT-LLM
TensorRT‑LLM — это открытая библиотека NVIDIA, предоставляющая удобный Python‑API для описания больших языковых моделей и реализующая передовые оптимизации, поз
ПервоисточникTensorRT‑LLM — это открытая библиотека NVIDIA, предоставляющая удобный Python‑API для описания больших языковых моделей и реализующая передовые оптимизации, поз
Первоисточник