NVIDIA/garak

Описание и применение

NVIDIA/garak — это открытый инструмент для сканирования уязвимостей больших языковых моделей (LLM). Он автоматически проверяет модели на наличие известных атак, утечек данных и небезопасных поведений, предоставляя детальные отчёты и рекомендации по их устранению. Проект сочетает методы искусственного интеллекта и кибербезопасности, позволяя разработчикам и исследователям быстро оценивать и повышать надёжность своих LLM.

Применение в работе

NVIDIA/garak helps add AI capability without starting from a blank model stack.

• prototype AI features
• build RAG or agent workflows
• evaluate model tooling

Ограничения и замечания

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.