NVIDIA/garak helps add AI capability without starting from a blank model stack

Описание и применение

NVIDIA/garak — это открытый инструмент для сканирования уязвимостей больших языковых моделей (LLM). Он автоматически проверяет модели на наличие известных атак, утечек данных и небезопасных поведений, предоставляя детальные отчёты и рекомендации по их устранению. Проект сочетает методы искусственного интеллекта и кибербезопасности, позволяя разработчикам и исследователям быстро оценивать и повышать надёжность своих LLM.

Задача

NVIDIA/garak helps add AI capability without starting from a blank model stack.

Результат

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.

Рабочий процесс

• prototype AI features
• build RAG or agent workflows
• evaluate model tooling

Доказательства

the LLM vulnerability scanner

Источник