https://github.com/NVIDIA/garak
- 总 Star 数量
- 8.6k
- 最近更新时间
- 2026-07-27
- 开源时间
- 2023-05-10
项目描述
garak 是一款 LLM 安全漏洞扫描工具，用于探测大语言模型的幻觉、数据泄露、提示注入、错误信息、毒性生成和越狱等弱点。它结合静态、动态和自适应探测，支持多种模型后端，类似于 nmap 和 Metasploit 在网络安全中的作用。适用于 AI 系统的红队测试与安全评估。
2026.07.22–2026.07.28
2026.07.22–2026.07.28
garak 是一款 LLM 安全漏洞扫描工具，用于探测大语言模型的幻觉、数据泄露、提示注入、错误信息、毒性生成和越狱等弱点。它结合静态、动态和自适应探测，支持多种模型后端，类似于 nmap 和 Metasploit 在网络安全中的作用。适用于 AI 系统的红队测试与安全评估。