NVIDIA Garak
免费NVIDIA Garak 是一款专为大语言模型设计的开源漏洞扫描与安全评估工具，帮助开发者识别潜在风险与弱点。
3 次使用
English
关于此工具
Garak（又称 NVIDIA Garak）是一款开源的 LLM 安全评估与红队化测试工具，专注于探测大语言模型在实际应用中可能暴露的安全隐患。它能够模拟多种攻击手法，包括提示注入、数据泄露、虚假信息生成、恶意代码输出以及越狱攻击等，以系统化方式揭示模型的脆弱性。相比传统的静态检测工具，Garak 结合了静态、动态与自适应探测方法，让开发团队能够更全面地理解模型在不同环境下的表现。无论是研究人员、企业安全团队还是开发者，都能通过 Garak 快速部署命令行工具，对 Hugging Face、OpenAI、Replicate、Cohere、NIM 等主流模型进行深入扫描，提升 AI 系统的稳健性与可信度。
作为一款完全免费的工具，Garak 不仅提供丰富的插件化扩展，还支持日志追踪与 JSON 报告输出，便于安全分析与合规审查。其社区活跃，已有众多安全研究人员和开发者贡献插件与改进方案，为 LLM 安全生态提供了坚实基础。
工具截图
核心功能(5)
全面的漏洞扫描
支持检测提示注入、数据泄露、错误信息生成、恶意代码输出等多种 LLM 弱点，覆盖面广。
插件化架构
提供灵活的探测与检测插件，可扩展自定义测试方法，满足不同研究与企业需求。
多模型兼容
兼容 Hugging Face、OpenAI、Replicate、Cohere、NIM 等主流模型及 REST 接口，应用场景多样。
命令行工具
通过 pip 快速安装，支持 Linux 与 macOS 环境，便于开发与安全团队集成到工作流。
详细日志与报告
生成 JSONL 格式报告与日志，支持后续分析与合规审查。
应用场景(5)
常见问题(7)
QNVIDIA Garak 是免费的吗？
Garak 完全开源且免费，用户可直接通过 pip 安装，无需额外付费或订阅计划。
QNVIDIA Garak 可以检测哪些漏洞？
它能识别提示注入、数据泄露、幻觉生成、恶意代码输出和越狱攻击等多种大模型漏洞。
QNVIDIA Garak 支持哪些模型平台？
Garak 已支持 Hugging Face、OpenAI、Replicate、Cohere、NIM 等主流 LLM 平台及 REST API 接口。
QNVIDIA Garak 适合谁使用？
它适合安全研究员、企业风控团队和开发者，用于在上线前验证模型安全性和合规性。
QNVIDIA Garak 和传统安全工具有什么区别？
相比传统漏洞扫描器，Garak 专注于 LLM 特有的弱点，类似于 nmap 或 Metasploit 在大模型领域的版本。
QNVIDIA Garak 生成的报告怎么看？
运行结束后会生成 JSONL 格式报告，包含每次探测的结果和失败率，方便进一步分析与合规审查。
QNVIDIA Garak 是否安全可靠？
Garak 在本地运行并开源透明，不会上传你的模型数据，用户可放心在企业和研究环境中使用。
替代工具推荐
替代工具推荐
为您推荐功能相似或互补的AI工具，帮助您找到更适合的解决方案
免费
