Garak

Freemium

garak是一个开源的LLM漏洞扫描器。它使用插件和提示测试大型语言模型的安全性。评估您的模型安全性。

garak是您用于评估大型语言模型（LLM）安全性的开源解决方案。它充当漏洞扫描器，帮助您评估LLM模型或系统的安全状况。该工具提供了一套全面的插件，包含数十个插件和数千个旨在探测弱点的提示。您可以使用garak在潜在的安全风险被利用之前主动识别它们。其主要目标是提高LLM安全性的标准，使强大的安全实践能够被所有人使用。该软件由NVIDIA和社区贡献者积极维护，确保其与新兴威胁保持同步。

开始使用garak非常简单。您可以轻松安装它，并通过用户指南和参考文档找到广泛的支持。命令行界面设计得用户友好。对于社区支持和讨论，garak Discord服务器非常活跃，GitHub问题会得到及时响应。NVIDIA还提供电子邮件联系方式以获得进一步的帮助。许多组织已成功将garak集成到其开发工作流程中，并且它在独立评论中经常被引用为行业标准。您应该考虑将garak纳入您的LLM安全策略中。

该项目得到了NVIDIA的支持，这反映了它在人工智能安全领域的重要性。作为一个以研究为主导的倡议，它在不断发展。网站上提供的内容根据Apache 2.0许可证提供，促进开放访问和协作。通过使用garak，您为更安全的AI生态系统做出了贡献。您将能够针对广泛的已知漏洞测试您的LLM，确保更好地防范提示注入、数据泄露和其他常见的LLM漏洞。这种主动方法对于在AI应用程序中建立信任和可靠性至关重要。