#红队测试
相关项目
PyRIT
PyRIT是Microsoft开发的开源AI安全评估框架，用于自动化测试生成式AI模型的安全性。它帮助研究人员和工程师评估AI系统对虚假信息、滥用和违规内容的抵抗能力。PyRIT支持建立基准、比较不同版本的模型性能，并提供数据以检测安全性能变化。这使开发者能持续改进AI系统的安全防护措施，提高生成式AI的可靠性和安全性。
hh-rlhf
hh-rlhf项目开源两类数据集:AI助手有用性和安全性的人类偏好数据,以及人工生成的红队测试数据。这些数据集旨在改进AI助手的性能和安全性。数据包含敏感话题,仅供研究使用。项目提供数据格式说明和使用指南,支持AI安全研究。
Mindgard
Mindgard作为专业的AI安全测试平台，提供自动化AI红队测试服务。该平台能快速识别和缓解AI系统安全漏洞，帮助企业降低AI网络风险，促进AI安全部署。由英国AI安全专家开发的Mindgard拥有先进AI攻击库，可全面测试各类AI模型和应用，涵盖生成式AI和大型语言模型。平台不仅提升AI安全测试效率，还可无缝集成企业MLOps流程，持续监控AI安全状况。
commando-vm
CommandoVM是一款面向Windows平台的安全工具集，专为渗透测试和红队行动设计。它集成了多种Kali Linux未包含的攻击工具，凸显Windows在安全测试中的独特优势。项目提供完整安装指南，包括禁用Windows Defender的步骤。系统要求为Windows 10、60GB硬盘和2GB内存，建议使用更高配置。由Mandiant公司专家开发，CommandoVM是一个功能强大的网络安全测试环境。