热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#动态测试
ps-fuzz - 加强生成式AI应用的安全评估工具
Prompt Fuzzer
GenAI
安全评估
动态测试
LLM
Github
开源项目
Prompt Fuzzer 是一个开源工具,用于评估和强化生成式人工智能(GenAI)应用的系统提示安全性。它通过模拟各类基于大型语言模型(LLM)的动态攻击,提供详细的安全评估,帮助识别并修复潜在漏洞。该工具根据应用的独特配置和领域调整测试,并提供一个交互式的 Playground 界面,便于迭代改进系统提示。Prompt Fuzzer 还支持多线程测试和多种 LLM 提供商的集成,确保全面的测试覆盖。其高效功能,使其成为开发高安全性 GenAI 应用的关键工具。
1
1
相关文章
ps-fuzz:一款强大的生成式AI应用安全测试工具
3 个月前
ps-fuzz入门学习资料 - 提升GenAI应用安全性的交互式工具
2 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号