#对抗性提示

promptbench

基于Pytorch的Python包，提供评估和理解大语言模型的友好API。支持快速模型性能评估、提示工程、对抗性提示评估和动态评估框架。兼容多种模型（如GPT-4、Llama2、BLIP2）和数据集（如GLUE、SQuAD、VQAv2）。适合研究人员和开发者使用与扩展。

advprompter

AdvPrompter是一种针对大语言模型的自适应对抗提示技术。该项目提供完整实现代码，支持Vicuna、Mistral和Llama2等主流模型。AdvPrompter具有易于安装、使用灵活的特点，适用于模型评估和训练。研究人员可利用此工具优化大语言模型性能，提升输出质量。项目还提供了详细的使用说明和配置选项，方便用户进行自定义设置。