热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#Qwen2-7B-Instruct-abliterated
Qwen2-7B-Instruct-abliterated - 权重正交化在文本生成模型性能中的应用
Qwen2-7B-Instruct-abliterated
Huggingface
开源项目
模型
transformers
Github
模型评估
大语言模型
权重正交化
本项目通过利用failspy的笔记本对Qwen2-7B-Instruct模型进行权重正交化优化,旨在削弱模型的强拒绝方向。尽管模型在优化后可能仍会出现拒绝请求或误解意图的情况,其在ARC、Winogrande等数据集上的性能仍保持高水平。使用lm-evaluation-harness 0.4.2进行评估,结果显示在ARC、GSM8K、HellaSwag等数据集上的表现优异,适合相关应用。
1
1
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号