pyreft
pyreft是一个开源的Python库,支持表征微调(ReFT)方法。它可与HuggingFace上的预训练语言模型配合使用,通过配置文件设置参数,并支持将结果分享到HuggingFace。pyreft提供了参数高效的微调方法,可针对特定时间步和表征进行干预,区别于LoRA等其他PEFT方法。该库还支持与LoRA结合,并提供了便捷的数据处理和训练功能。
