#pyvene

pyvene是一个用于干预PyTorch模型内部状态的开源Python库。它支持在多个位置和任意神经元集合上进行干预，适用于模型编辑、引导、鲁棒性和可解释性等AI领域。该库兼容所有PyTorch模型，无需重新定义模型类，可轻松实现对各种架构的干预。pyvene目前处于活跃开发阶段。