#控制向量
repeng - 用于表示工程的Python库,快速生成控制向量
repeng控制向量表示工程Python库Mistral-7BGithub开源项目
repeng是一个用于表示工程的Python库,可在不到一分钟内生成控制向量,适用于各类AI和机器学习模型。支持通过预训练模型快速训练,并可生成定制数据集和进行推理。支持向量导出并在其他量化模型中使用,但不支持MoE模型。详情参阅官方博客和文档。
creative-writing-control-vectors-v3.0 - 创意写作控制向量助力语言模型精准生成
模型GGUF开源项目Huggingfacellama.cpp创意写作Github控制向量LLM
该项目为llama.cpp提供GGUF格式的预生成控制向量,实现对大型语言模型的精确调控。控制向量包括去偏置向量和正负轴向量,可调整语言风格、叙事方式和人物塑造。用户能灵活设置控制向量的应用强度,以达成理想的写作效果。这一工具支持多种大型语言模型,为创意写作提供精准且灵活的控制手段。