#合并方法
Llama-3.1-70B-Instruct-lorablated - Llama 3.1 70B的未删减版本与高效LoRA技术的应用
应用程序开源项目合并方法模型Huggingface模型适配量化GithubLlama 3.1
Llama 3.1 70B的未删减模型采用LoRA技术,实现了高效的模型融合。项目通过abliteration和任务算术技术创新地处理LoRA适配器,确保模型的完全开放性和高水平输出。在角色扮演等多功能应用中表现出色。该项目得到了@grimjim和@FailSpy的技术支持,并提供了详细的量化与配置指南,经过多次测试验证有效。用户可使用提供的命令轻松复现模型。
bigyi-15b - 合并模型技术的进步:探索创新设计
bigyi-15b开源项目上下文合并方法模型语言模型HuggingfacemergekitGithub
Bigyi-15b融合了若干预训练语言模型,利用mergekit工具及passthrough合并方法,以01-ai/Yi-9B为核心,具备4k上下文处理能力。此模型增强了在多应用场景中的表现,比如复杂数值计算与自然语言生成,同时优化了信息匹配准确性。