#节省内存
zephyr-sft-bnb-4bit - 通过Unsloth技术快速优化Mistral等模型的内存使用
Github开源项目性能优化微调模型MistralHuggingfaceUnsloth节省内存
该项目使用Unsloth技术实现了Mistral、Gemma和Llama等模型的快速微调,显著降低内存使用率。用户可以通过简单的操作获得优化后的模型,支持导出为GGUF、vLLM或上传至Hugging Face。此方法特别适用于内存要求高的模型,并免费提供初学者友好的工具。
Mistral-Nemo-Instruct-2407-bnb-4bit - 高效LLM微调框架提速2-5倍并减少70%内存使用
Github开源项目大语言模型微调模型Huggingface加速训练Unsloth节省内存
该项目为Mistral、Gemma、Llama等大语言模型提供高效微调框架。利用Unsloth技术,训练速度提升2-5倍,内存使用减少70%。项目提供多个免费Google Colab笔记本,支持Llama-3 8b、Gemma 7b、Mistral 7b等模型训练。框架操作简单,适合初学者使用,支持将微调模型导出为GGUF、vLLM格式或上传至Hugging Face平台。