#Mistral 7b

Ollama-voice-mac是一个离线语音助手，利用Ollama和Whisper语音识别模型工作。通过安装Ollama、Mistral 7b和OpenAI Whisper Model，即可在Mac上运行。该项目基于maudoin的工作进行了改进，兼容Mac，适用于macOS 14 Sonoma及以上版本。通过下载更高质量的系统语音，如'Zoe (Premium)'，可提升语音质量。用户也可以通过修改assistant.yaml文件来支持其他语言，方便多语言使用。

Unsloth技术助力Mistral 7b在内存减少70%的同时实现5倍微调速度提升。项目提供多个适合初学者的Google Colab笔记，只需添加数据集并运行，便可生成更快的微调模型，支持导出到GGUF、vLLM或上传Hugging Face。此方案有效优化了Gemma 7b、Mistral 7b、Llama-2 7b等模型的性能和内存使用，提升模型微调效率。