#mini-magnum-12b

mini-magnum-12b-v1.1模型的量化优化版本，采用iMatrix技术和fp16 GGUF进行量化处理。经验证可在llama.cpp、text-generation-web-ui等主流平台稳定运行，支持Flash Attention加速，并提供多种优化配置方案。项目包含详细的性能对比数据和部署指南，方便开发者快速上手使用。