#Mistral-7B-Instruct-v0.2
Mistral-7B-Instruct-v0.2-AWQ - Mistral-7B-Instruct-v0.2改进版指令微调大语言模型
模型AI推理AWQ模型量化Mistral-7B-Instruct-v0.2Github文本生成Huggingface开源项目
Mistral-7B-Instruct-v0.2是Mistral AI团队开发的改进版指令微调大语言模型。基于Mistral-7B-v0.1架构,采用分组查询注意力和滑动窗口注意力技术。支持[INST]和[/INST]标记的指令格式,提供聊天模板功能。模型性能出色,但缺乏审核机制。适用于需要无限制输出的应用场景,展示了基础模型易于微调并获得优秀性能。
Mistral-7B-Instruct-v0.2-llamafile - 高效多功能的开源语言模型
Github模型大型语言模型指令微调开源项目AI模型HuggingfaceMistral-7B-Instruct-v0.2自然语言处理
Mistral-7B-Instruct-v0.2是Mistral AI公司开发的改进版指令微调语言模型，拥有70亿参数。该模型支持多种量化格式和llamafile格式，可在CPU和GPU上高效运行，适用于对话、文本生成等多种场景。用户可根据设备选择合适的量化版本，通过命令行或Python代码轻松使用。模型在多项任务中表现优异，为开发者和研究者提供了强大的开源语言处理工具。