#Mistral-7B-Instruct-v0.3
Mistral-7B-Instruct-v0.3 - Mistral-7B-Instruct-v0.3模型的指令微调与功能调用概述
Github模型功能调用开源项目Huggingface模型微调Mistral-7B-Instruct-v0.3文本生成Open LLM Leaderboard
Mistral-7B-Instruct-v0.3模型经过指令微调,支持32768词汇和v3 Tokenizer,并具备功能调用能力。在多个评测如AI2 Reasoning Challenge和HellaSwag中展示良好表现。该模型支持多种使用方式,包括简单安装、下载指南及在Hugging Face上的文本生成,利用CLI命令与模型对话,或调用自定义功能。尽管缺乏内容审查机制,Mistral团队正与社区合作,以确保输出适合多种环境。
Mistral-7B-Instruct-v0.3-AWQ - Mistral模型AWQ量化版支持高级函数调用和三代分词
AWQ量化Mistral-7B-Instruct-v0.3Github模型量化自然语言处理Huggingface开源项目模型大语言模型
作为Mistral-7B-Instruct-v0.3的AWQ量化版本,该模型采用4比特压缩技术,在提供快速推理性能的同时保持了原有精度。通过扩展词汇表和引入第三代分词技术,增强了模型的理解能力。目前已集成到主流AI框架平台,可在搭载NVIDIA显卡的Linux或Windows系统上运行。
Mistral-7B-Instruct-v0.3-GPTQ - Mistral 7B指令模型的4位量化优化版本
HuggingfaceGPTQ量化开源项目模型Github函数调用大语言模型指令微调Mistral-7B-Instruct-v0.3
Mistral-7B-Instruct-v0.3是一个经过GPTQ 4位量化的语言模型。基于Mistral-7B-v0.3开发,集成了32768词汇量、v3分词器和函数调用功能。模型可用于创意写作等任务,但由于缺少内容审核机制,在应用环境选择上需要谨慎评估。