访问官网
Github
Huggingface项目介绍：Mistral-7B-Instruct-v0.3-GGUF
项目背景
Mistral-7B-Instruct-v0.3-GGUF是由Mistral AI开发的一款高质量的文本生成模型，其基础模型为Mistral。本项目的主要目标是提供一个关注指令跟随能力的模型，该版本在功能支持和使用场景上进行了进一步优化，使其成为一个更为实用的助手工具。Bartowski基于llama.cpp为该模型进行了量化处理。本项目于2024年5月22日正式发布，具备广泛的通用性。
模型特点
-
指令调优： Mistral 7B Instruct v0.3是一款经过指令优化的模型，能够有效跟随用户的输入指令，提供相关的文本输出。
-
功能调用支持： 该版本引入了功能调用的支持，这意味着用户可以通过模型进行更复杂的操作。这项功能的支持源于词汇表的扩展与新标记器的引入。
-
更新细节： 与之前的版本（v0.2）相比，v0.3对词汇表进行了扩展（从32000增加到32768），并使用了新的标记器。
技术细节
模型的提示模板采用Mistral Instruct预设格式。在实现上，模型接收经过特定格式化的提示信息。支持的功能调用标记包括TOOL_CALLS、AVAILABLE_TOOLS和TOOL_RESULTS。
该模型维持了与v0.2相同的上下文长度，为32768个单位。
特别感谢
特别感谢Georgi Gerganov及其团队在llama.cpp项目上的贡献，以及Kalomaze、Dampf和turboderp等人在数据集上的工作，这些数据用于计算所有尺寸的imatrix。
免责声明
需要注意的是，LM Studio不是此社区模型的创建者或拥有者，所有模型均由第三方创建和提供。使用者需理解社区模型可能会生成冒犯性、有害、不准确或具有误导性的内容。LM Studio对模型的准确性、可靠性或效用不作任何担保。用户需对使用这些模型所导致的任何后果自行负责。
