Gemma-2-2b-it-GGUF 项目介绍
Gemma-2-2b-it-GGUF 是由 Google 开发的一款新型文本生成模型,属于 Gemma 系列,基于较早的 Gemini 技术。该模型专为普通用途设计,适合于边缘计算和低功耗设备使用,同时可以用作自动补全或草稿生成工具。
模型特点
- 参数规模:仅有 20 亿个参数,因此在处理上相对轻量。
- 训练数据:模型通过 2 万亿个令牌的丰富数据集进行训练,数据集中包括了多种来源的文本:
- 网页文档:多样的网页文本提供了丰富的语言风格、主题和词汇,大部分为英语内容。
- 代码:通过代码训练,模型能更好地理解编程语言的语法和模式,提升生成代码和理解代码相关问题的能力。
- 数学:数学文本的训练帮助模型掌握逻辑推理、符号表示,能够应对数学相关的查询。
模板提示
使用 LM Studio 中的“Google Gemma Instruct”预设。模型接收到的提示格式如下:
<start_of_turn>user
{prompt}<end_of_turn>
<start_of_turn>model
需要注意的是,该模型不支持系统提示。
技术细节
Gemma 2 继承了 1.1 版本中极大的词汇量,有助于多语言及编程能力的提升。其训练比例之高,令其在处理各种语言和编码任务时表现优异。
使用许可
访问该模型需遵守 Google 的使用许可协议。在 Hugging Face 平台访问该模型时,用户需要登录账户并同意相关许可。
致谢
特别感谢 Georgi Gerganov 和 llama.cpp 团队的努力,Kalomaze 和 Dampf 对数据集的贡献,使得该模型的开发成为可能。
免责声明
请注意,LM Studio 并非任何社区模型的创建者、原创者或所有者。每个社区模型均由第三方创建和提供,LM Studio 不对任何社区模型的完整性、真实性、准确性或可靠性提供担保。用户需对使用或访问社区模型负责,并理解社区模型可能生成带有冒犯性、有害、错误或其他不当、欺骗性的内容。