访问官网
Huggingface
文档项目概述
Gemma-1.1-7b-it是Google推出的一个全新的大语言模型,它是Gemma模型家族中的指令微调版本。这个模型基于与Gemini相同的研究和技术打造,是一个轻量级但功能强大的开源模型。
模型特点
Gemma-1.1-7b-it具备以下显著特点:
- 采用全新的RLHF训练方法,在质量、编码能力、事实性、指令遵循和多轮对话等方面都有显著提升
- 修复了多轮对话中的bug,避免了回答总是以"Sure,"开头的问题
- 采用decoder-only架构,专注于英语文本生成任务
- 模型参数量为7B,相对轻量级,便于部署
- 支持多种任务如问答、摘要和推理等
应用场景
该模型适用于以下场景:
- 文本生成和创作
- 问答系统
- 文档摘要
- 逻辑推理
- 代码生成
- 数学计算和分析
技术实现
模型在实现上具有很强的灵活性:
- 支持多种运行环境:可在CPU、单/多GPU上运行
- 支持多种精度:支持bfloat16、float16和float32等精度
- 提供量化版本:支持8位和4位量化,可降低资源消耗
- 支持Flash Attention 2优化
- 提供JAX/Flax版本实现
训练数据
模型训练数据包含:
- 网络文档:涵盖广泛的语言风格和主题
- 代码:提升模型的编程能力
- 数学内容:增强逻辑推理能力
- 总计约6万亿tokens的训练数据
性能评估
在多个基准测试中表现出色:
- MMLU(5-shot):64.3分
- HellaSwag(0-shot):81.2分
- HumanEval(pass@1):32.3分
- GSM8K(maj@1):46.4分
此外,模型在安全性评估中也达到了可接受的标准,包括内容安全、代表性损害、记忆化和大规模危害等多个方面的测试。
开发支持
Google为开发者提供了丰富的支持:
- 详细的使用文档和示例代码
- 多种部署方案的实现指南
- 提供模型微调脚本
- 完整的聊天模板支持
- 持续的社区反馈和更新
