bloom-1b7

开源多语言自然语言处理模型

Huggingface 模型开源人工智能大型语言模型多语言 Github 开源项目 BLOOM

BLOOM-1B7是BigScience项目开发的开源多语言预训练语言模型,支持45种自然语言和12种编程语言。该模型采用改进的Transformer架构,包含17亿参数,在1.5TB多语言语料上训练而成。BLOOM-1B7可用于文本生成、信息提取、问答等多种自然语言处理任务,为研究人员和开发者提供了探索大型语言模型特性的平台。模型遵循RAIL许可证,限制了在高风险场景中的使用,旨在推动语言模型的公共研究。

访问官网

Github

Huggingface

介绍相关项目

Pretrained-Language-Model - 先进预训练语言模型与优化技术集合

GithubMindSporePyTorchTensorFlow开源项目自然语言处理预训练语言模型

此开源项目汇集了多个先进的预训练语言模型和相关优化技术。包含200B参数中文语言模型PanGu-α、高性能中文NLP模型NEZHA、模型压缩技术TinyBERT和DynaBERT等子项目。这些模型在多项中文NLP任务中表现出色，支持MindSpore、TensorFlow和PyTorch等多种深度学习框架。

ChatGLM-6B - 高效灵活的开源双语对话模型的本地部署与定制

AI对话ChatGLM-6BGithub中英双语大语言模型开源开源项目

ChatGLM-6B是一款开源的中英双语对话语言模型，采用GLM架构，拥有62亿参数。该模型支持低资源设备部署，6GB显存即可运行。经过约1T标识符训练和多种技术优化，ChatGLM-6B能生成贴近人类偏好的回答。模型提供高效参数微调方法，便于开发者进行应用定制。该项目完全开放学术研究，同时允许免费商业使用，致力于推动大模型技术进步。

BERTweet - 专为英语推文预训练的大规模语言模型，助力自然语言处理

BERTweetCOVID-19GithubRoBERTa开源项目英文推文语言模型

BERTweet是首个专为英语推文预训练的公共语言模型，基于RoBERTa预训练程序，使用850M条推文数据进行训练，包含普通推文和疫情相关推文。BERTweet提供多种预训练模型，能够无缝集成于transformers和fairseq框架，支持情感分析、命名实体识别等自然语言处理任务，为研究和应用提供有力支持。

ml-engineering - 大规模语言模型与多模态模型的训练方法

BLOOM-176BContextual.AIGithubHuggingFaceLarge Language ModelsVLM开源项目

本指南系统介绍了方法、工具和逐步操作说明，帮助工程师成功训练大规模语言模型（LLM）和多模态模型（VLM）。内容涵盖丰富的脚本和命令，适合LLM/VLM训练工程师和操作员使用。基于作者在开源BLOOM-176B和IDEFICS-80B模型训练中的经验，提供有效解决方案，并持续更新，服务于ML社区。

BELLE - 推动中文大语言模型的开源发展与指令微调

BELLEGithub中文优化大语言模型开源社区开源项目指令微调

BELLE项目致力于推动中文对话大模型的开源发展，重点关注如何利用开源预训练大语言模型构建具有指令理解能力的个性化语言模型。该项目持续公开指令训练数据、模型、训练代码和应用场景，同时评估不同训练数据和算法对模型性能的影响。BELLE专门针对中文进行优化，仅采用ChatGPT生成的数据进行模型调优，不包含其他来源的数据。

grok-1 - 314B参数语言模型支持混合专家系统和8位量化

GithubGrok-1大型语言模型开源权重开源项目模型规格混合专家模型

Grok-1是一个开源的大型语言模型，拥有314B参数和8,192个token的最大序列长度。它采用混合专家系统架构，每个token使用2个专家，包含64层结构。模型具有48个查询注意力头和8个键/值注意力头，嵌入维度为6,144。Grok-1支持激活分片和8位量化。项目提供JAX示例代码用于加载和运行模型，并可通过种子链接或Hugging Face下载权重。

GLM-4 - 多语言支持与长文本处理能力

AI对话GLM-4Github多模态大语言模型开源项目长文本

GLM-4-9B系列是智谱AI推出的开源预训练模型,包括基础版、支持128K上下文的Chat版、1M长文本版及多模态版。该系列支持26种语言,在语义理解、数学计算、逻辑推理等多项评测中表现优异。GLM-4-9B-Chat具备网页浏览、代码执行等功能,GLM-4V-9B则增加了视觉理解能力。这些模型在多项基准测试中均超越了同规模竞品。

xmtf - 通过多任务微调提升跨语言泛化能力

BLOOMZGithubmT0xP3多任务微调开源项目跨语言泛化

XMTF项目探索了通过多语言多任务微调来增强模型的跨语言泛化能力。研究者基于BLOOM和mT5模型，使用xP3数据集进行微调，开发了BLOOMZ和mT0系列模型。这些模型在46种语言的13个任务上接受训练，展现出显著的跨语言和跨任务迁移学习能力。项目公开了完整的数据处理流程、模型训练方法和评估体系，为自然语言处理领域的跨语言研究提供了重要参考。

mindnlp - 开源自然语言处理与大语言模型框架

GithubMindNLPMindSpore大语言模型开源项目自然语言处理预训练模型

MindNLP是一个基于MindSpore的开源自然语言处理库，支持语言模型、机器翻译、问答系统、情感分析、序列标注和摘要生成等多种任务。该项目集成了BERT、Roberta、GPT2和T5等多种预训练模型，通过类似Huggingface的API简化了使用流程。用户可通过pypi或源代码安装该库，并支持包括Llama、GLM和RWKV在内的大型语言模型的预训练、微调和推理，非常适合研究者和开发人员构建和训练模型。

Bunny - 轻量高效多模态模型支持高分辨率图像分析

AI模型BunnyGithub多模态模型开源项目视觉语言模型轻量级模型

Bunny是一个轻量高效的多模态模型家族，集成多种视觉编码器和语言骨干网络。该项目通过优化训练数据提升小规模模型性能，其中Bunny-Llama-3-8B-V模型支持1152x1152分辨率图像处理，在多项视觉语言任务中表现优异。Bunny为开发者提供了灵活的多模态AI解决方案。

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号