IndicBERTv2-MLM-only

支持23种印度语言和英语的大规模多语言预训练模型

模型 Github 多语言模型印度语言开源项目 Huggingface 机器学习 IndicBERT 自然语言处理

IndicBERTv2-MLM-only是一个支持23种印度语言和英语的大规模多语言预训练模型。该模型基于IndicCorp v2数据集训练，包含2.78亿参数，采用掩码语言模型（MLM）目标。在IndicXTREME基准测试中，模型展现出优秀的多语言和零样本迁移能力。作为印度语言自然语言处理的重要资源，IndicBERTv2-MLM-only有望推动相关研究，缩小印度语言在NLP领域的差距。

Github

Huggingface

介绍相关项目

bert-base-multilingual-cased-finetuned-langtok - 基于多语言BERT的语言识别模型实现99.03%准确率

BERTGithubHuggingface多语言模型开源项目微调模型自然语言处理语言识别

这是一个基于bert-base-multilingual-cased的语言识别微调模型。模型在评估集上的准确率为99.03%，F1分数达到0.9087。模型采用Adam优化器和线性学习率调度器，经过3轮训练完成。开发框架使用Transformers 4.44.2和PyTorch 2.4.1，可应用于语言识别相关任务。

aya-23-8B - 支持23种语言的开源多语言大模型

Aya-23-8BGithubHuggingface人工智能多语言模型开源项目机器学习模型自然语言处理

Aya-23-8B是由Cohere For AI开发的开源多语言大模型，基于Command系列模型架构，通过Aya Collection数据集进行指令微调。该模型包含80亿参数，支持阿拉伯语、中文、英语在内的23种语言，具有8192的上下文长度。模型采用优化的Transformer架构，主要面向学术研究和非商业应用场景。

LLM2Vec-Mistral-7B-Instruct-v2-mntp - 将大型语言模型转变为高效文本编码器的简单方法

GithubHuggingfaceLLM2Vec开源项目文本编码模型深度学习自然语言处理语义相似度

LLM2Vec-Mistral-7B-Instruct-v2-mntp项目提供了一种将解码器型大语言模型转换为文本编码器的方法。该方法包括启用双向注意力、掩码下一个词预测和无监督对比学习三个步骤。经过转换的模型可生成高质量文本嵌入，适用于信息检索、文本分类和语义相似度等自然语言处理任务，并可通过微调进一步提升性能。

deberta-v3-base - 高效预训练语言模型提升自然语言理解任务性能

DeBERTaGithubHuggingface开源项目文本分类模型深度学习自然语言处理预训练模型

DeBERTa-v3-base是一种改进的预训练语言模型，采用ELECTRA风格预训练和梯度解耦嵌入共享技术。该模型在SQuAD 2.0和MNLI等自然语言理解任务上表现优异，超越了RoBERTa等基准模型。它具有12层结构、768维隐藏层、86M骨干参数和128K词表。研究人员可通过Hugging Face Transformers库对其进行微调，应用于多种自然语言处理任务。

bert-large-uncased - 大规模无大小写区分BERT自然语言处理预训练模型

BERTGithubHuggingface开源项目掩码语言模型模型深度学习自然语言处理预训练模型

bert-large-uncased是基于大规模英文语料预训练的自然语言处理模型。通过掩码语言建模和下一句预测任务,模型学习了双向语言表示。它拥有24层结构、1024维隐藏层和16个注意力头,总计336M参数。该模型适用于序列分类、标记分类和问答等下游任务的微调,也可直接用于掩码填充或作为特征提取器。

bert-base-arabertv02 - AraBERT：用于阿拉伯语理解的高性能预训练模型

AraBERTBERTGithubHuggingface开源项目模型自然语言处理阿拉伯语预训练语言模型

AraBERT是一系列基于BERT架构的阿拉伯语预训练语言模型。其中bert-base-arabertv02版本使用了77GB的大规模语料库进行训练，包含200M句子和8.6B词。这些模型在情感分析、命名实体识别和问答等多项任务中表现出色。AraBERT提供多个版本，包括base和large尺寸，以及预分割和未分割文本的变体，以满足不同应用需求。模型的优化和多样化为阿拉伯语自然语言处理研究和应用提供了有力支持。

bert_uncased_L-12_H-768_A-12 - BERT迷你模型优化低资源环境下的应用

BERTGithubHuggingface开源项目模型知识蒸馏紧凑模型计算资源预训练

BERT Miniatures提供24款小型BERT模型，适合计算资源有限的环境。利用知识蒸馏，这些模型可通过微调获得精确的结果，旨在支持低资源环境的研究并鼓励探索新的创新方向。用户可在官方BERT GitHub页面及HuggingFace平台下载这些模型。它们在GLUE基准测试中表现良好，可通过调整超参数实现最佳效果。详情请参考相关文献。

xlm-roberta-xxl - 基于2.5TB数据训练的100语言自然语言处理模型

GithubHuggingfaceXLM-RoBERTa-XL多语言模型开源项目机器学习模型自然语言处理预训练模型

XLM-RoBERTa-XXL是一个基于2.5TB CommonCrawl数据预训练的多语言Transformer模型，支持100种语言的自然语言处理任务。通过掩码语言建模技术实现句子的双向表示学习，适用于序列分类、标记分类、问答等下游任务的微调，可应用于多语言文本分析和跨语言任务场景。

bert-multilingual-go-emtions - 多语言情感分类模型，支持高效识别28种情感

BERTGithubGoEmotionsHuggingface多语言开源项目情感分类模型模型性能

该BERT模型经过微调，可在GoEmotions数据集上进行中英跨语言情感分类，支持28种情感类别，如喜悦、愤怒、爱等。模型在验证集上表现出85.95%的高准确率，训练过程结合了英语和机器翻译的中文样本，通过两阶段方法提升性能，包含初始训练和高置信度样本回馈再训练。

OLMo-7B-0724-hf - OLMo开放式语言模型促进语言处理技术进步

AI2GithubHuggingfaceOLMo变形金刚开源语言模型开源项目模型自然语言处理

OLMo是由AI2开发的开源语言模型系列，旨在推动语言模型科学研究。该模型基于Dolma数据集训练，采用先进的Transformer结构，实现性能提升和多阶段优化。OLMo-7B-0724-hf具备强大的文本生成能力，适用于文本推理和生成任务。支持在HuggingFace平台上进行加载、微调和评估，且提供多种数据检查点，方便研究与开发。该项目得到多家机构支持，并在多个主要AI任务中表现优异。

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号