rinalmo

基于BERT的非编码RNA预训练模型助力RNA结构预测

模型 RiNALMo RNA模型序列分析 Github 深度学习 Huggingface 开源项目生物信息学

RiNALMo是一种基于BERT架构的非编码RNA预训练语言模型。该模型在3600万条独特ncRNA序列上使用掩码语言建模进行训练，可有效应用于RNA结构预测。模型包含33层、1280个隐藏单元和20个注意力头，总参数量达6.5亿。RiNALMo可用于RNA序列特征提取、序列和核苷酸级别的分类回归任务，以及RNA接触预测等多种下游应用。

访问官网

Github

Huggingface

介绍相关项目

xlnet-base-cased - 创新的广义排列语言建模与自回归预训练技术

GithubHuggingfaceTransformerXLNet开源项目机器学习模型自然语言处理预训练模型

XLNet是一种创新的无监督语言表示学习方法，采用广义排列语言建模目标和Transformer-XL架构。这使得它在处理长上下文语言任务时表现卓越，并在多个下游任务中取得了领先成果。作为一个预训练模型，XLNet主要用于微调特定任务，尤其适合需要理解完整句子的应用场景，如序列分类、标记分类和问答系统等。

c4ai-command-r-v01 - 多语言生成和推理的高效大型语言模型

C4AI Command-RGithubHuggingface多语言生成工具使用开源项目文档引用模型生成模型

C4AI Command-R是一款35亿参数的生成模型，适用于推理、摘要和问答等多种场景，具备强大的多语言生成能力，支持包括中文在内的10种语言。该模型在Hugging Face等平台提供实验机会，其开放权重设计方便多重用途的使用。采用优化的Transformer架构，并通过有监督微调以符合人类优选方式。通过特定的提示模板，模型能有效执行引用生成，提高回答的准确度和效用。

UnslopNemo-12B-v2-GGUF - 增强AI模型表达能力的实验探索

ChatMLGithubHuggingfaceMistralUnslopNemo反馈开源项目数据集模型

该项目通过减少RP数据集中的特点，以提高模型的表达力。适用于Mistral、ChatML以及文本补全任务。通过调整采样设置，用户有可能获得更优的结果。参与者被鼓励在讨论页面提供反馈，以帮助进一步改进性能。

prot_bert_bfd - 用于自监督蛋白质序列分析的ProtBert-BFD模型

GithubHuggingfaceProtBert-BFD开源项目掩码语言模型模型特征提取蛋白质序列语言模型

ProtBert-BFD模型是一种利用Bert架构进行蛋白质序列自监督学习的预训练工具。该模型使用BFD数据集进行训练，能够捕捉蛋白质的生物物理特性，适用于特征提取和下游任务。其遮蔽语言建模方法无需人工标记即可从大规模数据中进行学习，成为生物信息学中理解蛋白质编码的有效工具。

NeMo-Framework-Launcher - 云原生工具助力大规模AI模型高效训练

AI模型训练GithubNeMo Framework云原生工具分布式计算大规模语言模型开源项目

NeMo-Framework-Launcher是一个用于启动NeMo Framework训练作业的云原生工具。它专注于生成式AI模型的基础模型训练，集成了模型并行、分布式优化和混合精度训练等技术。该工具简化了在云端或本地集群上的训练流程，支持集群配置、数据处理、模型训练、微调和评估。适用于GPT、BERT和T5等模型，可扩展至数千GPU，支持大规模语言模型训练。

OLMo - 开源语言模型加速科学研究

GithubOLMo人工智能开源语言模型开源项目机器学习自然语言处理

OLMo是一个开源语言模型项目，提供多种规模的先进模型，如1B、7B和7B Twin 2T，全部基于Dolma数据集训练。该项目支持模型训练、微调和推理，提供详细配置和检查点以确保研究可重现。OLMo还包含数据检查和评估工具，为语言模型研究提供全面支持，旨在加速这一领域的科学进展。

bert-medium-mnli - Pytorch平台上的MNLI任务BERT预训练模型

BERTGithubHuggingfaceMNLIPytorch开源项目模型论文预训练模型

本项目提供基于Pytorch、从Tensorflow检查点转换而来的BERT预训练模型，专门用于MNLI任务。此BERT变体在Google官方库的基础上，经过四轮训练，在MNLI和MNLI-mm测试中表现分别为75.86%和77.03%。项目着重展示紧凑模型在预训练中的有效性，更多信息及原始实现可访问相关GitHub库，重点在于轻量化处理及自然语言推理的应用潜力。结合最新研究成果，此预训练模型为自然语言理解提供了高效解决方案，显著改善文本分类性能。

xlm-roberta-xl - 基于2.5TB数据训练的100语种自然语言处理模型

GithubHuggingfaceXLM-RoBERTa-XL多语言模型开源项目机器学习模型自然语言处理预训练模型

XLM-RoBERTa-XL是基于2.5TB CommonCrawl数据训练的大规模多语言模型，支持100种语言的自然语言处理。该模型采用掩码语言建模进行自监督学习，适用于序列分类、标记分类和问答等需要理解整句上下文的任务。XLM-RoBERTa-XL为多语言NLP研究和应用提供了强大的基础，但不适合文本生成类任务。

scandi-nli-large - 北欧语言自然语言推理模型的性能分析

GithubHuggingfaceScandiNLI丹麦语开源项目挪威语模型瑞典语自然语言推理

该模型针对丹麦语、挪威语和瑞典语进行了自然语言推理微调，适用于零样本分类任务，拥有多个版本。大模型在语言任务中成绩突出，MCC为73.70%，F1分数为74.44%，准确率达83.91%。基于NbAiLab/nb-bert-large模型，并综合多语言NLI数据集进行训练，实现了对北欧语言的全面支持，适用于多语言自然语言处理。

Rocinante-12B-v1.1-GGUF - 基于12B参数的开源文本生成语言模型

GithubHuggingfaceRocinante人工智能开源项目文本生成模型聊天模板语言模型

Rocinante-12B-v1.1-GGUF是一个基于12B参数的开源语言模型，支持ChatML、Alpaca和Mistral等多种聊天模板。该模型具备丰富的词汇量和叙事能力，通过调整采样参数可实现不同风格的文本生成。项目开源并提供多种量化版本，适合用于文本创作和对话生成等场景。

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号