Project Icon

nucleotide-transformer-v2-500m-multi-species

基于多物种基因组的大规模DNA语言模型

nucleotide-transformer-v2-500m-multi-species是一个基于850个多物种基因组预训练的5亿参数Transformer模型。该模型利用多样化物种的DNA序列信息,通过掩码语言建模训练,可用于分子表型预测等任务。它采用6-mer标记化方法,结合旋转位置编码和门控线性单元,在900B个标记上训练而成。这一基础模型为基因组学研究提供了有力工具,可应用于多种下游分析。

paraphrase-multilingual-mpnet-base-v2 - 跨语言句子向量化模型支持聚类和语义检索
GithubHuggingfacesentence-transformers多语言模型开源项目文本嵌入模型自然语言处理语义搜索
paraphrase-multilingual-mpnet-base-v2是一个基于sentence-transformers的多语言句子嵌入模型,支持50多种语言。它将句子和段落映射为768维向量,适用于聚类和语义搜索。模型易于使用,通过pip安装即可快速集成。在Sentence Embeddings Benchmark上表现出色,采用XLMRobertaModel和平均池化层结构,可有效处理不同长度的文本输入。
SwissArmyTransformer - 瑞士军刀式Transformer库,用于多样化模型的开发与优化
BERTDeepSpeedGLMGithubTransformersat开源项目
SwissArmyTransformer是一个灵活且强大的库,用于开发和优化各种Transformer变体模型,如BERT、GPT、T5等。该库通过轻量级混合组件支持多种用途,并结合DeepSpeed-ZeRO和模型并行技术,提供了大规模模型预训练和微调的最佳实践。只需几行代码即可实现前缀调优和缓存自动回归模型,适用于大规模分布式训练和高效推理。
Megatron-LM - 优化GPU训练技术 加速大规模Transformer模型
GPU优化GithubMegatron-CoreMegatron-LM分布式训练大语言模型开源项目
Megatron-LM框架利用GPU优化技术实现Transformer模型的大规模训练。其Megatron-Core组件提供模块化API和系统优化,支持自定义模型训练。该项目可进行BERT、GPT、T5等模型预训练,支持数千GPU分布式训练百亿参数级模型,并提供数据预处理、模型评估和下游任务功能。
awesome-transformer-nlp - 精选Transformer和迁移学习在自然语言处理的资源
BERTChatGPTGPTGithubNLPTransformer开源项目
该资源库汇集了关于自然语言处理 (NLP) 的顶级深度学习资料,重点包括生成预训练Transformer(GPT)、双向编码器表示(BERT)、注意力机制、Transformer架构、ChatGPT及其在NLP中的迁移学习应用。包含大量研究论文、文章、教程及工具,为研究人员和开发人员提供最新的Transformer技术与应用。此系列资源帮助了解和掌握最新的NLP模型及实现方法,提高自然语言处理任务的性能与效率。
t5-v1_1-large - 自然语言处理的统一文本到文本框架
C4GithubHuggingfaceT5开源项目文本到文本转换模型自然语言处理转移学习
T5 Version 1.1在自然语言处理中提供了一种统一的文本到文本转换框架,融入了多项技术改进,如GEGLU激活函数和特定的模型架构,适用于多种NLP任务的微调。尽管仅在C4数据集上进行了预训练,但在下游任务中表现出色,适合数据丰富的任务之后微调,为现有NLP任务提供了有效支持。
switch-base-128 - 探索语言模型优化与参数缩放的最新进展
GithubHuggingfaceSwitch Transformers专家开源项目模型混合专家蒙面语言建模语言模型
Switch Transformers采用专家混合(MoE)模型架构,针对掩码语言模型(MLM)任务进行训练。该模型使用稀疏多层感知器层取代传统的前馈层,提升了训练效率。在Colossal Clean Crawled Corpus上完成了高达万亿参数的预训练,表现出优于T5的微调效果,并实现了相较于T5-XXL模型的四倍加速,适合需要高效语言模型的应用。
life2vec - 生命事件序列模型预测人类生活轨迹
Githublife2vec人工智能大数据分析开源项目生命事件序列预测模型
life2vec项目开发了基于Transformer的模型,利用生命事件序列预测人类生活。该模型能从个人生活事件中学习,预测死亡率、移民倾向和性格特征。这项研究将自然语言处理技术应用于社会科学,为理解人类行为模式和社会动态提供新视角。研究成果发表于Nature Computational Science期刊。
rwkv-4-169m-pile - RNN与Transformer的高性能结合:高效文本生成
GPUGithubHuggingfaceRWKV人工神经网络开源项目文本生成模型转换脚本
RWKV项目由Bo Peng主导,结合RNN和Transformer的优势,提供强大的LLM性能,支持“无限”上下文长度、快速推理和节省显存。该模型支持并行训练,如GPT,可用于高效文本生成,并提供详细的使用和部署指南。项目中提供的多种硬件运行方案,使得用户能够轻松部署在不同环境中,享有快速且节能的文本生成体验,符合现代AI开发需求。
DNA-Diffusion - 扩散模型生成调控DNA序列的新方法
DNA DiffusionGithub人工智能基因组学开源项目生成模型调控序列
DNA-Diffusion项目利用扩散概率模型生成调控DNA序列。该项目开发基于文本提示的模型,生成特定细胞类型或上下文相关的DNA序列。这些序列具有特定调控特性,如细胞特异性染色质状态、基因表达水平调控或转录因子结合位点。该研究旨在深化对正常发育和疾病中DNA调控序列特性的理解。
ctransformers - Python接口的高效C/C++ Transformer模型
CTransformersGGMLGithubLangChainPythonTransformer模型开源项目
CTransformers提供Python接口,通过GGML库高效加载和运行C/C++实现的Transformer模型。支持多种模型类型,如GPT-2、GPT-J、LLaMA等,并可与Hugging Face和LangChain集成。提供CUDA、ROCm和Metal兼容的GPU加速选项,适合高性能自然语言处理任务。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号