Project Icon

evo-1-8k-base

高效的生物长序列建模与设计的深度信号处理模型

Evo是一个基于生物的基础模型,通过StripedHyena架构支持长序列建模与设计。Evo拥有7亿参数,可在单核苷酸和字节级别进行建模,并在计算和内存使用上实现接近线性的扩展。Evo-1-8k-base模型适用于8,192上下文长度的分子层面微调,是Evo家族中的第一款产品。此模型不仅支持高效的自动回归生成,还能快速处理长上下文训练和微调,在自然语言和生物序列的大规模数据处理中展示出色的扩展性。作为开源科学的组成部分,该项目提供15个阶段的中间预训练检查点以供研究使用。

evo - 实现跨尺度DNA序列建模与设计的开源工具
DNA建模EvoGithub基因组尺度序列设计开源项目生物基础模型
Evo是一个开源的生物基础模型,专注于DNA序列的长上下文建模和设计。基于StripedHyena架构,Evo实现了单核苷酸级别的序列建模,具有近乎线性的计算和内存扩展性。该模型拥有70亿参数,在OpenGenome数据集上训练,包含约3000亿个原核全基因组标记。Evo提供8K和131K上下文长度的预训练模型,适用于从分子到基因组尺度的序列分析和生成任务。研究人员可通过HuggingFace和Together API等多种方式使用Evo,为DNA序列研究提供了强大而灵活的工具。
InternEvo - 开源轻量级框架提升大规模模型训练效率
GithubInternEvo大语言模型开源项目性能优化预训练框架
InternEvo是一个轻量级开源训练框架,支持大规模预训练和单GPU微调。该框架在1024个GPU上达到近90%加速效率,适用于InternLM系列等大语言模型训练。通过集成高性能算子和Hybrid Zero技术,InternEvo优化了计算与通信效率,显著提升了训练性能。
nucleotide-transformer-v2-500m-multi-species - 基于多物种基因组的大规模DNA语言模型
DNA序列GithubHuggingfaceNucleotide Transformer基因组学开源项目模型生物信息学预训练模型
nucleotide-transformer-v2-500m-multi-species是一个基于850个多物种基因组预训练的5亿参数Transformer模型。该模型利用多样化物种的DNA序列信息,通过掩码语言建模训练,可用于分子表型预测等任务。它采用6-mer标记化方法,结合旋转位置编码和门控线性单元,在900B个标记上训练而成。这一基础模型为基因组学研究提供了有力工具,可应用于多种下游分析。
EvoLLM-JP-v1-7B - 探索日语语言模型的进化潜力
EvoLLM-JP-v1-7BGithubHuggingfaceSakana AI开源项目日语模型演化模型合并研究开发
EvoLLM-JP-v1-7B是由Sakana AI开发的实验性日语语言模型,采用进化模型合并方法,由多个源模型合并而成。用户可通过Hugging Face平台在研究与开发领域利用该模型,尽管其提供了语言处理的新机遇,但尚未针对商业用途进行验证,需谨慎应用。
free-solar-evo-v0.1 - 创新进化模型合并的客观探索
AIFree-solar-evo-v0.1GithubHuggingfaceS-SOLAR-10.7B-v1.5Sakana项目开源项目模型进化模型
free-solar-evo-v0.1项目展示了进化模型合并的潜在应用,受Sakana项目启发,建立在hwkwon/S-SOLAR-10.7B-v1.5模型之上,由Freewheelin团队开发。
evotorch - 基于PyTorch的高性能进化计算库
EvoTorchGithubPyTorch优化算法开源项目强化学习进化计算
EvoTorch是一个基于PyTorch的开源进化计算框架,支持黑盒优化、强化学习和监督学习等多种优化问题。它实现了PGPE、CMA-ES和遗传算法等多种进化算法,并通过GPU加速和Ray分布式计算提高优化效率。EvoTorch设计简洁易用,适合解决各类复杂优化问题,为研究人员和工程师提供了强大的工具支持。
DNABERT-2-117M - 多物种基因组分析的先进Transformer模型
DNABERT-2GithubHuggingface医学基因组开源项目模型深度学习生物学
DNABERT-2-117M是一个创新的多物种基因组分析工具,基于先进的Transformer架构。它整合了MosaicBERT技术,实现了DNA序列的高效嵌入计算。用户可以通过简单的Python代码调用模型,获取DNA序列的向量表示。这一功能为生物信息学和医学基因组学研究提供了强大支持,有望推动多种基因组分析任务的进展。
StripedHyena-Nous-7B - 混合架构语言模型的突破性创新
AI语言模型GithubHuggingfaceStripedHyenaTogether Research开源项目模型混合架构长文本处理
StripedHyena-Nous-7B是一款由Together Research开发的创新型混合架构语言模型。该模型结合了多头分组查询注意力和门控卷积技术,实现了恒定内存解码、低延迟和高吞吐量。支持处理长达32k的序列,采用混合精度设计,在短文本和长文本评估中表现出色,能够与同等规模的开源Transformer模型相媲美。这一突破性架构为自然语言处理领域带来了新的可能性。
esm1b_t33_650M_UR50S - 以高级特征提取和预测提高蛋白质序列无监督学习的有效性
ESM-1bGithubHuggingface功能预测开源项目无监督学习模型结构预测蛋白质序列
ESM-1b是一个Transformer架构的蛋白质语言模型,通过对未标记的蛋白质序列进行自监督预训练,具备了结构与功能预测的无监督能力。该模型在远程同源检测和二级结构预测等任务上表现优良,可用于特征提取和模型微调。虽然ESM-2性能优越,但ESM-1b仍是研究蛋白质特征的重要工具。
DNABERT - DNABERT:用于基因组DNA语言处理的双向编码器模型
BERTDNABERTGPUGithub基因组开源项目预训练模型
DNABERT提供完整的源码、使用示例、预训练和微调模型,适用于各类基因组DNA语言处理任务。该项目利用Huggingface的扩展工具,增添了多任务支持和高效的可视化功能。最新版DNABERT-2不仅提升了多物种基因组的处理能力,还发布了全面的Genome Understanding Evaluation (GUE)基准测试,涵盖28个数据集。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号