xformers

Transformer 研究加速工具

xFormers Transformer 注意力机制深度学习 PyTorch Github 开源项目

xFormers 是一个加速 Transformer 研究的开源工具库。它提供可自定义的独立模块，无需样板代码即可使用。该项目包含前沿组件，专注于研究需求，同时注重效率。xFormers 的组件运行快速且内存利用率高，集成了自定义 CUDA 内核和其他相关库。它支持多种注意力机制、前馈网络和位置编码，适用于计算机视觉、自然语言处理等多个领域的研究工作。

访问官网

Github

Huggingface

介绍相关项目

equiformer-pytorch - SE(3)/E(3)等变注意力网络的高效PyTorch实现

AIEquiformerGATv2GithubSE3 Transformers开源项目深度学习

Equiformer-pytorch是一个基于PyTorch的SE(3)/E(3)等变注意力网络实现。该项目采用MLP注意力机制和非线性消息传递，实现了最先进的性能。它支持可逆网络以提高内存效率，并集成了最新的球谐函数稀疏化技术，大幅提升计算效率。Equiformer-pytorch还提供边缘和邻接矩阵支持，适用于蛋白质折叠等各种3D原子图任务。

TransformerEngine - 用于在 NVIDIA GPU 上加速 Transformer 模型的库

FP8GithubHopper GPUNVIDIATransformer Engine开源项目深度学习

Transformer Engine是NVIDIA推出的一个库，专门用于在其GPU上加速Transformer模型。该库支持8位浮点（FP8）精度，使训练和推理性能大幅提升的同时，内存使用降低。TE提供了一系列优化的构建模块和混合精度API，适用于各种流行的深度学习框架，保证精度不受影响。通过与主流大型语言模型库的集成，简化了FP8支持的实现，使Transformer模型的训练和推理更加高效和便捷，适用于多种NVIDIA GPU架构。

curated-transformers - 一个为PyTorch设计的转换器库，提供最新的模型和可复用组件

Curated TransformersGithubPyTorchspaCy集成transformer模型开源项目量化

Curated Transformers是一个为PyTorch设计的转换器库，提供最新的模型和可复用组件。支持最新的转换器模型，如Falcon、Llama和Dolly v2，具备类型注释和极少的依赖性，适合教育和生产环境。支持集成至spaCy 3.7，快速安装及支持高效的CUDA优化。

ETSformer-pytorch - 基于PyTorch的先进时间序列Transformer模型

ETSformerGithubPytorchTransformer开源项目指数平滑时间序列预测

ETSformer-pytorch是一个开源的时间序列分析工具，基于PyTorch实现了先进的Transformer模型。该项目集成了多头指数平滑注意力机制和频率选择功能，适用于时间序列预测和分类任务。ETSformer-pytorch提供简单的安装和使用方法，支持灵活的模型配置，并包含专门的分类包装器。这一工具为研究人员和开发者提供了处理复杂时间序列数据的有效解决方案。

MetaTransformer - 统一12种模态的多模态学习框架

GithubMeta-Transformer人工智能多模态学习开源项目深度学习计算机视觉

Meta-Transformer是一个创新的多模态学习框架，可处理12种不同模态的数据，包括自然语言、图像、点云和音频等。该框架采用共享编码器架构和数据到序列转换方法，支持分类、检测和分割等多种任务。项目提供开源预训练模型和代码实现，为多模态AI研究提供了有力支持。

sentence-transformers - 多语言文本和图像嵌入向量生成框架

GithubSentence Transformers向量表示开源项目深度学习自然语言处理预训练模型

sentence-transformers是一个基于transformer网络的框架，用于生成句子、段落和图像的向量表示。该项目提供了多语言预训练模型，支持自定义训练，适用于语义搜索、相似度计算、聚类等场景。这个开源工具在自然语言处理和计算机视觉任务中表现出色，为研究人员和开发者提供了便捷的嵌入向量生成方案。

TabFormer - 用于对多变量时间序列进行建模的表格转换器

GithubICASP 2021TabFormerTabular BERT信用卡交易数据集多变量时间序列开源项目

该项目提供了用Pytorch实现的Tabular Transformers源代码和数据，可用于多变量时间序列建模。项目特点包括层级变压器模块、综合信用卡交易数据集、改进的自适应Softmax和为表格数据调整的DataCollatorForLanguageModeling模块。代码架构基于HuggingFace的transformers框架，拥有很好的扩展性和易用性。

h-transformer-1d - 高效序列学习的分层注意力变换器实现

GithubH-Transformer-1DTransformer序列学习开源项目神经网络长程注意力

H-Transformer-1D是一个开源项目，实现了基于分层注意力机制的Transformer模型。这种实现使序列学习达到亚二次方复杂度，在Long Range Arena基准测试中表现优异。项目支持可变序列长度、可逆性和令牌移位等功能，适用于长序列数据处理。该实现主要提供编码器（非自回归）版本，为自然语言处理和机器学习领域提供了新的研究方向。

transformers.js - 浏览器端运行先进机器学习模型的JavaScript库

GithubONNX RuntimeTransformers.js开源项目机器学习自然语言处理计算机视觉

Transformers.js是一个JavaScript库，可在浏览器中直接运行Hugging Face的Transformers模型，无需服务器。该库支持自然语言处理、计算机视觉、音频处理和多模态任务，使用ONNX Runtime执行模型。它的设计与Python版Transformers功能相同，提供简单API运行预训练模型，并支持将自定义模型转换为ONNX格式。

transformers_tasks - 多种集成NLP任务的高效开源工具

GithubNLPhuggingface transformers信息抽取开源项目强化学习文本匹配

transformers_tasks提供了多种NLP任务的实现，基于Huggingface transformers库，用户可以便捷加载及训练模型，并根据自己数据集进行微调。包括文本匹配、信息抽取、Prompt任务等多种功能，适用于Python 3.6+和多种操作系统，满足不同NLP应用需求。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号