Project Icon

equiformer-pytorch

SE(3)/E(3)等变注意力网络的高效PyTorch实现

Equiformer-pytorch是一个基于PyTorch的SE(3)/E(3)等变注意力网络实现。该项目采用MLP注意力机制和非线性消息传递,实现了最先进的性能。它支持可逆网络以提高内存效率,并集成了最新的球谐函数稀疏化技术,大幅提升计算效率。Equiformer-pytorch还提供边缘和邻接矩阵支持,适用于蛋白质折叠等各种3D原子图任务。

pytorch-openai-transformer-lm - 基于PyTorch的OpenAI Transformer语言模型实现
GithubOpenAIPyTorchTransformer Language Model开源项目模型预训练
该项目实现了OpenAI Transformer语言模型在PyTorch中的复现,提供了预训练权重加载脚本及模型类。采用固定权重衰减和调度学习率优化模型,支持对ROCStories Cloze任务进行微调,效果接近原始TensorFlow实现。适用于深度学习研究和语言模型的生成与分类任务。
TransformerHub - 实现与参考多种Transformer模型
BERTGPTGithubTransformerTransformerHubViT开源项目
此项目实现了多种Transformer架构,包括seq2seq、仅编码器、仅解码器和统一模型,旨在提高编程技能并提供深度学习参考。特色包括多种Attention模块、位置嵌入和采样方法,当前进展是实现DINO模型。项目受到多个开源项目的启发和支持。
pyHGT - 大规模异构和动态图的图神经网络解决方案
Deep Graph LibraryGithubHeterogeneous Graph TransformerOAG DataSetWWW 2020pytorch_geometric开源项目
Heterogeneous Graph Transformer (HGT) 是一种基于 Pytorch Geometric 的图神经网络架构,设计用于处理大规模异构和动态图。项目主要包含核心模型代码、数据接口、训练和验证脚本。用户可以使用预处理好的 OAG 数据集或其他异构图进行训练。关键功能包括异构图卷积层、并行采样和深度图模型训练。安装简单,只需通过 pip 安装相关依赖即可运行。
e2-tts-pytorch - E2-TTS 简化的非自回归零样本文本转语音模型
E2 TTSGithubPytorch开源项目深度学习语音合成非自回归模型
E2-TTS-pytorch是一个开源项目,实现了基于PyTorch的E2-TTS(Embarrassingly Easy Fully Non-Autoregressive Zero-Shot TTS)模型。该项目提供了持续时间预测器和E2TTS模型的简洁实现,支持自定义模型参数如维度和深度。项目包含代码示例和采样功能,基于最新研究成果,为研究人员和开发者提供了一个灵活的TTS实验平台。
torchscale - 高效扩展Transformer模型的PyTorch开源库
DeepNetGithubLongNetPyTorchTorchScaleTransformers开源项目
TorchScale是一个PyTorch开源库,旨在帮助研究人员和开发者有效扩展Transformer模型。该库专注于开发基础模型和AGI架构,提升建模的通用性、能力以及训练的稳定性和效率。其关键功能包括DeepNet的稳定性、Foundation Transformers的通用性、可延展性的Transformer和X-MoE的效率。最新更新涉及LongNet和LongViT等创新架构,支持多种应用,如语言、视觉和多模态任务,用户仅需几行代码即可快速创建和调整模型。
FasterTransformer - 基于NVIDIA平台的高性能Transformer编解码器实现与调优
BERTFasterTransformerGPTGithubNVIDIATensorRT-LLM开源项目
FasterTransformer不仅支持多框架集成,还针对NVIDIA新一代GPU优化了编解码性能,极大提升了操作效率和处理速度。包含模型支持、性能对比及API演示的详细文档,有助于用户深入了解并有效使用FasterTransformer。
EasyCV - 基于PyTorch的全能计算机视觉工具箱,支持自监督学习和Transformer模型
EasyCVGithubPyTorch图像分类开源项目目标检测自监督学习
EasyCV是基于PyTorch的全能计算机视觉工具箱,专注于自监督学习、Transformer模型和主要视觉任务,包括图像分类、度量学习、目标检测和姿态估计。该工具箱提供了最先进的自监督算法如SimCLR、MoCO V2、Swav、DINO和基于掩码图像建模的MAE。它拥有简单综合的推理接口,并支持多种预训练模型。EasyCV支持多GPU和多工作者训练,利用DALI优化数据处理,使用TorchAccelerator和fp16加速训练,并通过PAI-Blade优化推理性能。
x-transformers - 轻量级Transformer模型,支持完整的编解码器配置和最新研究成果,适合各种从图像分类到语言模型的应用
Githubtransformerx-transformers开源项目模型训练编码器编解码器
x-transformers提供了多功能的Transformer模型,支持完整的编解码器配置和最新研究成果,适合各种应用,从图像分类到语言模型。其先进技术如闪存注意力和持久内存,有助于提高模型的效率和性能。此项目是研究人员和开发者的理想选择,用于探索和优化机器学习任务中的Transformer技术。
VoxFormer - 基于稀疏体素变换器的相机驱动3D语义场景补全方法
3D语义场景补全CVPRGithubVoxFormer开源项目计算机视觉语义分割
VoxFormer是一种基于Transformer的创新框架,仅通过2D图像即可生成完整的3D语义体素。它采用两阶段设计:先从深度估计生成可见占据体素查询,再通过密集化阶段生成完整3D体素。在SemanticKITTI数据集上,VoxFormer在几何和语义方面分别提升了20.0%和18.1%,同时将训练所需GPU内存减少约45%。这为相机驱动的3D语义场景补全任务提供了一个强有力的基线。
3D-deformable-attention - 3D可变形注意力技术提升自动驾驶物体检测精度
3D目标检测BEVFormerDFA3DGithub开源项目深度估计特征提升
3D-deformable-attention项目提出了3D可变形注意力(DFA3D)操作符,用于2D到3D特征提升。该方法首先利用深度估计将2D特征扩展到3D空间,再通过DFA3D聚合3D特征。这种方法缓解了深度歧义问题,并支持逐层特征细化。在多个基准测试中,DFA3D平均提高1.41 mAP,高质量深度信息下最高提升15.1 mAP。研究结果显示DFA3D在自动驾驶3D目标检测等任务中具有较大潜力。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号