Logo
Project Icon

rotary-embedding-torch

为Transformer模型提供旋转位置编码的PyTorch库

Rotary EmbeddingsPytorch神经网络位置编码深度学习Github开源项目

rotary-embedding-torch库为PyTorch中的Transformer模型提供旋转位置编码。它能高效地将旋转信息融入张量的任意轴，适用于固定和学习的位置编码。该库支持轴向相对位置编码、长度外推和序列位置插值等功能，可应用于多种Transformer模型。rotary-embedding-torch以简单的方式实现了先进的位置编码效果，同时保持较低的计算开销。

GithubGithub文档文档论文论文
介绍相关项目
other - 高性能开源自然语言处理框架
GithubHuggingfacetransformers人工智能开源项目机器学习模型深度学习自然语言处理
Transformers是一个开源的自然语言处理框架，提供多种预训练模型和工具。支持文本分类、问答和生成等任务，适用于研究和生产环境。该框架易用且灵活，可处理多语言文本，支持迁移学习。Transformers定期更新，紧跟NLP领域最新进展，为用户提供丰富的API和优化的性能。
vit-pytorch - 通过PyTorch实现多种视觉Transformer变体
GithubPytorchVision Transformer卷积神经网络图像分类开源项目深度学习
本项目展示了如何在PyTorch中实现和使用视觉Transformer（ViT）模型，包括Simple ViT、NaViT、Distillation、Deep ViT等多种变体。利用基于Transformer架构的简单编码器，本项目在视觉分类任务中达到了先进水平。用户可以通过pip进行安装，并参考提供的代码示例进行模型加载和预测。项目还支持高级功能如知识蒸馏、变分图像尺寸训练和深度模型优化，适用于多种视觉任务场景。
commented-transformers - 精细注释的Transformer在PyTorch中的实现
Attention机制BERTGPT-2GithubPyTorchTransformer开源项目
详细注释的Transformer实现，涵盖从头创建Transformer系列，包括注意力机制和整体Transformer的实现。提供双向注意力、因果注意力及因果交叉注意力的实现，以及GPT-2和BERT模型的单文件实现，兼容torch.compile(..., fullgraph=True)以提高性能。
former - 使用PyTorch实现简单Transformer模型的指南
GithubIMDb数据集PyTorchtransformer分类实验开源项目自注意力机制
详细介绍了如何使用PyTorch从零开始实现简单的Transformer模型，包含安装和使用指南，以及通过命令行控制超参数和数据自动下载的说明。
MEGABYTE-pytorch - 多尺度Transformer模型实现百万字节序列预测
AI模型GithubMEGABYTEPytorchTransformer开源项目深度学习
MEGABYTE-pytorch是一个基于PyTorch实现的多尺度Transformer模型，专门用于预测百万字节长度的序列。该项目具有灵活的配置选项，支持多个本地模型，并整合了Flash Attention等先进技术。MEGABYTE-pytorch通过简洁的API接口实现长序列处理、模型训练和文本生成。此外，项目提供了基于enwik8数据集的训练示例，为开发者提供了实用参考。
torchgeo - 优化地理空间数据处理的机器学习与遥感工具
GithubPyTorchTorchGeo地理空间数据开源项目机器学习遥感
TorchGeo 是一个基于 PyTorch 的地理空间数据处理库，提供丰富的数据集、采样器、变换和预训练模型，旨在帮助机器学习和遥感专家更高效地处理和探索地理空间数据。该库支持多光谱传感器的预训练模型，并与 PyTorch 数据加载器完全兼容，易于集成到现有的训练工作流中。其全面的文档包括 API 使用指南、教程和示范，非常适合开发者和研究人员使用。
transformer-models - MATLAB深度学习变换器模型实现库
BERTGithubMATLABTransformer开源项目深度学习自然语言处理
该项目提供MATLAB环境下的多种深度学习变换器模型实现，包括BERT、FinBERT和GPT-2。支持文本分类、情感分析、掩码标记预测和文本摘要等自然语言处理任务。项目特点包括预训练模型加载、模型微调、详细示例和灵活API，可用于研究和实际应用。
torchdyn - PyTorch数值深度学习库，支持微分方程和数值方法
GithubPyTorchTorchdyn开源项目微分方程数值方法深度学习
Torchdyn是一个专注于数值深度学习的PyTorch库，涵盖微分方程、积分变换和数值方法。它提供便捷的工具和层，用于构建神经微分方程和复合模型，并支持GPU加速和多种数值方法。该库与PyTorch和pytorch-lightning高度集成，使得用户能够快速上手，推进研究和应用。
Transformer-TTS - 神经语音合成系统
GithubPyTorchTacotronTransformer-TTS开源项目神经网络语音合成
Transformer-TTS，一个基于Pytorch的高效神经语音合成系统。它使用Transformer网络，且训练速度是传统seq2seq模型的3到4倍。不仅提供预训练模型，其合成语音质量经实验证明优异。同时，项目支持自定义学习模型及策略，包括Noam式预热衰减学习率及关键的梯度裁剪等，是语音合成研究的理想选择。
En-transformer - 融合等变图神经网络与Transformer的创新架构
E(n)-Equivariant TransformerGithub坐标变换开源项目注意力机制神经网络蛋白质设计
En-transformer是一个创新的开源项目，结合了E(n)等变图神经网络与Transformer架构。支持原子和键类型嵌入，处理稀疏邻居，传递连续边特征。已应用于抗体CDR环设计，并可用于蛋白质骨架坐标去噪等分子建模任务。项目提供简便的安装和使用方法，适合研究人员和开发者探索。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号