Project Icon

simple-hierarchical-transformer

分层Transformer模型探索多层次预测编码

这个项目提出了一种在GPT模型中实现多层次预测编码的方法。它通过在Transformer中引入多层结构,结合局部注意力和全局信息传递。实验结果显示,该方法在维持性能的同时提升了效率。项目允许自定义层次结构、维度和注意力窗口大小,为研究人员提供了探索分层Transformer的实验工具。项目代码支持灵活配置,包括调整层次数量、模型维度和注意力窗口大小。这种设计使研究人员能够方便地进行不同参数的对比实验,有助于深入理解分层Transformer的性能特点。

transformers-code - 对Transformers从入门到高效微调的全方位实战指南
GithubNLPTransformers分布式训练开源项目微调模型训练
课程提供丰富的实战代码和案例,从基础入门到高效微调以及低精度和分布式训练。涵盖命名实体识别、机器阅读理解和生成式对话机器人等NLP任务。帮助深入理解Transformers的核心组件和参数微调技术,包括模型优化和分布式训练。适合对Transformers应用和实践感兴趣的学习者。课程在B站和YouTube持续更新,紧跟技术前沿。
C-Tran - Transformer在多标签图像分类中的应用
GithubTransformers图像分类多标签分类开源项目深度学习计算机视觉
C-Tran是一个探索Transformer在多标签图像分类中应用的开源项目。该项目提出了一种通用多标签图像分类方法,在COCO80和VOC20等数据集上展现出优秀性能。项目包含完整的训练和运行指南,涵盖数据处理和模型训练等关键步骤。C-Tran为计算机视觉领域提供了新的研究方向,对推进多标签图像分类技术具有重要意义。
ctransformers - Python接口的高效C/C++ Transformer模型
CTransformersGGMLGithubLangChainPythonTransformer模型开源项目
CTransformers提供Python接口,通过GGML库高效加载和运行C/C++实现的Transformer模型。支持多种模型类型,如GPT-2、GPT-J、LLaMA等,并可与Hugging Face和LangChain集成。提供CUDA、ROCm和Metal兼容的GPU加速选项,适合高性能自然语言处理任务。
Comprehensive-Transformer-TTS - 基于非自回归 Transformer 的 TTS
GithubPyTorchTTS开源项目持续时间建模语音合成非自回归变换器
该项目采用非自回归Transformer技术,集成多种最新状态转换模型。Comprehensive-Transformer-TTS不仅提供监督与非监督持续时间建模, 也支持多种数据集和SOTA技术,如Fastformer和Long-Short Transformer,力求在文本到语音转换领域取得领先成果。
table-transformer-structure-recognition-v1.1-all - Table Transformer开源表格结构识别模型
GithubHuggingfaceTable Transformer开源项目文档分析模型深度学习表格识别计算机视觉
Table Transformer是一个开源的表格结构识别模型,基于DETR架构设计。该模型在PubTables1M和FinTabNet.c数据集上进行了预训练,采用'normalize before'设置优化了网络结构。Table Transformer能够准确检测文档中的表格,为表格结构分析提供了有力支持。项目提供了详细文档,便于研究人员和开发者进行深入研究和实际应用。
ByteTransformer - 为BERT类Transformer优化的高性能推理库
BERTByteTransformerGithubNVIDIA GPUTransformer开源项目高性能
ByteTransformer是一个为BERT类Transformer优化的高性能推理库,支持Python和C++ API,兼容固定长度和可变长度Transformer。通过对BERT例程中的QKV编码、软最大值、前馈网络、激活、层归一化和多头注意力机制进行优化,ByteTransformer为字节跳动的内部推理系统提升了性能。基准测试结果显示,相较于PyTorch、TensorFlow、FasterTransformer和DeepSpeed,ByteTransformer在A100 GPU上的推理速度更快。
superpoint_transformer - 高效3D场景语义和全景分割的超点变换器
3D全景分割3D语义分割GithubICCV 2023SuperClusterSuperpoint Transformer开源项目
Superpoint Transformer 是一种超点 transformer 架构,适用于大规模 3D 场景的语义分割。通过自注意机制和层次化超点结构,它能多尺度挖掘超点间关系,性能卓越。同时,SuperCluster 将全景分割任务转化为超点图聚类任务,能在单个 GPU 上处理大规模场景。项目亮点包括显著的SOTA表现、快速训练和预处理等。点击查看更多详情及项目更新。
Transformers_And_LLM_Are_What_You_Dont_Need - 分析深度学习模型在时间序列预测中的表现与局限
GithubMambaTransformers开源项目时间序列预测深度学习线性模型
本项目汇集大量研究论文和文章,深入分析变压器和大语言模型在时间序列预测中的表现及局限性。探讨这些深度学习模型处理时间序列数据的挑战,并介绍更适合的替代方法。为时间序列预测领域的研究和应用提供全面的参考资源。
tab-transformer-pytorch - 表格数据处理的注意力网络新突破
FT TransformerGithubPytorchTab Transformer亚马逊AI开源项目表格数据
Tab Transformer项目在Pytorch中实现了表格数据的注意力网络,性能接近GBDT。亚马逊最新研究称在实际表格数据集上使用注意力机制超越了GBDT。项目提供详细安装和使用说明,并包含改进的FT Transformer模型以供比较。
bge-reranker-v2-minicpm-layerwise - 分层文本排序器支持多语言并可调节计算层数实现高效推理
BAAIFlagEmbeddingGithubHuggingface多语言处理开源项目文本分类模型模型训练
bge-reranker-v2-minicpm-layerwise是一个基于MiniCPM-2B-dpo-bf16的多语言文本排序器模型。它支持中英双语及多语言场景,可灵活选择8-40层进行计算,平衡推理速度和性能。模型在文本相关性评分和信息检索任务中表现优异,适用于大规模文本数据处理。通过FlagEmbedding框架可实现简便调用和部署,并支持FP16/BF16加速。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号