Project Icon

recurrent-memory-transformer

记忆增强型Transformer为Hugging Face模型提升长序列处理能力

Recurrent Memory Transformer (RMT)是为Hugging Face模型设计的记忆增强型循环Transformer。通过在输入序列中添加特殊记忆标记,RMT实现了高效的记忆机制,能够处理长达1M及以上的token序列。项目提供RMT实现代码、训练示例和评估工具,在BABILong等长文本基准测试中表现优异,为研究长序列处理提供了有力支持。

ktransformers - 体验前沿LLM推理优化的灵活框架
GPU加速GithubKTransformersLLM推理优化大型语言模型开源项目深度学习框架
KTransformers是一个灵活的Python框架,通过高级内核优化和并行策略增强Transformers性能。框架支持单行代码注入优化模块,提供Transformers兼容接口、OpenAI和Ollama标准RESTful API及简化的ChatGPT风格Web UI。专注本地部署和异构计算优化,KTransformers集成Llamafile和Marlin内核,为LLM推理优化实验提供灵活平台。
moirai-1.0-R-large - 基于Transformer的通用多变量时序预测模型
GithubHuggingfaceMoirai大规模预训练开源项目时间序列预测机器学习模型深度学习
Moirai-1.0-R-large是一个基于Masked Encoder的时序预测Transformer模型,通过LOTSA数据集预训练而成。模型采用补丁嵌入和Transformer架构设计,支持多变量时序数据处理和动态协变量预测。用户可通过uni2ts库实现模型部署,拥有3.11亿参数的模型规模使其成为Moirai系列中参数量最大的版本。
Crossformer - 高效利用跨维度依赖的多变量时间序列预测模型
CrossformerGithubTransformer开源项目时间序列预测注意力机制深度学习
Crossformer是一种新型Transformer模型,针对多变量时间序列预测设计。该模型采用维度分段嵌入、两阶段注意力机制和层次编码器-解码器结构,有效捕捉时间和维度间的依赖关系。Crossformer在多个基准数据集上表现优异,为长序列预测和高维数据处理提供新思路。其开源实现便于研究人员和实践者探索应用。
OLMo-7B-0724-hf - OLMo开放式语言模型促进语言处理技术进步
AI2GithubHuggingfaceOLMo变形金刚开源语言模型开源项目模型自然语言处理
OLMo是由AI2开发的开源语言模型系列,旨在推动语言模型科学研究。该模型基于Dolma数据集训练,采用先进的Transformer结构,实现性能提升和多阶段优化。OLMo-7B-0724-hf具备强大的文本生成能力,适用于文本推理和生成任务。支持在HuggingFace平台上进行加载、微调和评估,且提供多种数据检查点,方便研究与开发。该项目得到多家机构支持,并在多个主要AI任务中表现优异。
transformers-tutorials - Transformers模型在自然语言处理中的应用教程
BERTGithubHugging FaceNLPPyTorchTransformers开源项目
本项目提供了关于如何使用Transformers模型在自然语言处理任务中进行精细调优的详细教程,包括文本分类、情感分析、命名实体识别和摘要生成等案例。教程旨在帮助用户掌握应用最新NLP技术的技巧,并提供配套的Python代码示例和工具指南。
RWKV-infctx-trainer - 突破序列长度限制的RWKV模型训练工具
DeepSpeedGithubRWKV开源项目无限上下文深度学习训练器
RWKV-infctx-trainer是一款专为RWKV模型设计的训练工具,突破了传统上下文长度限制。它支持超过100万个token的序列训练,保持近乎恒定的显存消耗。项目集成了DeepSpeed 3和Hugging Face数据集,采用PyTorch 2.0、Lightning 2.0等技术提升训练效率。这为长序列语言模型研究提供了有力支持,适用于长文本和复杂上下文处理场景。
hf-seamless-m4t-medium - 多语言翻译与语音识别的统一模型
GithubHugging FaceHuggingfaceSeamlessM4T多语言翻译开源项目文本到语音模型语音识别
SeamlessM4T是一款多语言模型,支持101种语言的语音输入、196种语言的文本处理和35种语言的语音输出。它能进行语音到语音、语音到文本、文本到语音及文本到文本的翻译。最新的SeamlessM4T v2在翻译质量和生成速度上均有改善,为需要高效语音处理和文本翻译的场景提供了解决方案。
bge-99GPT-v1 - 提升句子相似度分析和特征提取效果的创新模型
99P LabsGithubHuggingface员工数据科学学习开源项目数据可视化模型自动驾驶语义相似性
SentenceTransformer模型专注于提升句子相似度分析及特征提取的精度。基于marroyo777/bge-99GPT-v1进行微调,支持多种应用如语义文本相似性、语义搜索、文本分类等。使用余弦相似度作为评估标准,该模型可将句子映射到384维的向量空间,提供高效的文本分析能力。
vram-8 - 显存优化工具提升视觉语言模型训练效率
GithubHuggingfacetransformers人工智能开源项目机器学习模型深度学习自然语言处理
vram-8是一个为视觉语言模型设计的内存管理工具。该工具通过优化内存使用策略,提高模型训练和推理效率。它可以智能管理GPU显存,减少内存溢出问题,使用户能在有限硬件资源下处理较大规模模型。vram-8有助于提升模型处理速度和系统稳定性。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

Project Cover

天工AI音乐

天工AI音乐平台支持音乐创作,特别是在国风音乐领域。该平台适合新手DJ和音乐爱好者使用,帮助他们启动音乐创作,增添生活乐趣,同时发现和分享新音乐。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号