informer-tourism-monthly

Informer模型优化长序列时间序列预测

概率注意力机制长序列时间序列预测开源项目 Informer 模型 Huggingface 时间复杂度稀疏Transformer Github

Informer通过ProbSparse自注意力机制和生成式解码器在长序列时间序列预测中优化了计算和内存需求，达到O(L logL)的复杂度和内存使用。模型提升了依赖对齐能力，能够高效处理长输入序列并显著提高预测速度，在多个大数据集上性能优异，为长序列预测问题提供了解决方案。

Huggingface

论文

介绍相关项目

moirai-1.0-R-large - 基于Transformer的通用多变量时序预测模型

GithubHuggingfaceMoirai大规模预训练开源项目时间序列预测机器学习模型深度学习

Moirai-1.0-R-large是一个基于Masked Encoder的时序预测Transformer模型，通过LOTSA数据集预训练而成。模型采用补丁嵌入和Transformer架构设计，支持多变量时序数据处理和动态协变量预测。用户可通过uni2ts库实现模型部署，拥有3.11亿参数的模型规模使其成为Moirai系列中参数量最大的版本。

Transformers_And_LLM_Are_What_You_Dont_Need - 分析深度学习模型在时间序列预测中的表现与局限

GithubMambaTransformers开源项目时间序列预测深度学习线性模型

本项目汇集大量研究论文和文章,深入分析变压器和大语言模型在时间序列预测中的表现及局限性。探讨这些深度学习模型处理时间序列数据的挑战,并介绍更适合的替代方法。为时间序列预测领域的研究和应用提供全面的参考资源。

Flowformer - Flowformer 利用保护流网络实现 Transformer 线性化和长序列处理

FlowformerGithubTransformer开源项目注意力机制流网络理论线性复杂度

Flowformer 是一种 Transformer 模型，通过引入保护流网络理论，实现了线性复杂度的注意力机制。它能够处理超过4000多个标记的长序列，在视觉、自然语言处理、时间序列和强化学习等领域表现优异。在长序列建模任务中，Flowformer 的平均准确率达到56.48%，超过了 Performer 和 Reformer 等现有方法。该项目不依赖特定归纳偏置，提供了核心代码实现和多个领域的应用示例，为研究人员和开发者提供了一个通用的基础模型。

LLM4TS - 大型语言模型和基础模型在时间序列分析中的最新进展

AIGithubLLM基础模型开源项目时间序列预训练

LLM4TS项目整理了时间序列分析领域中大型语言模型和基础模型的最新研究。主要内容包括时间序列LLM的进展、专用基础模型、数据集和重要发现。此外，项目还涵盖了预训练时间序列模型和LLM在推荐系统等相关领域的应用，为研究和实践提供了丰富的资源。

enformer-official-rough - 基于Transformer的神经网络架构实现精准基因表达预测

EnformerGithubHuggingfaceTransformer架构基因表达预测开源项目模型深度学习长程相互作用

Enformer是一个基于Transformer的神经网络架构，能从DNA序列中精确预测基因表达。该模型由Avsec等人在Nature期刊发表，并在DeepMind的GitHub仓库首次公开。本项目将官方权重移植至PyTorch，为基因组学研究提供了有力工具。研究人员可参考enformer-pytorch的使用说明，进行基因表达预测和分析。该模型在整合长程相互作用方面表现出色，大幅提高了基因表达预测的准确性。

timesfm - 谷歌研究院开发的时间序列预测基础模型

GithubTimesFM基础模型开源项目时间序列预测深度学习

TimesFM是谷歌研究院开发的时间序列预测基础模型，支持多种时间频率的单变量预测。模型可处理最长512个时间点的上下文和任意长度的预测范围，提供简单的API接口支持数组和pandas输入。通过外部回归器库，TimesFM能处理静态和动态协变量。此外，该模型支持微调功能，允许用户在自有数据上优化性能。

moirai-1.0-R-base - 基于Transformer的通用时间序列预测模型

GithubHuggingfaceMoirai开源项目数据分析时间序列预测机器学习模型模型预训练模型

Moirai-1.0-R-base是一个基于掩码编码器的通用时间序列预测Transformer模型，在LOTSA数据集上预训练。该模型包含9100万参数，使用补丁嵌入和变量ID编码方法，可处理多变量时间序列数据进行预测。模型支持自定义预测长度和上下文窗口设置，通过uni2ts库实现部署。作为Moirai系列的中型版本，该模型在性能和计算效率方面达到平衡。

Corrformer - 全球气象站统一深度模型的可解释天气预报系统

CorrformerGithub天气预报开源项目时空建模机器学习深度学习

Corrformer是一种新型天气预报模型，通过多相关性机制实现了对数万个气象站的协作预报。该模型显著降低了时空建模复杂度，并能生成基于天气过程传播方向的可解释预测。在多个尺度的数据集上，Corrformer的预报性能超越了传统统计方法和最新深度学习模型，近地面预报能力可与数值方法相媲美。这项研究为气象科学引入了创新的数据驱动人工智能方法。

MInference - 动态稀疏注意力加速长上下文语言模型

GithubMInference动态稀疏注意力大语言模型开源项目性能优化长文本处理

MInference是一项新技术，通过利用长上下文语言模型注意力机制的动态稀疏性来加速预填充过程。该技术离线确定注意力头的稀疏模式，在线近似稀疏索引，并使用优化内核动态计算注意力。在A100 GPU上，MInference实现了预填充速度提升10倍，同时保持模型准确性。它支持LLaMA-3、GLM-4等多种长上下文模型，有效处理百万级别token的上下文。

test-ttm-v1 - 开源时间序列预测模型高效预测基础

GithubHuggingfaceTinyTimeMixer基础模型开源项目时间序列模型预测预训练模型

Test TinyTimeMixer (TTM)是一个开源的时间序列预测基础模型。这个项目利用预训练方法，为时间序列分析提供了有力支持。TTM致力于提升时间序列预测的效率和准确性，可应用于多种时间相关的数据分析场景。作为开源项目，它遵循Apache 2.0许可证，并在Hugging Face平台上提供。TTM为研究人员和数据科学家提供了一个探索和优化时间序列预测技术的平台。

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com