Github
Huggingface
论文项目概述
Moirai-1.0-R-large是一个大型时间序列预测模型，它基于掩码编码器的通用时间序列预测Transformer架构。该模型在LOTSA数据集上进行了预训练，是一个强大的时间序列基础模型。
模型特点
- 采用了创新的Transformer架构设计
- 支持多变量时间序列预测
- 能够处理动态协变量
- 使用patch嵌入方式处理时间序列数据
- 输出混合分布参数进行预测
技术架构
该模型的架构主要包含以下几个关键部分：
- 时间序列数据分patch处理，每64个数据点作为一个patch
- 包含序列ID和变量ID的嵌入层
- Transformer编码器结构
- 预测层将输出映射为混合分布参数
使用方法
该项目提供了完整的使用流程：
- 首先需要安装uni2ts库
- 创建虚拟环境并从源代码构建
- 通过简单的Python代码即可使用预训练模型进行预测
- 支持灵活配置预测长度、上下文长度、patch大小等参数
模型系列
Moirai模型系列包括三个版本：
- Small版本：1400万参数
- Base版本：9100万参数
- Large版本：3.11亿参数 用户可以根据实际需求选择合适的模型规模。
应用场景
该模型适用于多种时间序列预测场景：
- 金融市场预测
- 销售预测
- 需求预测
- 天气预测
- 传感器数据预测等
开源许可
项目采用cc-by-nc-4.0许可证，允许非商业性使用。如在研究中使用该项目，需要按照指定格式进行引用。
技术优势
- 预训练模型可以直接使用，无需重新训练
- 支持批处理预测，提高效率
- 提供可视化工具便于结果分析
- 架构设计灵活，可适应不同预测任务
- 具有良好的扩展性和通用性
