描述
Autoformer 是一款专为长期时间序列预测设计的尖端 AI 模型，于 NeurIPS 2021 会议上推出。它通过提出一种超越传统 Transformer 模型的新颖架构，满足了实际应用中对准确预测的关键需求。其核心创新在于通过深度分解架构和独特的自相关机制实现的系列连接。
深度分解架构将时间序列逐步分解为趋势和季节性分量，从而能够更细致地理解和预测未来值。这与受随机过程理论启发的自相关机制相辅相成。该机制发现基于周期的依赖关系，并在系列级别聚合信息，从而产生固有的对数线性复杂度。这种系列连接与许多其他 Transformer 系列中普遍存在的自注意力机制有着显著区别。
Autoformer 已证明了其最先进的性能，在能源、交通、经济、天气和疾病这五种实际应用中的六个基准测试中，比之前的基线模型取得了 38% 的相对改进。该项目提供了研究论文的代码发布，使用户能够重现结果并将模型集成到他们自己的预测任务中。该存储库包含在各种数据集上进行训练和评估的脚本，以及设置环境和运行实验的说明。
最近的更新突显了 Autoformer 日益增长的影响力，包括其被纳入 Hugging Face 以及在 Nature Machine Intelligence 上发布的扩展版本。此外，Autoformer 在 2022 年冬季奥运会期间被用于天气预报。该模型也是更广泛的时间序列库的一部分，涵盖了一系列时间序列任务。该项目通过 Docker 和 Make 集成强调易用性，以实现可重现的结果。
Autoformer 的目标受众包括从事时间序列分析和预测问题的研究人员、数据科学家和工程师。其处理长期依赖关系和实现卓越准确性的能力，使其在需要可靠未来预测的应用中具有价值。该模型独特的架构和性能改进为时间序列预测领域带来了重大进展。
Autoformer亮点
深度分解架构，用于渐进式分量分析
系列自相关机制，用于基于周期的依赖关系
固有的对数线性复杂度
在长期序列预测方面达到最先进的性能
在六个基准测试中取得 38% 的相对改进
适用于能源、交通、经济、天气和疾病预测
提供代码发布，用于研究和实现
由于系列连接，无需位置嵌入
类似批归一化的块，用于内存访问友好的自相关
通过 Docker、conda 和 Make 实现可重现的结果
Autoformer入门
设置环境：安装 Python 3.6 和 PyTorch 1.9.0。
下载数据：从 Google Drive 获取基准数据集。
训练模型：执行 ./scripts 文件夹中提供的实验脚本。
通过 API 集成：在自定义应用程序中使用模型的预测功能。
重现结果：遵循 Docker 说明进行环境初始化和脚本执行。
运行实验：使用提供的 bash 脚本处理 ETTm1 或 ECL 等特定数据集。
适应新任务：探索 Time-Series-Library 以进行扩展预测、插补和异常检测。
Autoformer的使用案例
- 能源预测
- 交通预测
- 经济预测
- 天气预报
- 疾病爆发预测
- 金融时间序列分析
- 供应链优化
