跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

PatchTST

PatchTST 是一个基于 Transformer 的长时序预测模型的官方实现。它将时间序列分割成块(patches)并独立处理,提供高效且有效的预测。该项目提供了监督学习和自监督学习方法的代码,实现了强大的预测能力。

查看模型
分享
查看模型
分享

PatchTST 是论文 "A Time Series is Worth 64 Words: Long-term Forecasting with Transformers" 的官方实现。该 AI 模型专为长时序预测而设计,利用了 Transformer 架构的强大功能。其核心创新在于“分块”(patching)机制,将时间序列分割成子序列级别的块,然后将这些块作为 Transformer 的输入 token。

阅读更多

关键设计原则包括通道独立性,其中每个通道代表一个单一的单变量时间序列。这些序列在所有输入中共享相同的嵌入和 Transformer 权重,从而促进了高效学习。该项目分为两个主要文件夹:PatchTST_supervised 和 PatchTST_self_supervised,以适应不同的学习范式。

对于监督学习,用户可以安装所需的依赖项,从 Autoformer 等来源下载数据集,并使用提供的脚本开始训练。可以调整诸如块长度、回看窗口和预测长度等超参数。该存储库还包含用于比较分析的基线模型代码。

在自监督学习领域,PatchTST 提供了预训练和微调功能。预训练脚本 `patchtst_pretrain.py` 使用指定的掩码比例(mask ratio)来训练模型。生成的预训练模型将保存以供下游任务使用。然后,`patchtst_finetune.py` 脚本可以对这些预训练模型进行线性探测(linear probing)或全网络微调。

该项目感谢多个 GitHub 存储库的宝贵贡献,包括 LTSF-Linear、Informer2020、Autoformer、FEDformer、Pyraformer、RevIN 和 tsai,这突显了其在更广泛的时间序列研究社区中的整合。这使得 PatchTST 成为研究人员和从业人员在准确且可扩展的长时序预测方面的强大工具。

  • 类别AI 模型与大语言模型
  • 定价模式开源
  • 部署云端, 自托管
  • 平台网页版

  • 基于 Transformer 的时间序列预测架构

  • 将时间序列分割成子序列级别的块

  • 通道独立性,实现高效的权重共享

  • PatchTST 论文的官方实现

  • 支持监督学习

  • 支持自监督学习(预训练和微调)

  • 可调整的块长度、回看窗口和预测窗口超参数

  • 包含用于比较的基线模型

  • 代码库可在 GitHub 上获取

  • 模型权重保存以供下游任务使用

  • 线性探测和全网络微调选项

  1. 集成:访问 PatchTST 代码的 GitHub 存储库。

  2. 设置环境:使用 `pip install -r requirements.txt` 安装必要的 Python 包。

  3. 下载数据:获取时间序列数据集并将其放在 `./dataset` 文件夹中。

  4. 监督学习训练:从 `./scripts/PatchTST` 目录运行训练脚本,例如 `sh ./scripts/PatchTST/weather.sh`。

  5. 自监督预训练:使用数据集和掩码比例参数执行 `python patchtst_pretrain.py`。

  6. 自监督微调:使用预训练模型名称和数据集运行 `python patchtst_finetune.py`。

  • 长时序预测
  • 时间序列分析
  • 使用 Transformer 进行预测
  • 自监督学习
  • 监督学习
  • 多变量预测

与 PatchTST 类似的热门AI工具

FEDformer

AI GitHub 仓库

FEDformer 是一种频率增强分解 Transformer,专为高效的长期时间序列预测而设计。它实现了与序列长度成线性复杂度的计算,通过显著降低多变量和单变量数据集上的预测误差,性能优于最先进的方法。该模型提供开源代码。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

频率增强分解 Transformer,专为高效的长期时间序列预测而设计。它实现了与序列长度成线性复杂度的计算,通过显著降低多变量和单变量数据集上的预测误差,性能优于最先进的方法。该模型提供开源代码。FEDformer 是一种频率增强分解 Transformer,专为高效的长期时间序列预测而设计。它实现了与序列长度成线性复杂度的计算,通过显著降低多变量和单变量数据集上的预测误差,性能优于最先进的方法。该模型提供开源代码。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

LTSF-Linear

AI GitHub 仓库

LTSF-Linear 是 "Are Transformers Effective for Time Series Forecasting?" 的官方 PyTorch 实现。它引入了一系列线性模型(Linear, DLinear, NLinear),在长期时间序列预测任务上表现优于 Transformer,同时具有高效率和可解释性。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

"Are Transformers Effective for Time Series Forecasting?" 的官方 PyTorch 实现。它引入了一系列线性模型(Linear, DLinear, NLinear),在长期时间序列预测任务上表现优于 Transformer,同时具有高效率和可解释性。LTSF-Linear 是 "Are Transformers Effective for Time Series Forecasting?" 的官方 PyTorch 实现。它引入了一系列线性模型(Linear, DLinear, NLinear),在长期时间序列预测任务上表现优于 Transformer,同时具有高效率和可解释性。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

Autoformer

AI GitHub 仓库

Autoformer 是一款用于长期时间序列预测的 AI 模型,它利用分解 Transformer 和自相关机制。该模型在各种基准测试中取得了最先进的结果,为提高实际应用中的预测准确性提供了一种新颖的系列连接方法。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

用于长期时间序列预测的 AI 模型,它利用分解 Transformer 和自相关机制。该模型在各种基准测试中取得了最先进的结果,为提高实际应用中的预测准确性提供了一种新颖的系列连接方法。Autoformer 是一款用于长期时间序列预测的 AI 模型,它利用分解 Transformer 和自相关机制。该模型在各种基准测试中取得了最先进的结果,为提高实际应用中的预测准确性提供了一种新颖的系列连接方法。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

TimesNet

AI 模型

TimesNet 是一个通用的时间序列分析基础模型,它将一维序列转换为二维空间以增强建模能力。通过利用视觉骨干网络进行强大的表示学习,在预测、插补、异常检测和分类任务中取得了最先进的成果,能够处理多样化的时间模式。

AI 模型与大语言模型
查看工具

AI 模型

通用的时间序列分析基础模型,它将一维序列转换为二维空间以增强建模能力。通过利用视觉骨干网络进行强大的表示学习,在预测、插补、异常检测和分类任务中取得了最先进的成果,能够处理多样化的时间模式。TimesNet 是一个通用的时间序列分析基础模型,它将一维序列转换为二维空间以增强建模能力。通过利用视觉骨干网络进行强大的表示学习,在预测、插补、异常检测和分类任务中取得了最先进的成果,能够处理多样化的时间模式。

AI 模型与大语言模型
查看 AI 模型 Top 5

LSTNet

AI GitHub 仓库

LSTNet 是一款深度学习模型,专为时间序列预测而设计。它通过结合循环神经网络和卷积神经网络,有效地建模长期和短期时间模式。该模型对于复杂的时间序列数据特别有用。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

深度学习模型,专为时间序列预测而设计。它通过结合循环神经网络和卷积神经网络,有效地建模长期和短期时间模式。该模型对于复杂的时间序列数据特别有用。LSTNet 是一款深度学习模型,专为时间序列预测而设计。它通过结合循环神经网络和卷积神经网络,有效地建模长期和短期时间模式。该模型对于复杂的时间序列数据特别有用。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

GluonTS

AI 框架

GluonTS 是一个用于概率时间序列建模的 Python 包,利用基于 PyTorch 和 MXNet 的深度学习模型。它通过生成概率分布形式的预测(包括预测区间)来实现准确的预测,适用于复杂的时间序列分析。

AI 模型与大语言模型
查看工具

AI 框架

用于概率时间序列建模的 Python 包,利用基于 PyTorch 和 MXNet 的深度学习模型。它通过生成概率分布形式的预测(包括预测区间)来实现准确的预测,适用于复杂的时间序列分析。GluonTS 是一个用于概率时间序列建模的 Python 包,利用基于 PyTorch 和 MXNet 的深度学习模型。它通过生成概率分布形式的预测(包括预测区间)来实现准确的预测,适用于复杂的时间序列分析。

AI 模型与大语言模型
查看 AI 框架 Top 50

Informer2020

AI GitHub 仓库

Informer2020 GitHub 存储库提供了 Informer 模型的 PyTorch 实现,该模型专为高效长序列时间序列预测而设计。它采用 ProbSparse Attention 来处理自注意力得分中的长尾分布,为复杂的预测任务提供了先进的解决方案。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

Informer2020 GitHub 存储库提供了 Informer 模型的 PyTorch 实现,该模型专为高效长序列时间序列预测而设计。它采用 ProbSparse Attention 来处理自注意力得分中的长尾分布,为复杂的预测任务提供了先进的解决方案。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

Funnel-Transformer

AI GitHub 仓库

Funnel-Transformer 是一种 AI 模型,它压缩隐藏状态以降低计算成本。它允许在相同的 FLOPs 下构建更深或更宽的模型,并能恢复标准预训练的 token 级表示。该模型提供 TensorFlow 和 PyTorch 实现。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

AI 模型,它压缩隐藏状态以降低计算成本。它允许在相同的 FLOPs 下构建更深或更宽的模型,并能恢复标准预训练的 token 级表示。该模型提供 TensorFlow 和 PyTorch 实现。Funnel-Transformer 是一种 AI 模型,它压缩隐藏状态以降低计算成本。它允许在相同的 FLOPs 下构建更深或更宽的模型,并能恢复标准预训练的 token 级表示。该模型提供 TensorFlow 和 PyTorch 实现。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250
1/8