メインコンテンツへスキップ
ToolPotion
AI アドバイザー
送信(無料)

PatchTST

AI モデルAIモデルとLLMオープンソース · Web

PatchTSTは、Transformerベースのモデルの公式実装であり、長期時系列予測に特化しています。時系列データをパッチに分割し、それらを独立して処理することで、効率的かつ効果的な予測を実現します。本プロジェクトは、教師あり学習と自己教師あり学習の両方のアプローチに対応したコードを提供し、堅牢な予測能力を可能にします。

モデルを見る
共有
モデルを見る
共有

PatchTSTは、「A Time Series is Worth 64 Words: Long-term Forecasting with Transformers」論文の公式実装です。このAIモデルは、Transformerアーキテクチャの強力な能力を活用し、長期時系列予測のために設計されています。その中心的な革新は、「パッチング」メカニズムにあり、時系列データをサブシリーズレベルのパッチに分割し、それらをTransformerの入力トークンとして扱います。

続きを読む

主な設計原則には、各チャネルが単一の単変量時系列を表すチャネル独立性が含まれます。これらの系列は、すべての入力間で同じ埋め込みとTransformerの重みを共有し、効率的な学習を促進します。プロジェクトは、異なる学習パラダイムに対応するため、PatchTST_supervisedとPatchTST_self_supervisedの2つの主要なフォルダに構造化されています。

教師あり学習の場合、ユーザーは要件をインストールし、Autoformerなどのソースからデータセットをダウンロードし、提供されたスクリプトを使用してトレーニングを開始できます。パッチ長、ルックバックウィンドウ、予測長などのハイパーパラメータを調整できます。リポジトリには、比較分析のためのベースラインモデルのコードも含まれています。

自己教師あり学習の分野では、PatchTSTは事前トレーニングとファインチューニングの機能を提供します。事前トレーニングスクリプト `patchtst_pretrain.py` は、指定されたマスク比率を使用してモデルをトレーニングします。結果として得られた事前トレーニング済みモデルは、下流タスクのために保存されます。その後、`patchtst_finetune.py` スクリプトは、これらの事前トレーニング済みモデルに対して、線形プロービングまたは完全なネットワークファインチューニングを容易にします。

このプロジェクトは、LTSF-Linear、Informer2020、Autoformer、FEDformer、Pyraformer、RevIN、tsaiを含むいくつかのGitHubリポジトリからの貴重な貢献を認識しており、より広範な時系列研究コミュニティ内での統合を強調しています。これにより、PatchTSTは、正確でスケーラブルな長期時系列予測に焦点を当てた研究者や実務家にとって強力なツールとなります。

  • カテゴリーAIモデルとLLM
  • 料金モデルオープンソース
  • デプロイクラウド, セルフホスト
  • プラットフォームWeb

  • 時系列予測のためのTransformerベースのアーキテクチャ

  • 時系列のサブシリーズレベルパッチへの分割

  • 効率的な重み共有のためのチャネル独立性

  • PatchTST論文の公式実装

  • 教師あり学習のサポート

  • 自己教師あり学習(事前トレーニングおよびファインチューニング)のサポート

  • パッチ長、ルックバック、予測ウィンドウの調整可能なハイパーパラメータ

  • 比較のためのベースラインモデルの包含

  • GitHubで利用可能なコードベース

  • 下流タスクのためのモデル重みの保存

  • 線形プロービングおよび完全ネットワークファインチューニングオプション

  1. 統合: PatchTSTコードのGitHubリポジトリにアクセスします。

  2. 環境設定: `pip install -r requirements.txt` を使用して、必要なPythonパッケージをインストールします。

  3. データダウンロード: 時系列データセットを取得し、`./dataset` フォルダに配置します。

  4. 教師ありトレーニング: `./scripts/PatchTST` ディレクトリからトレーニングスクリプトを実行します。例: `sh ./scripts/PatchTST/weather.sh`。

  5. 自己教師あり事前トレーニング: データセットとマスク比率のパラメータを指定して `python patchtst_pretrain.py` を実行します。

  6. 自己教師ありファインチューニング: 事前トレーニング済みモデル名とデータセットを指定して `python patchtst_finetune.py` を使用します。

  • 長期予測
  • 時系列分析
  • Transformerによる予測
  • 自己教師あり学習
  • 教師あり学習
  • 多変量予測

PatchTST に似た人気のAIツール

FEDformer

AI GitHub リポジトリ

FEDformerは、効率的な長期時系列予測のために設計されたFrequency Enhanced Decomposed Transformerです。系列長に対して線形計算量で動作し、多変量および単変量データセットの両方で予測誤差を大幅に削減することで、最先端の手法を上回ります。このモデルはオープンソースコードとして利用可能です。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

効率的な長期時系列予測のために設計されたFrequency Enhanced Decomposed Transformerです。系列長に対して線形計算量で動作し、多変量および単変量データセットの両方で予測誤差を大幅に削減することで、最先端の手法を上回ります。このモデルはオープンソースコードとして利用可能です。FEDformerは、効率的な長期時系列予測のために設計されたFrequency Enhanced Decomposed Transformerです。系列長に対して線形計算量で動作し、多変量および単変量データセットの両方で予測誤差を大幅に削減することで、最先端の手法を上回ります。このモデルはオープンソースコードとして利用可能です。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

LTSF-Linear

AI GitHub リポジトリ

LTSF-Linearは、「Are Transformers Effective for Time Series Forecasting?」の公式PyTorch実装です。長期時系列予測タスクにおいてトランスフォーマーを上回る性能を発揮する線形モデルファミリー(Linear, DLinear, NLinear)を導入し、高い効率性と解釈可能性を提供します。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

「Are Transformers Effective for Time Series Forecasting?」の公式PyTorch実装です。長期時系列予測タスクにおいてトランスフォーマーを上回る性能を発揮する線形モデルファミリー(Linear, DLinear, NLinear)を導入し、高い効率性と解釈可能性を提供します。LTSF-Linearは、「Are Transformers Effective for Time Series Forecasting?」の公式PyTorch実装です。長期時系列予測タスクにおいてトランスフォーマーを上回る性能を発揮する線形モデルファミリー(Linear, DLinear, NLinear)を導入し、高い効率性と解釈可能性を提供します。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

Autoformer

AI GitHub リポジトリ

Autoformerは、分解トランスフォーマーと自己相関メカニズムを活用した長期時系列予測のためのAIモデルです。様々なベンチマークで最先端の結果を達成し、実用的なアプリケーションにおける予測精度の向上に向けたシリーズ間の接続に関する新しいアプローチを提供します。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

分解トランスフォーマーと自己相関メカニズムを活用した長期時系列予測のためのAIモデルです。様々なベンチマークで最先端の結果を達成し、実用的なアプリケーションにおける予測精度の向上に向けたシリーズ間の接続に関する新しいアプローチを提供します。Autoformerは、分解トランスフォーマーと自己相関メカニズムを活用した長期時系列予測のためのAIモデルです。様々なベンチマークで最先端の結果を達成し、実用的なアプリケーションにおける予測精度の向上に向けたシリーズ間の接続に関する新しいアプローチを提供します。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

TimesNet

AI モデル

TimesNetは、1D時系列データを2D空間に変換してモデリングを強化する、汎用時系列分析のための基盤モデルです。予測、補間、異常検知、分類において最先端の結果を達成し、多様な時間パターンにわたる堅牢な表現学習のためにビジョンバックボーンを活用しています。

AIモデルとLLM
ツールを見る

AI モデル

1D時系列データを2D空間に変換してモデリングを強化する、汎用時系列分析のための基盤モデルです。予測、補間、異常検知、分類において最先端の結果を達成し、多様な時間パターンにわたる堅牢な表現学習のためにビジョンバックボーンを活用しています。TimesNetは、1D時系列データを2D空間に変換してモデリングを強化する、汎用時系列分析のための基盤モデルです。予測、補間、異常検知、分類において最先端の結果を達成し、多様な時間パターンにわたる堅牢な表現学習のためにビジョンバックボーンを活用しています。

AIモデルとLLM
AI モデル トップ5を見る

LSTNet

AI GitHub リポジトリ

LSTNetは、時系列予測のために設計されたディープラーニングモデルです。リカレントニューラルネットワークと畳み込みニューラルネットワークを組み合わせることで、長期および短期の時間的パターンを効果的にモデル化します。このモデルは、特に複雑な時系列データに有用です。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

時系列予測のために設計されたディープラーニングモデルです。リカレントニューラルネットワークと畳み込みニューラルネットワークを組み合わせることで、長期および短期の時間的パターンを効果的にモデル化します。このモデルは、特に複雑な時系列データに有用です。LSTNetは、時系列予測のために設計されたディープラーニングモデルです。リカレントニューラルネットワークと畳み込みニューラルネットワークを組み合わせることで、長期および短期の時間的パターンを効果的にモデル化します。このモデルは、特に複雑な時系列データに有用です。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

GluonTS

AI フレームワーク

GluonTSは、PyTorchおよびMXNet上に構築されたディープラーニングモデルを活用する、確率的時系列モデリングのためのPythonパッケージです。予測を確率分布の形式で生成し、予測区間を含めることで、複雑な時系列分析に適した正確な予測を可能にします。

AIモデルとLLM
ツールを見る

AI フレームワーク

PyTorchおよびMXNet上に構築されたディープラーニングモデルを活用する、確率的時系列モデリングのためのPythonパッケージです。予測を確率分布の形式で生成し、予測区間を含めることで、複雑な時系列分析に適した正確な予測を可能にします。GluonTSは、PyTorchおよびMXNet上に構築されたディープラーニングモデルを活用する、確率的時系列モデリングのためのPythonパッケージです。予測を確率分布の形式で生成し、予測区間を含めることで、複雑な時系列分析に適した正確な予測を可能にします。

AIモデルとLLM
AI フレームワーク トップ50を見る

Informer2020

AI GitHub リポジトリ

Informer2020 GitHubリポジトリは、効率的な長系列時系列予測のために設計されたInformerモデルのPyTorch実装を提供します。ProbSparse Attentionを特徴とし、自己注意スコアのロングテール分布を処理することで、複雑な予測タスクに対する高度なソリューションを提供します。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

Informer2020 GitHubリポジトリは、効率的な長系列時系列予測のために設計されたInformerモデルのPyTorch実装を提供します。ProbSparse Attentionを特徴とし、自己注意スコアのロングテール分布を処理することで、複雑な予測タスクに対する高度なソリューションを提供します。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

Funnel-Transformer

AI GitHub リポジトリ

Funnel-Transformerは、計算コストを削減するために隠れ状態を圧縮するAIモデルです。同じFLOPsでより深く、またはより広いモデルを構築でき、標準的な事前学習のためにトークンレベルの表現を復元できます。このモデルはTensorFlowとPyTorchの両方の実装で利用可能です。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

計算コストを削減するために隠れ状態を圧縮するAIモデルです。同じFLOPsでより深く、またはより広いモデルを構築でき、標準的な事前学習のためにトークンレベルの表現を復元できます。このモデルはTensorFlowとPyTorchの両方の実装で利用可能です。Funnel-Transformerは、計算コストを削減するために隠れ状態を圧縮するAIモデルです。同じFLOPsでより深く、またはより広いモデルを構築でき、標準的な事前学習のためにトークンレベルの表現を復元できます。このモデルはTensorFlowとPyTorchの両方の実装で利用可能です。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る
1 / 8