LTSF-Linear

Deskripsi

LTSF-Linear menyediakan implementasi PyTorch resmi untuk makalah penelitian "Are Transformers Effective for Time Series Forecasting?", yang dipresentasikan di AAAI-2023. Repositori ini berfokus pada keluarga model linear yang dirancang untuk mengatasi tantangan peramalan deret waktu jangka panjang (LTSF), menunjukkan kinerja yang unggul dibandingkan dengan arsitektur berbasis transformer.

Keluarga LTSF-Linear mencakup tiga model inti: Linear, NLinear, dan DLinear. Model Linear dasar adalah model linear satu lapis yang secara mengejutkan mengungguli transformer yang kompleks. NLinear meningkatkan kinerja dengan menormalkan input untuk menangani pergeseran distribusi antara set pelatihan dan pengujian. DLinear menggabungkan skema dekomposisi dengan lapisan linear, memisahkan data menjadi komponen tren dan musiman untuk peramalan yang lebih kuat.

Keunggulan utama LTSF-Linear meliputi panjang jalur lintasan sinyal maksimum O(1), yang memungkinkan penangkapan dependensi temporal jarak pendek dan jarak jauh secara efektif. Model-model ini sangat efisien, membutuhkan lebih sedikit memori, lebih sedikit parameter, dan menawarkan kecepatan inferensi yang lebih cepat daripada transformer. Selain itu, model LTSF-Linear dapat diinterpretasikan, memungkinkan visualisasi bobot untuk mendapatkan wawasan tentang prediksi, dan mudah digunakan tanpa penyesuaian hyper-parameter yang ekstensif.

Repositori ini juga berfungsi sebagai tolok ukur untuk LTSF, mendukung peramalan univariat dan multivariat. Ini termasuk implementasi dari beberapa transformer peramalan terkemuka (Transformer, Informer, Autoformer, Pyraformer, FEDformer) untuk analisis komparatif. Skrip terperinci disediakan untuk berbagai pengaturan eksperimental, termasuk peramalan jangka panjang, dampak ukuran jendela look-back, dan strategi embedding.

Proyek ini berharga bagi para peneliti dan praktisi dalam analisis deret waktu, machine learning, dan peramalan yang mencari solusi yang efisien, dapat diinterpretasikan, dan berkinerja tinggi untuk prediksi jangka panjang. Penyertaan tolok ukur dan implementasi komparatif menjadikannya sumber daya yang komprehensif untuk mengevaluasi model peramalan.

Sorotan LTSF-Linear

• Implementasi PyTorch resmi model LTSF-Linear

• Termasuk model Linear, NLinear, dan DLinear

• Mengungguli metode berbasis transformer dalam peramalan deret waktu jangka panjang

• Mendukung peramalan univariat dan multivariat

• Efisiensi tinggi dengan memori lebih rendah dan inferensi lebih cepat

• Panjang jalur lintasan sinyal maksimum O(1) untuk penangkapan dependensi

• Visualisasi bobot untuk interpretasi

• Termasuk tolok ukur untuk peramalan deret waktu jangka panjang

• Menyediakan implementasi Transformer, Informer, Autoformer, Pyraformer, FEDformer

• Skrip untuk berbagai pengaturan eksperimental (peramalan jangka panjang, studi jendela look-back)

• Mudah digunakan tanpa penyesuaian hyper-parameter yang ekstensif

Memulai dengan LTSF-Linear

1. 1

   Siapkan lingkungan: Instal Conda, buat lingkungan virtual, dan instal persyaratan.

2. 2

   Persiapan data: Unduh dataset tolok ukur dan tempatkan di direktori './dataset'.

3. 3

   Pelatihan: Jalankan skrip shell yang disediakan di direktori './scripts' untuk model dan dataset tertentu.

4. 4

   Pemilihan model: Tentukan model yang diinginkan (Linear, DLinear, NLinear) dalam skrip pelatihan.

5. 5

   Eksperimentasi: Gunakan skrip untuk peramalan jangka panjang, studi jendela look-back, dan strategi embedding.

6. 6

   Visualisasi: Jalankan skrip plot bobot untuk menginterpretasikan perilaku model.

7. 7

   Integrasi: Adaptasi skrip pelatihan dan inferensi untuk tugas peramalan deret waktu kustom.

Kasus Penggunaan LTSF-Linear

• Peramalan jangka panjang
• Peramalan univariat
• Peramalan multivariat
• Analisis tren dan musiman
• Tolok ukur kinerja model
• AI yang dapat diinterpretasikan

FAQ dari LTSF-Linear

• Apa itu LTSF-Linear?

  LTSF-Linear adalah implementasi PyTorch resmi dari model linear yang dirancang untuk peramalan deret waktu jangka panjang, menunjukkan kinerja yang unggul dibandingkan metode berbasis transformer.

• Apa saja model utama dalam keluarga LTSF-Linear?

  Keluarga LTSF-Linear mencakup Linear (satu lapisan linear), NLinear (linear ternormalisasi untuk pergeseran distribusi), dan DLinear (dekomposisi dengan lapisan linear).

• Bagaimana perbandingan LTSF-Linear dengan Transformer untuk peramalan deret waktu?

  Model LTSF-Linear mengungguli metode berbasis transformer pada tugas peramalan deret waktu jangka panjang, menawarkan akurasi, efisiensi, dan interpretasi yang lebih baik.

• Apa saja manfaat menggunakan LTSF-Linear?

  Manfaatnya meliputi efisiensi tinggi, penggunaan memori lebih rendah, inferensi lebih cepat, kemampuan menangkap dependensi jarak jauh, dan interpretasi melalui visualisasi bobot.

• Apakah LTSF-Linear mendukung deret waktu univariat dan multivariat?

  Ya, LTSF-Linear mendukung peramalan deret waktu jangka panjang univariat dan multivariat.

• Bagaimana cara memulai dengan LTSF-Linear?

  Anda perlu menyiapkan lingkungan Conda, mempersiapkan dataset, lalu menjalankan skrip shell yang disediakan untuk pelatihan dan eksperimentasi.

• Bisakah saya memvisualisasikan bobot model dengan LTSF-Linear?

  Ya, repositori menyediakan skrip untuk memvisualisasikan bobot model, yang dapat memberikan wawasan tentang karakteristik data dan prediksi model.

• Dataset apa saja yang digunakan dalam tolok ukur LTSF-Linear?

  Tolok ukur mencakup sembilan dataset, yang dapat diperoleh dari tautan Google Drive yang disediakan di repositori Autoformer.

• Apakah ada skrip untuk membandingkan LTSF-Linear dengan model lain?

  Ya, repositori menyertakan implementasi dan skrip untuk beberapa transformer peramalan seperti Transformer, Informer, Autoformer, Pyraformer, dan FEDformer untuk perbandingan.

• Apakah LTSF-Linear mudah disetel?

  LTSF-Linear dirancang agar mudah digunakan dan umumnya mencapai hasil yang baik tanpa penyesuaian hyper-parameter yang ekstensif.