الوصف
Autoformer هو نموذج ذكاء اصطناعي متطور مصمم للتنبؤ بالسلاسل الزمنية طويلة الأجل، تم تقديمه في مؤتمر NeurIPS 2021. يلبي الطلب الحاسم على التنبؤات الدقيقة في التطبيقات الواقعية من خلال اقتراح بنية جديدة تتجاوز نماذج Transformer التقليدية. يكمن الابتكار الأساسي في اتصاله على مستوى السلاسل، والذي يتم تحقيقه من خلال بنية تفكيك عميقة وآلية ارتباط تلقائي فريدة.
قراءة المزيد
تقوم بنية التفكيك العميقة بتقسيم السلاسل الزمنية تدريجيًا إلى مكونات اتجاهية وموسمية، مما يسمح بفهم وتنبؤ أكثر دقة للقيم المستقبلية. يكمل ذلك آلية الارتباط التلقائي، المستوحاة من نظرية العمليات العشوائية. تكتشف هذه الآلية الاعتماديات القائمة على الدورات وتجمع المعلومات على مستوى السلسلة، مما يؤدي إلى تعقيد لوغاريتمي خطي متأصل. هذا الاتصال على مستوى السلاسل هو ابتعاد كبير عن آليات الانتباه الذاتي السائدة في عائلات Transformer الأخرى.
أظهر Autoformer أداءً متطورًا، محققًا تحسنًا نسبيًا بنسبة 38٪ مقارنة بالخطوط الأساسية السابقة على ستة معايير عبر خمسة تطبيقات عملية: الطاقة، وحركة المرور، والاقتصاد، والطقس، والأمراض. يوفر المشروع إصدارًا للكود الخاص بالورقة البحثية، مما يمكّن المستخدمين من إعادة إنتاج النتائج ودمج النموذج في مهام التنبؤ الخاصة بهم. تتضمن المستودعات نصوصًا برمجية للتدريب والتقييم على مجموعات بيانات مختلفة، بالإضافة إلى تعليمات لإعداد البيئة وتشغيل التجارب.
تسلط التحديثات الأخيرة الضوء على التأثير المتزايد لـ Autoformer، بما في ذلك إدراجه في Hugging Face وإصدار النسخة الموسعة المنشورة في Nature Machine Intelligence. علاوة على ذلك، تم نشر Autoformer خلال دورة الألعاب الأولمبية الشتوية لعام 2022 للتنبؤ بالطقس. النموذج هو أيضًا جزء من مكتبة Time-Series-Library الأوسع، والتي تغطي مجموعة من مهام السلاسل الزمنية. يؤكد المشروع على سهولة الاستخدام مع تكامل Docker و Make للحصول على نتائج قابلة للتكرار.
يشمل الجمهور المستهدف لـ Autoformer الباحثين وعلماء البيانات والمهندسين الذين يعملون على مشاكل تحليل وتنبؤ السلاسل الزمنية. إن قدرته على التعامل مع التبعيات طويلة الأجل وتحقيق دقة فائقة تجعله ذا قيمة للتطبيقات التي تتطلب تنبؤات مستقبلية موثوقة. تقدم البنية الفريدة للنموذج وتحسينات الأداء تقدمًا كبيرًا في مجال التنبؤ بالسلاسل الزمنية.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي, استضافة ذاتية
- المنصاتالويب
الميزات الأساسية لـ Autoformer
بنية تفكيك عميقة لتحليل المكونات التدريجي
آلية ارتباط تلقائي على مستوى السلاسل للاعتماديات القائمة على الدورات
تعقيد لوغاريتمي خطي متأصل
أداء متطور في التنبؤ بالسلاسل طويلة الأجل
يحقق تحسنًا نسبيًا بنسبة 38٪ على ستة معايير
قابل للتطبيق على التنبؤ بالطاقة وحركة المرور والاقتصاد والطقس والأمراض
إصدار الكود متاح للبحث والتنفيذ
لا يتطلب تضمين الموضع بسبب الاتصال على مستوى السلاسل
كتلة بأسلوب التطبيع الدفعي (Batch-normalization) للارتباط التلقائي المناسب للوصول إلى الذاكرة
نتائج قابلة للتكرار مع Docker و conda و Make
البدء مع Autoformer
إعداد البيئة: تثبيت Python 3.6 و PyTorch 1.9.0.
تنزيل البيانات: الحصول على مجموعات بيانات المعايير من Google Drive.
تدريب النموذج: تنفيذ نصوص التجارب البرمجية المتوفرة في مجلد ./scripts.
التكامل عبر API: استخدام قدرات التنبؤ للنموذج في التطبيقات المخصصة.
إعادة إنتاج النتائج: اتباع تعليمات Docker لتهيئة البيئة وتنفيذ النصوص البرمجية.
تشغيل التجارب: استخدام نصوص bash البرمجية المتوفرة لمجموعات بيانات محددة مثل ETTm1 أو ECL.
التكيف مع المهام الجديدة: استكشاف مكتبة Time-Series-Library للتنبؤ الموسع، والاستكمال، واكتشاف الشذوذ.
حالات استخدام Autoformer
- التنبؤ بالطاقة
- التنبؤ بحركة المرور
- التنبؤ الاقتصادي
- التنبؤ بالطقس
- التنبؤ بتفشي الأمراض
- تحليل السلاسل الزمنية المالية
- تحسين سلسلة التوريد
