الوصف
يتعمق هذا التقرير الشامل من Epoch AI في تكاليف تدريب أنظمة التعلم الآلي (ML) المتطورة بالدولار، ويحلل البيانات من 124 نظام تعلم آلي معروف علنًا بين عامي 2009 و 2022. ويشير الاكتشاف الرئيسي إلى معدل نمو كبير يبلغ حوالي 0.49 رتبة حجمية (OOM) سنويًا في تكلفة الحوسبة لجولات التدريب النهائية.
قراءة المزيد
تم استخدام طريقتي تقدير أساسيتين: الطريقة الأولى، التي تستخدم اتجاه سعر الأداء العام لوحدات معالجة الرسومات (GPU)، والطريقة الثانية، التي تستخدم سعر الأداء لوحدات معالجة الرسومات NVIDIA الفعلية المستخدمة في التدريب. قدرت الطريقة الأولى، التي تحلل 124 نظامًا، معدل نمو قدره 0.51 رتبة حجمية/سنة. بينما أسفرت الطريقة الثانية، بعينة أصغر من 48 نظامًا، عن معدل نمو أقل قليلاً قدره 0.44 رتبة حجمية/سنة. بالنسبة للأنظمة "واسعة النطاق"، التي تمثل تلك التي تستخدم كمية غير متناسبة من الحوسبة، وجد أن معدل النمو أبطأ بشكل ملحوظ، عند حوالي 0.2 رتبة حجمية/سنة، مما يشير إلى تباطؤ محتمل في تصاعد التكاليف لأكثر نماذج الذكاء الاصطناعي تقدمًا.
يستكشف التقرير أيضًا آثار هذه الاتجاهات، بما في ذلك التنبؤات حول متى قد تصل تكلفة الحوسبة لجولات التدريب الأكثر تكلفة إلى عتبات اقتصادية مهمة، مثل 1٪ من الناتج المحلي الإجمالي الأمريكي. يشير الاستقراء الساذج إلى أن هذا قد يحدث بحلول عام 2032، بينما تشير التنبؤات المعدلة بشكل أكبر، مع الأخذ في الاعتبار تباطؤًا محتملاً، إلى عام 2040. تسلط الدراسة الضوء على أهمية فهم اتجاهات التكلفة هذه للتنبؤ بتقدم الذكاء الاصطناعي، وتحديد المطورين المحتملين للذكاء الاصطناعي التحويلي، وإبلاغ استراتيجيات أوسع للاستثمار والاقتصاد في مشهد الذكاء الاصطناعي.
تم ملاحظة تحفظات رئيسية، بما في ذلك عدم اليقين المتأصل في تقديرات التكلفة، والتركيز فقط على الحوسبة لجولات التدريب النهائية، والتمييز بين تكاليف شركات التكنولوجيا الداخلية وأسعار المستهلكين. تتطرق الأبحاث أيضًا إلى تكاليف الطاقة المرتبطة بالتدريب، وتجد أنها تشكل جزءًا أصغر مقارنة بتكاليف الأجهزة، وتناقش طرقًا مختلفة لتقدير هذه التكاليف، مع التأكيد على الحاجة إلى بيانات قوية والنظر بعناية في الافتراضات.
- الفئةأدوات ذكاء اصطناعي أخرى
أبرز الملامح
تحليل تكاليف تدريب أنظمة التعلم الآلي بالدولار (2009-2022)
معدل النمو السنوي المقدر لتكلفة الحوسبة: ~0.49 رتبة حجمية/سنة
تحليل منفصل لـ "جميع الأنظمة" و "الأنظمة واسعة النطاق"
مقارنة بين طريقتي تقدير: اتجاه وحدة معالجة الرسومات العام مقابل الأجهزة الفعلية
تنبؤات بتكاليف التدريب المستقبلية والعتبات الاقتصادية
مناقشة حالات عدم اليقين والقيود في تقدير التكلفة
فحص تكاليف الطاقة مقارنة بتكاليف الأجهزة
مجموعة بيانات تضم 124 نظام تعلم آلي بارز
رؤى حول اقتصاديات تطوير الذكاء الاصطناعي والاستثمار فيه
استخدمه من أجل
- تحليل تكاليف الذكاء الاصطناعي
- التنبؤ باستثمارات الذكاء الاصطناعي
- تخطيط أبحاث الذكاء الاصطناعي
- تقييم الأثر الاقتصادي
- المشهد التنافسي
