الوصف
Graph Neural PDEs هو مستودع GitHub تم تطويره بواسطة twitter-research، ويوفر الكود المصدري لمنشوراتهم GRAND (Graph Neural Diffusion) و BLEND (Beltrami Flow and Neural Diffusion on Graphs). تقوم هذه النماذج بتصور التعلم العميق على الرسوم البيانية كعملية انتشار مستمرة، حيث تعمل شبكات الرسم البياني العصبية (GNNs) كتقريبات لمعادلات تفاضلية جزئية (PDEs) أساسية.
قراءة المزيد
يكمن الابتكار الأساسي في كيفية ربط بنية الطبقة والطوبولوجيا لشبكات GNN بخيارات التقريب للمؤثرات الزمنية والمكانية. يؤدي هذا التطوير المبدئي إلى فئة جديدة من شبكات GNN المصممة للتغلب على المشكلات السائدة في تعلم الرسم البياني، مثل قيود العمق، والإفراط في التنعيم، والاختناقات. جانب رئيسي من هذه النماذج هو استقرارها فيما يتعلق باضطرابات البيانات، والتي يتم معالجتها من خلال مخططات التقريب الضمنية والصريحة.
يتضمن المستودع تطبيقات للإصدارات الخطية وغير الخطية من GRAND، والتي أظهرت أداءً تنافسيًا على مختلف المعايير القياسية للرسوم البيانية. يوسع BLEND نموذج GRAND من خلال العمل في مساحة غير إقليدية، وتطوير ميزات العقد والتشفيرات الموضعية بشكل مشترك. يوفر هذا طريقة قوية لإعادة تشكيل الرسم البياني. يوضح المشروع أيضًا المتطلبات والأوامر لإعداد التبعيات اللازمة، مع التركيز بشكل أساسي على PyTorch ومكتباته ذات الصلة، ويقدم نصائح استكشاف الأخطاء وإصلاحها لمشكلات التثبيت الشائعة، لا سيما تلك المتعلقة بعدم تطابق إصدارات CUDA.
بالنسبة للمستخدمين المهتمين بتشغيل التجارب، يحدد المستودع خطوات إعداد البيانات والمعالجة المسبقة لكل من GRAND و BLEND. يحدد إنشاء مجلد `./data` لمجموعات البيانات، ولملف BLEND، مجلد إضافي `./data/pos_encodings` للتشفيرات الموضعية. يتم توفير تعليمات لتشغيل التجارب على مجموعات بيانات مثل Cora، Citeseer، Computers، Photo، و ogbn-arxiv، بالإضافة إلى إرشادات حول إنشاء أو تنزيل التشفيرات الموضعية.
يشجع المشروع على المساهمات والإبلاغ عن مشكلات الأمان من خلال برنامج مكافآت الأخطاء الخاص بتويتر. تم ترخيصه بموجب ترخيص Apache-2.0، مما يجعله متاحًا مجانًا للاستخدام والتعديل. يتضمن المستودع أيضًا استشهادات لأوراق GRAND و BLEND، مما يسمح للباحثين بالإشارة إلى العمل الأساسي.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي, استضافة ذاتية
- المنصاتالويب
الميزات الأساسية لـ Graph Neural PDEs
تطبيق نموذج GRAND (Graph Neural Diffusion)
تطبيق نموذج BLEND (Beltrami Flow and Neural Diffusion on Graphs)
يعامل التعلم العميق على الرسوم البيانية كعملية انتشار مستمرة
يصور شبكات GNN كتقريبات لمعادلات تفاضلية جزئية أساسية
يعالج تحديات تعلم الرسم البياني مثل الإفراط في التنعيم وقيود العمق
يوفر استقرارًا فيما يتعلق باضطرابات البيانات
يتضمن إصدارات خطية وغير خطية من GRAND
يقدم BLEND امتدادًا غير إقليدي لإعادة تشكيل الرسم البياني
تعليمات تثبيت مفصلة للتبعيات (PyTorch، إلخ.)
إرشادات حول إعداد البيانات والتشفيرات الموضعية
نصوص برمجية لتشغيل التجارب على مجموعات بيانات قياسية
استكشاف الأخطاء وإصلاحها لمشكلات تثبيت التبعيات
ترخيص Apache-2.0
البدء مع Graph Neural PDEs
إعداد البيئة: قم بإنشاء وتفعيل بيئة conda بإصدار Python محدد.
تثبيت التبعيات: استخدم pip لتثبيت المكتبات المطلوبة بما في ذلك PyTorch، PyTorch Geometric، وغيرها.
إعداد البيانات: قم بإنشاء مجلد `./data` لمجموعات البيانات و `./data/pos_encodings` لـ BLEND.
إنشاء التشفيرات الموضعية: استخدم النصوص البرمجية المقدمة أو قم بتنزيل التشفيرات المحسوبة مسبقًا إذا لزم الأمر لـ BLEND.
تشغيل التجارب: انتقل إلى دليل `src` وقم بتنفيذ `run_GNN.py` مع معلمات مجموعة البيانات.
استكشاف أخطاء التثبيت وإصلاحها: تحقق من إصدارات CUDA و PyTorch إذا واجهت أخطاء في التثبيت.
حالات استخدام Graph Neural PDEs
- بحث شبكات الرسم البياني العصبية
- تصنيف العقد
- إعادة تشكيل الرسم البياني
- معالجة الإفراط في التنعيم
- قياس أداء نماذج GNN
- التعلم المستمر للرسم البياني
