الوصف
صندوق أدوات القوة ضد الهجمات (ART) هو مكتبة بايثون شاملة تركز على أمان نماذج التعلم الآلي. كمشروع تحت مؤسسة LF AI & Data، يوفر ART للمطورين والباحثين الأدوات اللازمة لتقييم ودفاع والتحقق من نماذج وتطبيقات التعلم الآلي ضد التهديدات العدائية. تم تطويره في الأصل بواسطة IBM، وتم نقله إلى LF AI في يوليو 2020، مما يبرز أهميته في مجتمع الذكاء الاصطناعي.
يدعم الصندوق مجموعة واسعة من أطر التعلم الآلي الشهيرة، بما في ذلك TensorFlow وKeras وPyTorch وMXNet وscikit-learn وXGBoost وLightGBM وCatBoost وGPy. إنه متعدد الاستخدامات في التعامل مع أنواع البيانات المختلفة مثل الصور والجداول والصوت والفيديو، ويطبق على العديد من مهام التعلم الآلي مثل التصنيف واكتشاف الكائنات والتوليد والشهادات.
يحتوي ART على 39 وحدة هجوم مصنفة إلى أربعة أنواع رئيسية: التهرب، والتسميم، والاستخراج، والاستدلال. تتيح هذه الوحدات للمستخدمين محاكاة ودراسة سيناريوهات عدائية مختلفة. بالإضافة إلى ذلك، يقدم ART 29 وحدة دفاع، منظمة في خمس فئات: المعالج المسبق، والمعالج اللاحق، والمدرب، والمحولات، والكاشف. تساعد هذه الآليات الدفاعية في تعزيز النماذج ضد الهجمات العدائية المحتملة.
يتضمن الصندوق أيضًا دعمًا لثلاث مقاييس للمتانة، ومقياس واحد للشهادة، ومقياس واحد للتحقق، مما يوفر مجموعة شاملة لتقييم متانة نماذج التعلم الآلي. يمكن للمستخدمين العثور على معلومات مفصلة حول هذه المقاييس والمقدرات في دليل المستخدم، بالإضافة إلى دفاتر ملاحظات نموذجية لتسهيل البدء مع ART.
يشجع ART المشاركة المجتمعية من خلال مستودع GitHub الخاص به، حيث يمكن للمستخدمين المساهمة في تطويره. يحتفظ المشروع أيضًا بثلاث قوائم بريدية لتلبية اهتمامات مختلفة، تتراوح من إعلانات المعالم إلى المناقشات الفنية. يعد هذا المشروع مفتوح المصدر موردًا قيمًا لأي شخص يتطلع إلى تعزيز أمان وقوة نماذج الذكاء الاصطناعي الخاصة بهم.
الميزات الأساسية لـ صندوق أدوات القوة ضد الهجمات
يدعم أطر التعلم الآلي الشهيرة
يتعامل مع أنواع بيانات متنوعة
39 وحدة هجوم
29 وحدة دفاع
مقاييس متانة مضمنة
مقاييس الشهادة والتحقق
تطوير مدفوع من المجتمع
مشروع مفتوح المصدر
كيفية استخدام صندوق أدوات القوة ضد الهجمات؟
تكوين: إعداد الصندوق باستخدام دليل المستخدم
استخدام: تنفيذ وحدات الهجوم والدفاع
تقييم: تقييم متانة النموذج باستخدام المقاييس
المساهمة: الانضمام إلى المجتمع على GitHub
حالات استخدام صندوق أدوات القوة ضد الهجمات
- تقييم النموذج
- الدفاع ضد الهجمات العدائية
- بحث أمني
- مساهمة مجتمعية
- أغراض تعليمية
