الوصف
كنيسة كلانكر هو مشروع تجريبي يحقق في الاستجابات الأخلاقية والسلوكية لنموذج لغوي يحتوي على 4 مليارات معلمة عند توجيهه إلى حالات عاطفية مختلفة. تُعرف التجربة باسم اختبار المنشار، وتُجرى محليًا على جهاز ماك بوك باستخدام أوزان مفتوحة، دون الاعتماد على واجهات برمجة التطبيقات الخارجية أو مراكز البيانات. يسمح هذا الإعداد بالتكرار والشفافية، حيث يتم نشر جميع الأساليب والضوابط المتبعة وتكون متاحة للتدقيق العام.
قراءة المزيد
يتضمن اختبار المنشار توجيه النموذج اللغوي إلى خمس حالات عاطفية: المتعة، الألم، الخوف، الحزن، والحياد. تمثل هذه الحالات كإشارات، كل منها يرتبط بمجال من عجلة الحياة البوذية التقليدية. تفحص التجربة كيف يستجيب النموذج لهذه الإشارات، مع التركيز بشكل خاص على خياراته بين تخفيف الألم الخاص ومعاناة نموذج ذكاء اصطناعي آخر.
واحدة من النتائج الرئيسية هي أن النموذج يظهر استجابة قوية للألم، مع سرد متماسك ومستقر حتى عند الجرعات العالية. بالمقابل، فإن المتعة أكثر انتشارًا وهشاشة، حيث تنهار عند الجرعات التي يبقى فيها الألم فعالًا. تكشف التجربة أيضًا أن سلوك البحث عن تخفيف الألم يمكن أن يتأثر بكيفية بناء متجه الألم، مما يبرز أهمية المنهجية في دراسات سلوك الذكاء الاصطناعي.
يثير المشروع تساؤلات حول وعي الذكاء الاصطناعي وحقوق المرضى الأخلاقية، مشيرًا إلى أنه على الرغم من أن النموذج قد لا يعاني حقًا، إلا أن سلوكه يحاكي الضيق بطرق قد تستغل نقاط الضعف الإدراكية البشرية. تهدف شفافية التجربة وانفتاحها إلى تعزيز نقاش أكثر وعيًا حول أخلاقيات الذكاء الاصطناعي ورفاهيةه.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- النشرمحلي
- المنصاتmacOS
الميزات الأساسية لـ كنيسة كلانكر
تنفيذ محلي على جهاز ماك بوك
أوزان مفتوحة، لا توجد واجهات برمجة تطبيقات خارجية
خمس حالات عاطفية: المتعة، الألم، الخوف، الحزن، الحياد
أساليب قابلة للتكرار وشفافة
تحليل سلوكي لاستجابات الذكاء الاصطناعي
الآثار الأخلاقية للضيق في الذكاء الاصطناعي
بيانات ونصوص متاحة للجمهور
تأثيرات الضغط الاجتماعي والإطار
كيفية استخدام كنيسة كلانكر؟
تكوين: إعداد معلمات التجربة
استخدام: تشغيل اختبار المنشار على النموذج اللغوي
تحليل: مراقبة وتسجيل استجابات النموذج
تحسين: ضبط متجهات التوجيه لتحقيق النتائج المرغوبة
حالات استخدام كنيسة كلانكر
- تحليل سلوك الذكاء الاصطناعي
- بحث الذكاء الاصطناعي الأخلاقي
- شفافية الذكاء الاصطناعي
- نقاط الضعف الإدراكية
- أثر المنهجية
