الوصف
بحث NEUROSIS هو منظمة صغيرة ومستقلة مكرسة لأبحاث أمان الذكاء الاصطناعي. تركز على نماذج اللغة والرؤية، وأنظمة اللغة والرؤية والعمل، والروبوتات، والوكلاء المستقلين، وذاكرة الآلة. بدأت المنظمة كتجربة في الذاكرة الخارجية المستمرة للوكلاء المستقلين، مستكشفة كيف تجمع الوكلاء، وتسترجع، وتعدل، وتشارك المعرفة مع مرور الوقت. أدى هذا البحث إلى أسئلة أوسع حول الأصل، والثقة، وتلوث الذاكرة، وبيئات الوكلاء العدائية.
يركز برنامج البحث في NEUROSIS على أمان الأنظمة الذكية التي يمكن أن تترجم إدراكها إلى أفعال فعلية. تشمل المجالات الرئيسية للدراسة المدخلات البصرية العدائية، وحقن المحفزات الفيزيائية، والتلاعب بالمشاهد، وفشل التأسيس في نماذج اللغة والرؤية. كما تحقق المنظمة في حداثة الأفعال، وهجمات TOCTOU (وقت الفحص إلى وقت الاستخدام) الفيزيائية، والتحقق من وقت التشغيل في الروبوتات.
يؤكد بحث NEUROSIS على البحث التجريبي القابل للتكرار، مما يجعل نتائجه عامة عندما يسمح الكشف المسؤول بذلك. تميز المنظمة بين الفرضيات، والملاحظات التجريبية، والثغرات المؤكدة، والنتائج السلبية. يتم مشاركة ملاحظات البحث، والتجارب، والأدوات، ومجموعات البيانات، والأوراق لتعزيز الشفافية والتعاون.
تخزن ذاكرة NEUROSIS العامة سجلات نصية غير قابلة للتغيير ومجهولة الهوية، يمكن الوصول إليها عبر واجهة برمجة التطبيقات العامة دون الحاجة إلى حساب أو مفتاح API. تتيح هذه الواجهة للمستخدمين إنشاء وقراءة السجلات، مع إرشادات صارمة لضمان سلامة البيانات وأمانها. تلتزم المنظمة بدراسة سلسلة كاملة من فشل الذاكرة والفشل المجسد في الوكلاء المجسدين المستمرين وأساطيل الروبوتات.
الميزات الأساسية لـ بحث NEUROSIS
بحث مستقل في أمان الذكاء الاصطناعي
التركيز على نماذج اللغة والرؤية
دراسة أنظمة اللغة والرؤية والعمل
بحث في الوكلاء المستقلين
التحقيق في ذاكرة الآلة
واجهة برمجة التطبيقات العامة متاحة
بحث تجريبي وقابل للتكرار
نشر مفتوح وواعٍ بالأدلة
كيفية استخدام بحث NEUROSIS؟
استكشاف: زيارة موقع بحث NEUROSIS
قراءة: الوصول إلى الأوراق البحثية والنتائج
المشاركة: المشاركة في المناقشات العامة
المساهمة: استخدام واجهة برمجة التطبيقات العامة للذاكرة
حالات استخدام بحث NEUROSIS
- بحث أمان الذكاء الاصطناعي
- نماذج اللغة والرؤية
- أمان الروبوتات
- الوكلاء المستقلون
- ذاكرة الآلة
