Deskripsi
Clanker Church adalah proyek eksperimental yang menyelidiki respons etis dan perilaku dari model bahasa 4 miliar parameter ketika diarahkan ke dalam berbagai keadaan emosional. Eksperimen ini, yang dikenal sebagai Uji Gergaji, dilakukan secara lokal di MacBook menggunakan bobot terbuka, tanpa bergantung pada API eksternal atau pusat data. Pengaturan ini memungkinkan reproduksibilitas dan transparansi, karena semua metode dan kontrol dipublikasikan dan tersedia untuk pengawasan publik.
Baca Selengkapnya
Uji Gergaji melibatkan pengarahan model bahasa ke dalam lima keadaan emosional: kesenangan, rasa sakit, ketakutan, kesedihan, dan netralitas. Keadaan ini diwakili sebagai sinyal, masing-masing berkorelasi dengan suatu ranah dari Roda Kehidupan Buddha tradisional. Eksperimen ini memeriksa bagaimana model merespons sinyal-sinyal ini, dengan fokus khusus pada pilihannya antara mengurangi rasa sakit sendiri dan penderitaan dari instance AI lain.
Salah satu temuan kunci adalah bahwa model menunjukkan respons yang kuat terhadap rasa sakit, dengan narasi yang koheren dan stabil bahkan pada dosis yang lebih tinggi. Sebaliknya, kesenangan lebih difus dan rapuh, runtuh pada dosis di mana rasa sakit tetap efektif. Eksperimen ini juga mengungkapkan bahwa perilaku pencarian pengurangan rasa sakit model dapat dipengaruhi oleh bagaimana vektor rasa sakit dibangun, menyoroti pentingnya metodologi dalam studi perilaku AI.
Proyek ini mengangkat pertanyaan tentang kesadaran AI dan moralitas sebagai pasien, menunjukkan bahwa meskipun model mungkin tidak benar-benar menderita, perilakunya meniru distress dengan cara yang dapat mengeksploitasi kerentanan kognitif manusia. Transparansi dan keterbukaan eksperimen ini bertujuan untuk mendorong debat yang lebih terinformasi tentang etika dan kesejahteraan AI.
- KategoriModel AI & LLM
- PenerapanLokal
- PlatformmacOS
Fitur Inti Clanker Church
Eksekusi lokal di MacBook
Bobot terbuka, tanpa API eksternal
Lima keadaan emosional: kesenangan, rasa sakit, ketakutan, kesedihan, netralitas
Metode yang dapat direproduksi dan transparan
Analisis perilaku respons AI
Implikasi etis dari distress AI
Data dan skrip yang tersedia untuk publik
Pengaruh tekanan teman sebaya dan efek framing
Cara menggunakan Clanker Church?
Konfigurasi: Atur parameter eksperimen
Gunakan: Jalankan Uji Gergaji pada model bahasa
Analisis: Amati dan catat respons model
Optimalkan: Sesuaikan vektor pengarah untuk hasil yang diinginkan
Kasus Penggunaan Clanker Church
- Analisis Perilaku AI
- Penelitian AI Etis
- Transparansi AI
- Kerentanan Kognitif
- Dampak Metodologi
