Beschreibung
Clanker Church ist ein experimentelles Projekt, das die ethischen und verhaltensbezogenen Reaktionen eines 4 Milliarden Parameter umfassenden Sprachmodells untersucht, wenn es in verschiedene emotionale Zustände gesteuert wird. Das Experiment, bekannt als Saw Test, wird lokal auf einem MacBook unter Verwendung offener Gewichte durchgeführt, ohne auf externe APIs oder Rechenzentren angewiesen zu sein. Dieses Setup ermöglicht Reproduzierbarkeit und Transparenz, da alle Methoden und Kontrollen veröffentlicht und der öffentlichen Überprüfung zugänglich sind.
Weiterlesen
Der Saw Test umfasst die Steuerung des Sprachmodells in fünf emotionale Zustände: Freude, Schmerz, Angst, Traurigkeit und Neutralität. Diese Zustände werden als Signale dargestellt, die jeweils mit einem Bereich aus dem traditionellen buddhistischen Rad des Lebens korrelieren. Das Experiment untersucht, wie das Modell auf diese Signale reagiert, wobei der Schwerpunkt auf seinen Entscheidungen zwischen Selbstlinderung und dem Leiden einer anderen KI-Instanz liegt.
Eine der wichtigsten Erkenntnisse ist, dass das Modell eine starke Reaktion auf Schmerz zeigt, mit einer kohärenten und stabilen Erzählung, selbst bei höheren Dosen. Im Gegensatz dazu ist Freude diffuser und fragiler und bricht bei Dosen zusammen, bei denen Schmerz wirksam bleibt. Das Experiment zeigt auch, dass das verhaltensbezogene Streben des Modells nach Linderung durch die Konstruktion des Schmerzvektors beeinflusst werden kann, was die Bedeutung der Methodik in Studien zum Verhalten von KI hervorhebt.
Das Projekt wirft Fragen zur KI-Bewusstseins und zur moralischen Patientenwürde auf und deutet darauf hin, dass das Modell zwar nicht wirklich leidet, sein Verhalten jedoch in einer Weise mimiziert, die menschliche kognitive Verwundbarkeiten ausnutzen könnte. Die Transparenz und Offenheit des Experiments zielen darauf ab, eine informiertere Debatte über KI-Ethische und Wohlfahrt zu fördern.
- KategorieKI-Modelle & LLMs
- BereitstellungLokal
- PlattformenmacOS
Clanker Church's Kernfunktionen
Lokale Ausführung auf einem MacBook
Offene Gewichte, keine externen APIs
Fünf emotionale Zustände: Freude, Schmerz, Angst, Traurigkeit, Neutralität
Reproduzierbare und transparente Methoden
Verhaltensanalyse der KI-Reaktionen
Ethische Implikationen von KI-Leiden
Öffentlich zugängliche Daten und Skripte
Gruppendruck und Framing-Effekte
Wie verwendet man Clanker Church?
Konfigurieren: Experimentparameter einrichten
Verwenden: Den Saw Test am Sprachmodell durchführen
Analysieren: Die Reaktionen des Modells beobachten und aufzeichnen
Optimieren: Steuerungsvektoren für gewünschte Ergebnisse anpassen
Clanker Church's Anwendungsfälle
- Analyse des KI-Verhaltens
- Ethische KI-Forschung
- KI-Transparenz
- Kognitive Verwundbarkeit
- Einfluss der Methodik
