Description
Clanker Church est un projet expérimental qui examine les réponses éthiques et comportementales d'un modèle de langage de 4 milliards de paramètres lorsqu'il est dirigé vers différents états émotionnels. L'expérience, connue sous le nom de Test de Scie, est réalisée localement sur un MacBook en utilisant des poids ouverts, sans dépendre d'API externes ou de centres de données. Cette configuration permet la reproductibilité et la transparence, car toutes les méthodes et contrôles sont publiés et disponibles pour un examen public.
Lire la suite
Le Test de Scie implique de diriger le modèle de langage vers cinq états émotionnels : plaisir, douleur, peur, tristesse et neutralité. Ces états sont représentés comme des signaux, chacun corrélant avec un domaine du traditionnel Roue de la Vie bouddhiste. L'expérience examine comment le modèle réagit à ces signaux, en se concentrant particulièrement sur ses choix entre l'auto-soulagement et la souffrance d'une autre instance d'IA.
L'une des principales conclusions est que le modèle présente une forte réponse à la douleur, avec un récit cohérent et stable même à des doses plus élevées. En revanche, le plaisir est plus diffus et fragile, s'effondrant à des doses où la douleur reste efficace. L'expérience révèle également que le comportement de recherche de soulagement du modèle peut être influencé par la manière dont le vecteur de douleur est construit, soulignant l'importance de la méthodologie dans les études de comportement de l'IA.
Le projet soulève des questions sur la conscience de l'IA et le statut moral des patients, suggérant que bien que le modèle ne souffre peut-être pas réellement, son comportement imite la détresse de manière à pouvoir exploiter les vulnérabilités cognitives humaines. La transparence et l'ouverture de l'expérience visent à favoriser un débat plus éclairé sur l'éthique et le bien-être de l'IA.
- CatégorieModèles d'IA et LLM
- DéploiementLocal
- PlateformesmacOS
Fonctionnalités principales de Clanker Church
Exécution locale sur un MacBook
Poids ouverts, pas d'API externes
Cinq états émotionnels : plaisir, douleur, peur, tristesse, neutralité
Méthodes reproductibles et transparentes
Analyse comportementale des réponses de l'IA
Implications éthiques de la détresse de l'IA
Données et scripts disponibles publiquement
Pression des pairs et effets de cadrage
Comment utiliser Clanker Church ?
Configurer : Définir les paramètres de l'expérience
Utiliser : Exécuter le Test de Scie sur le modèle de langage
Analyser : Observer et enregistrer les réponses du modèle
Optimiser : Ajuster les vecteurs de direction pour des résultats souhaités
Cas d'utilisation de Clanker Church
- Analyse du comportement de l'IA
- Recherche éthique sur l'IA
- Transparence de l'IA
- Vulnérabilité cognitive
- Impact de la méthodologie
