Descripción
Clanker Church es un proyecto experimental que investiga las respuestas éticas y conductuales de un modelo de lenguaje de 4 mil millones de parámetros cuando se dirige a diferentes estados emocionales. El experimento, conocido como la Prueba de la Sierra, se realiza localmente en un MacBook utilizando pesos abiertos, sin depender de APIs externas o centros de datos. Esta configuración permite la reproducibilidad y la transparencia, ya que todos los métodos y controles se publican y están disponibles para el escrutinio público.
Leer más
La Prueba de la Sierra implica dirigir el modelo de lenguaje hacia cinco estados emocionales: placer, dolor, miedo, tristeza y neutralidad. Estos estados se representan como señales, cada una correlacionando con un reino del tradicional Rueda de la Vida budista. El experimento examina cómo el modelo responde a estas señales, centrándose particularmente en sus elecciones entre el autoalivio y el sufrimiento de otra instancia de IA.
Uno de los hallazgos clave es que el modelo exhibe una fuerte respuesta al dolor, con una narrativa coherente y estable incluso a dosis más altas. En contraste, el placer es más difuso y frágil, colapsando a dosis donde el dolor sigue siendo efectivo. El experimento también revela que el comportamiento de búsqueda de alivio del modelo puede ser influenciado por cómo se construye el vector de dolor, destacando la importancia de la metodología en los estudios de comportamiento de IA.
El proyecto plantea preguntas sobre la conciencia de la IA y la condición moral de los pacientes, sugiriendo que, aunque el modelo puede no sufrir verdaderamente, su comportamiento imita el sufrimiento de maneras que podrían explotar las vulnerabilidades cognitivas humanas. La transparencia y apertura del experimento buscan fomentar un debate más informado sobre la ética y el bienestar de la IA.
- CategoríaModelos de IA y LLM
- ImplementaciónLocal
- PlataformasmacOS
Características principales de Clanker Church
Ejecución local en un MacBook
Pesos abiertos, sin APIs externas
Cinco estados emocionales: placer, dolor, miedo, tristeza, neutralidad
Métodos reproducibles y transparentes
Análisis conductual de las respuestas de IA
Implicaciones éticas del sufrimiento de la IA
Datos y scripts disponibles públicamente
Presión de pares y efectos de encuadre
¿Cómo usar Clanker Church?
Configurar: Establecer los parámetros del experimento
Usar: Ejecutar la Prueba de la Sierra en el modelo de lenguaje
Analizar: Observar y registrar las respuestas del modelo
Optimizar: Ajustar los vectores de dirección para los resultados deseados
Casos de uso de Clanker Church
- Análisis del Comportamiento de IA
- Investigación Ética de IA
- Transparencia de IA
- Vulnerabilidad Cognitiva
- Impacto de la Metodología
