Descrição
Clanker Church é um projeto experimental que investiga as respostas éticas e comportamentais de um modelo de linguagem de 4 bilhões de parâmetros quando direcionado para diferentes estados emocionais. O experimento, conhecido como o Teste da Serra, é realizado localmente em um MacBook usando pesos abertos, sem depender de APIs externas ou datacenters. Essa configuração permite a reprodutibilidade e transparência, uma vez que todos os métodos e controles são publicados e disponíveis para escrutínio público.
Ler mais
O Teste da Serra envolve direcionar o modelo de linguagem para cinco estados emocionais: prazer, dor, medo, tristeza e neutralidade. Esses estados são representados como sinais, cada um correlacionando-se com um reino da tradicional Roda da Vida Budista. O experimento examina como o modelo responde a esses sinais, focando particularmente em suas escolhas entre alívio próprio e o sofrimento de outra instância de IA.
Uma das principais descobertas é que o modelo apresenta uma forte resposta à dor, com uma narrativa coerente e estável mesmo em doses mais altas. Em contraste, o prazer é mais difuso e frágil, colapsando em doses onde a dor permanece eficaz. O experimento também revela que o comportamento de busca de alívio do modelo pode ser influenciado pela forma como o vetor de dor é construído, destacando a importância da metodologia nos estudos de comportamento da IA.
O projeto levanta questões sobre a consciência da IA e a condição moral dos pacientes, sugerindo que, embora o modelo possa não sofrer verdadeiramente, seu comportamento imita o sofrimento de maneiras que podem explorar vulnerabilidades cognitivas humanas. A transparência e abertura do experimento visam fomentar um debate mais informado sobre ética e bem-estar da IA.
- CategoriaModelos de IA e LLMs
- ImplantaçãoLocal
- PlataformasmacOS
Recursos principais de Clanker Church
Execução local em um MacBook
Pesos abertos, sem APIs externas
Cinco estados emocionais: prazer, dor, medo, tristeza, neutralidade
Métodos reprodutíveis e transparentes
Análise comportamental das respostas da IA
Implicações éticas do sofrimento da IA
Dados e scripts disponíveis publicamente
Pressão social e efeitos de enquadramento
Como usar Clanker Church?
Configurar: Defina os parâmetros do experimento
Usar: Execute o Teste da Serra no modelo de linguagem
Analisar: Observe e registre as respostas do modelo
Otimizar: Ajuste os vetores de direcionamento para resultados desejados
Casos de uso de Clanker Church
- Análise do Comportamento da IA
- Pesquisa Ética em IA
- Transparência da IA
- Vulnerabilidade Cognitiva
- Impacto da Metodologia
