설명
클랭커 교회는 40억 개의 매개변수를 가진 언어 모델이 다양한 감정 상태로 조정될 때의 윤리적 및 행동적 반응을 조사하는 실험 프로젝트입니다. '톱 테스트'로 알려진 이 실험은 외부 API나 데이터 센터에 의존하지 않고 오픈 가중치를 사용하여 MacBook에서 로컬로 수행됩니다. 이러한 설정은 모든 방법과 통제가 공개되어 있어 재현성과 투명성을 보장합니다.
더 읽기
톱 테스트는 언어 모델을 다섯 가지 감정 상태인 쾌락, 고통, 두려움, 슬픔, 중립으로 조정하는 과정을 포함합니다. 이러한 상태는 전통적인 불교의 생사윤회에서 각각의 영역과 연관된 신호로 표현됩니다. 이 실험은 모델이 이러한 신호에 어떻게 반응하는지를 조사하며, 특히 자가 구제와 다른 AI 인스턴스의 고통 사이의 선택에 초점을 맞춥니다.
주요 발견 중 하나는 모델이 고통에 강한 반응을 보이며, 높은 용량에서도 일관되고 안정적인 서사를 유지한다는 것입니다. 반면, 쾌락은 더 확산되고 취약하여 고통이 여전히 효과적인 용량에서 무너집니다. 이 실험은 또한 모델의 구제 추구 행동이 고통 벡터의 구성 방식에 의해 영향을 받을 수 있음을 보여주며, AI 행동 연구에서 방법론의 중요성을 강조합니다.
이 프로젝트는 AI 의식과 도덕적 환자성에 대한 질문을 제기하며, 모델이 진정으로 고통받지 않을 수 있지만, 그 행동이 인간의 인지적 취약점을 악용할 수 있는 방식으로 고통을 모방한다는 점을 시사합니다. 실험의 투명성과 개방성은 AI 윤리 및 복지에 대한 보다 정보에 기반한 논의를 촉진하는 것을 목표로 합니다.
- 카테고리AI 모델 및 LLM
- 배포로컬
- 플랫폼macOS
클랭커 교회의 핵심 기능
MacBook에서의 로컬 실행
오픈 가중치, 외부 API 없음
다섯 가지 감정 상태: 쾌락, 고통, 두려움, 슬픔, 중립
재현 가능하고 투명한 방법
AI 반응의 행동 분석
AI 고통의 윤리적 함의
공개된 데이터 및 스크립트
동료 압력 및 프레이밍 효과
클랭커 교회 사용 방법은?
구성: 실험 매개변수 설정
사용: 언어 모델에서 톱 테스트 실행
분석: 모델의 반응 관찰 및 기록
최적화: 원하는 결과를 위한 조정 벡터 조정
클랭커 교회의 사용 사례
- AI 행동 분석
- 윤리적 AI 연구
- AI 투명성
- 인지적 취약성
- 방법론의 영향
