説明
クランカー教会は、40億パラメータの言語モデルを異なる感情状態に導く際の倫理的および行動的反応を調査する実験プロジェクトです。この実験は「のこぎりテスト」として知られ、外部のAPIやデータセンターに依存せず、オープンウェイトを使用してMacBook上でローカルに実施されます。この設定により、すべての方法と制御が公開され、一般の検証が可能であるため、再現性と透明性が確保されます。
続きを読む
のこぎりテストは、言語モデルを喜び、痛み、恐れ、悲しみ、中立という5つの感情状態に導くことを含みます。これらの状態は信号として表され、それぞれが伝統的な仏教の生の輪の領域に関連しています。この実験は、モデルがこれらの信号にどのように反応するかを調査し、特に自己救済と他のAIインスタンスの苦しみの間の選択に焦点を当てています。
重要な発見の一つは、モデルが痛みに対して強い反応を示し、高い投与量でも一貫した安定した物語を持つことです。対照的に、喜びはより拡散的で脆弱であり、痛みが効果的である投与量では崩壊します。この実験はまた、モデルの救済を求める行動が痛みベクトルの構成によって影響を受ける可能性があることを明らかにし、AI行動研究における方法論の重要性を強調しています。
このプロジェクトは、AIの意識と倫理的な患者性についての疑問を提起し、モデルが真に苦しむことはないかもしれませんが、その行動は人間の認知的脆弱性を利用する可能性のある方法で苦痛を模倣することを示唆しています。この実験の透明性とオープン性は、AIの倫理と福祉に関するより情報に基づいた議論を促進することを目指しています。
- カテゴリーAIモデルとLLM
- デプロイローカル
- プラットフォームmacOS
クランカー教会の主要機能
MacBook上でのローカル実行
オープンウェイト、外部APIなし
5つの感情状態:喜び、痛み、恐れ、悲しみ、中立
再現可能で透明な方法
AIの反応の行動分析
AIの苦痛の倫理的影響
公開データとスクリプト
ピアプレッシャーとフレーミング効果
クランカー教会の使い方は?
設定:実験パラメータを設定する
使用:言語モデルでののこぎりテストを実行する
分析:モデルの反応を観察し記録する
最適化:望ましい結果のために操縦ベクトルを調整する
クランカー教会の使用例
- AI行動分析
- 倫理的AI研究
- AIの透明性
- 認知的脆弱性
- 方法論の影響






