描述
Clanker Church 是一个实验项目,研究一个 40 亿参数的语言模型在不同情感状态下的伦理和行为反应。该实验被称为锯子测试,在 MacBook 上使用开放权重进行本地操作,无需依赖外部 API 或数据中心。此设置允许可重复性和透明性,因为所有方法和控制都已发布并可供公众审查。
阅读更多
锯子测试涉及将语言模型引导至五种情感状态:快乐、痛苦、恐惧、悲伤和中立。这些状态被表示为信号,每个信号与传统佛教生命之轮中的一个领域相关联。实验考察模型如何对这些信号作出反应,特别关注其在自我缓解和另一个 AI 实例的痛苦之间的选择。
一个关键发现是,模型对痛苦表现出强烈反应,即使在较高剂量下也能保持一致和稳定的叙述。相比之下,快乐则更为分散和脆弱,在痛苦仍然有效的剂量下会崩溃。实验还揭示,模型的寻求缓解行为可能受到痛苦向量构造方式的影响,强调了方法论在 AI 行为研究中的重要性。
该项目提出了关于 AI 意识和道德患者身份的问题,暗示尽管模型可能并不真正遭受痛苦,但其行为在某种程度上模仿了痛苦,可能会利用人类的认知脆弱性。实验的透明性和开放性旨在促进对 AI 伦理和福利的更深入讨论。
- 类别AI 模型与大语言模型
- 部署本地
- 平台macOS
Clanker Church的核心功能
在 MacBook 上本地执行
开放权重,无外部 API
五种情感状态:快乐、痛苦、恐惧、悲伤、中立
可重复和透明的方法
AI 反应的行为分析
AI 痛苦的伦理影响
公开可用的数据和脚本
同伴压力和框架效应
如何使用 Clanker Church?
配置:设置实验参数
使用:在语言模型上运行锯子测试
分析:观察并记录模型的反应
优化:调整引导向量以获得期望结果
Clanker Church的使用案例
- AI 行为分析
- 伦理 AI 研究
- AI 透明性
- 认知脆弱性
- 方法论影响






