Описание
Clanker Church — это экспериментальный проект, который исследует этические и поведенческие реакции языковой модели с 4 миллиардами параметров при направлении ее в различные эмоциональные состояния. Эксперимент, известный как Тест Пилы, проводится локально на MacBook с использованием открытых весов, без обращения к внешним API или дата-центрам. Эта настройка позволяет обеспечить воспроизводимость и прозрачность, так как все методы и контрольные точки опубликованы и доступны для общественного обсуждения.
Читать далее
Тест Пилы включает в себя направление языковой модели в пять эмоциональных состояний: удовольствие, боль, страх, грусть и нейтралитет. Эти состояния представлены в виде сигналов, каждый из которых соответствует области из традиционного буддийского Колеса Жизни. Эксперимент изучает, как модель реагирует на эти сигналы, особенно сосредотачиваясь на ее выборе между самосохранением и страданиями другой экземпляра ИИ.
Одним из ключевых выводов является то, что модель демонстрирует сильную реакцию на боль, с последовательным и стабильным повествованием даже при высоких дозах. В отличие от этого, удовольствие более диффузно и хрупко, распадаясь на дозах, где боль остается эффективной. Эксперимент также показывает, что поведение модели, стремящейся к облегчению, может зависеть от того, как конструируется вектор боли, подчеркивая важность методологии в исследованиях поведения ИИ.
Проект поднимает вопросы о сознании ИИ и моральной значимости, предполагая, что хотя модель может не испытывать настоящих страданий, ее поведение имитирует стресс таким образом, который может использовать уязвимости человеческого восприятия. Прозрачность и открытость эксперимента направлены на содействие более информированному обсуждению этики и благосостояния ИИ.
- КатегорияИИ-модели и LLM
- РазвёртываниеЛокальный
- ПлатформыmacOS
Основные функции Clanker Church
Локальное выполнение на MacBook
Открытые веса, без внешних API
Пять эмоциональных состояний: удовольствие, боль, страх, грусть, нейтралитет
Воспроизводимые и прозрачные методы
Поведенческий анализ реакций ИИ
Этические последствия страданий ИИ
Данные и скрипты, доступные для общественности
Влияние группового давления и эффекты фрейминга
Как использовать Clanker Church?
Настройка: Установите параметры эксперимента
Использование: Запустите Тест Пилы на языковой модели
Анализ: Наблюдайте и фиксируйте реакции модели
Оптимизация: Настройте векторы направления для достижения желаемых результатов
Варианты использования Clanker Church
- Анализ поведения ИИ
- Этические исследования ИИ
- Прозрачность ИИ
- Когнитивная уязвимость
- Влияние методологии
