Описание
VALO Research посвящен изучению условий, необходимых для легитимного действия интеллектуальных систем. Он сосредоточен на пяти взаимосвязанных областях: власти, доказательствах, исполнении, институциональном дизайне и устойчивом интеллекте. Исследование начинается до проектирования продукта, изучая институциональные, технические и доказательные условия, необходимые для легитимного действия. VALO Research рассматривает управление последствиями и человеческую власть, исследуя мандат, делегирование, разрешение, отказ и границу, где намерение становится следствием.
Читать далее
Исследование также углубляется в доказательства, происхождение и проверяемость, определяя, что система наблюдала, что остается неизвестным и как утверждения могут быть независимо проверены. Изучаются агентские институты и проектирование систем для определения ролей, границ ответственности, памяти, эскалации и устойчивых организационных структур для агентов. VALO Research учитывает местный, крайний и физический интеллект, сосредотачиваясь на управлении, когда агенты, датчики и актуаторы действуют локально, офлайн или вблизи физического последствия.
Социальная устойчивость и долгосрочное управление являются ключевыми областями, исследуя, как институты сохраняют ответственность, знания и адаптивные способности по мере масштабирования интеллекта. Каждая программа организована вокруг четких вопросов, артефактов, экспериментов и ограничений, а не широких утверждений. VALO Research разрабатывает формальные и операционные модели для определения того, является ли предложенное действие легитимным в момент, предшествующий его реализации.
Подчеркивается непрерывность доказательств и целостности, с наблюдением, происхождением, неизменяемыми квитанциями и петлями доказательств после исполнения, отличающими известное от подразумеваемого. Исследуются управляемые агентские институты для организации агентов в ограниченные роли с независимой оценкой, авторизацией, принуждением и проверкой. Изучается крайний интеллект и физическое действие для локальной авторизации, офлайн-квитанций и управления для систем, действующих через машины, устройства и промышленные среды.
- КатегорияAI-ассистенты для исследований
- РазвёртываниеОблако
- ПлатформыВеб
Основные функции VALO Research
Управление последствиями
Власть на границе последствий
Непрерывные доказательства и целостность
Управляемые агентские институты
Крайний интеллект и физическое действие
Версионированная исследовательская запись
Независимые архитектуры
Приглашения к исследованию
Как использовать VALO Research?
Изучение: Анализ институциональных и технических условий
Проектирование: Разработка моделей управления
Тестирование: Организация программ вокруг четких вопросов
Публикация: Выпуск отчетов и технических заметок
Варианты использования VALO Research
- Управление последствиями
- Проверка доказательств
- Определение ролей агентов
- Локальный интеллект
- Социальная устойчивость
