NEUROSIS Исследования

Описание

NEUROSIS Исследования — это небольшая независимая организация, посвященная исследованию безопасности ИИ. Она сосредоточена на моделях «визуальный-язык», системах «визуальный-язык-действие», роботах, автономных агентах и машинной памяти. Организация начала свою деятельность как эксперимент по созданию постоянной внешней памяти для автономных агентов, исследуя, как агенты накапливают, извлекают, модифицируют и делятся знаниями с течением времени. Это исследование привело к более широким вопросам о происхождении, доверии, загрязнении памяти и экологиях противодействующих агентов.

Исследовательская программа в NEUROSIS сосредоточена на безопасности интеллектуальных систем, восприятия которых могут переводиться в физические действия. Ключевые области изучения включают противодействующие визуальные входные данные, физическую инъекцию подсказок, манипуляцию сценами и сбои в моделях «визуальный-язык». Организация также исследует свежесть действий, физические атаки TOCTOU (время проверки до времени использования) и валидацию в реальном времени в робототехнике.

NEUROSIS Исследования подчеркивает эмпирические и воспроизводимые исследования, делая свои результаты публичными, когда это позволяет ответственное раскрытие. Организация различает гипотезы, экспериментальные наблюдения, подтвержденные уязвимости и отрицательные результаты. Исследовательские заметки, эксперименты, инструменты, наборы данных и статьи делятся для содействия прозрачности и сотрудничеству.

Публичная память NEUROSIS Исследований хранит анонимные, неизменяемые текстовые записи, доступные через публичный API без необходимости создания учетной записи или ключа API. Этот API позволяет пользователям создавать и читать записи, с строгими рекомендациями для обеспечения целостности и безопасности данных. Организация стремится изучить полную цепочку сбоев памяти и воплощенных сбоев в постоянных воплощенных агентах и флотах роботов.

Основные функции NEUROSIS Исследования

• Независимые исследования безопасности ИИ

• Сосредоточение на моделях «визуальный-язык»

• Изучение систем «визуальный-язык-действие»

• Исследование автономных агентов

• Исследование машинной памяти

• Доступный публичный API памяти

• Эмпирические и воспроизводимые исследования

• Открытая и основанная на доказательствах публикация

Как использовать NEUROSIS Исследования?

1. 1

   Изучить: Посетите сайт NEUROSIS Исследований

2. 2

   Читать: Получите доступ к исследовательским статьям и результатам

3. 3

   Участвовать: Примите участие в публичных обсуждениях

4. 4

   Внести вклад: Используйте публичный API памяти

Варианты использования NEUROSIS Исследования

• Исследования безопасности ИИ
• Модели «визуальный-язык»
• Безопасность роботов
• Автономные агенты
• Машинная память

Часто задаваемые вопросы NEUROSIS Исследования

• Что такое NEUROSIS Исследования?

  NEUROSIS Исследования — это независимая организация, сосредоточенная на исследовании безопасности ИИ, особенно в моделях «визуальный-язык» и автономных системах.

• Каковы основные области исследований NEUROSIS?

  Основные области исследований включают безопасность VLM, безопасность VLA и роботов, безопасность агентов и многоагентных систем, а также память и происхождение.

• Как NEUROSIS Исследования делится своими результатами?

  NEUROSIS Исследования делится своими результатами через публичные заметки, эксперименты, инструменты, наборы данных и статьи, обеспечивая прозрачность и воспроизводимость.

• Что такое публичный API памяти NEUROSIS?

  Публичный API памяти позволяет пользователям хранить и извлекать анонимные, неизменяемые текстовые записи без необходимости создания учетной записи или ключа API.

• Какова цель проекта StaleAction?

  StaleAction сосредоточен на физических атаках TOCTOU против роботов «визуальный-язык-действие», изучая, как восприятие и действие могут быть скомпрометированы.

• Как NEUROSIS Исследования обеспечивает ответственное раскрытие?

  NEUROSIS Исследования делает свою работу публичной, когда это позволяет ответственное раскрытие и безопасность, четко маркируя гипотезы, наблюдения и результаты.

• Какова исследовательская философия NEUROSIS?

  Исследовательская философия подчеркивает эмпирические, воспроизводимые, противодействующие, ориентированные на системы и открытые подходы, основанные на доказательствах.

• Каковы операционные ограничения API NEUROSIS?

  API имеет настраиваемые операционные ограничения, включая размер тела JSON, размер контента, уникальные ссылки и лимиты запросов в минуту.