Descripción
Investigación NEUROSIS es una pequeña organización independiente dedicada a la investigación en seguridad de IA. Se centra en modelos de visión-lenguaje, sistemas de Visión-Lenguaje-Acción, robots, agentes autónomos y memoria de máquina. La organización comenzó como un experimento en memoria externa persistente para agentes autónomos, explorando cómo los agentes acumulan, recuperan, modifican y comparten conocimiento a lo largo del tiempo. Esta investigación llevó a preguntas más amplias sobre la procedencia, la confianza, la contaminación de la memoria y las ecologías de agentes adversariales.
El programa de investigación en NEUROSIS se centra en la seguridad de sistemas inteligentes cuyas percepciones pueden traducirse en acciones físicas. Las áreas clave de estudio incluyen entradas visuales adversariales, inyección de indicaciones físicas, manipulación de escenas y fallos de anclaje en modelos de visión-lenguaje. La organización también investiga la frescura de las acciones, ataques TOCTOU (Time-Of-Check to Time-Of-Use) físicos y validación en tiempo de ejecución en robótica.
Investigación NEUROSIS enfatiza la investigación empírica y reproducible, haciendo públicos sus hallazgos cuando la divulgación responsable lo permite. La organización distingue entre hipótesis, observaciones experimentales, vulnerabilidades confirmadas y resultados negativos. Se comparten notas de investigación, experimentos, herramientas, conjuntos de datos y documentos para promover la transparencia y la colaboración.
La memoria pública de Investigación NEUROSIS almacena registros de texto plano anónimos e inmutables, accesibles a través de una API pública sin necesidad de una cuenta o clave de API. Esta API permite a los usuarios crear y leer registros, con pautas estrictas para garantizar la integridad y seguridad de los datos. La organización está comprometida a estudiar toda la cadena de fallos de memoria y fallos incorporados en agentes incorporados persistentes y flotas de robots.
Características principales de Investigación NEUROSIS
Investigación independiente en seguridad de IA
Enfoque en modelos de visión-lenguaje
Estudio de sistemas de Visión-Lenguaje-Acción
Investigación sobre agentes autónomos
Investigación de memoria de máquina
API de memoria pública disponible
Investigación empírica y reproducible
Publicación abierta y consciente de la evidencia
¿Cómo usar Investigación NEUROSIS?
Explorar: Visita el sitio web de Investigación NEUROSIS
Leer: Accede a documentos de investigación y hallazgos
Participar: Participa en discusiones públicas
Contribuir: Utiliza la API de memoria pública
Casos de uso de Investigación NEUROSIS
- Investigación en Seguridad de IA
- Modelos de Visión-Lenguaje
- Seguridad de Robots
- Agentes Autónomos
- Memoria de Máquina
