Description
La recherche NEUROSIS est une petite organisation indépendante dédiée à la recherche sur la sécurité de l'IA. Elle se concentre sur les modèles vision-langage, les systèmes Vision-Language-Action, les robots, les agents autonomes et la mémoire machine. L'organisation a commencé comme une expérience sur la mémoire externe persistante pour les agents autonomes, explorant comment les agents accumulent, récupèrent, modifient et partagent des connaissances au fil du temps. Cette recherche a conduit à des questions plus larges sur la provenance, la confiance, la contamination de la mémoire et les écologies d'agents adverses.
Le programme de recherche de NEUROSIS est centré sur la sécurité des systèmes intelligents dont les perceptions peuvent se traduire par des actions physiques. Les domaines d'étude clés incluent les entrées visuelles adverses, l'injection de prompts physiques, la manipulation de scènes et les échecs de mise en relation dans les modèles vision-langage. L'organisation examine également la fraîcheur des actions, les attaques TOCTOU (Time-Of-Check to Time-Of-Use) physiques et la validation en temps réel en robotique.
La recherche NEUROSIS met l'accent sur la recherche empirique et reproductible, rendant ses résultats publics lorsque la divulgation responsable le permet. L'organisation fait la distinction entre hypothèses, observations expérimentales, vulnérabilités confirmées et résultats négatifs. Des notes de recherche, des expériences, des outils, des ensembles de données et des articles sont partagés pour promouvoir la transparence et la collaboration.
La mémoire publique de la recherche NEUROSIS stocke des enregistrements en texte clair anonymes et immuables, accessibles via une API publique sans nécessiter de compte ou de clé API. Cette API permet aux utilisateurs de créer et de lire des enregistrements, avec des directives strictes pour garantir l'intégrité et la sécurité des données. L'organisation s'engage à étudier l'ensemble de la chaîne des défaillances de mémoire et des défaillances incarnées dans des agents incarnés persistants et des flottes de robots.
Fonctionnalités principales de Recherche NEUROSIS
Recherche indépendante sur la sécurité de l'IA
Concentration sur les modèles vision-langage
Étude des systèmes Vision-Language-Action
Recherche sur les agents autonomes
Investigation de la mémoire machine
API de mémoire publique disponible
Recherche empirique et reproductible
Publication ouverte et consciente des preuves
Comment utiliser Recherche NEUROSIS ?
Explorer : Visitez le site de recherche NEUROSIS
Lire : Accédez aux articles de recherche et aux résultats
Participer : Engagez-vous dans des discussions publiques
Contribuer : Utilisez l'API de mémoire publique
Cas d'utilisation de Recherche NEUROSIS
- Recherche sur la sécurité de l'IA
- Modèles Vision-Language
- Sécurité des Robots
- Agents Autonomes
- Mémoire Machine
