Beschreibung
NEUROSIS Forschung ist eine kleine, unabhängige Organisation, die sich der KI-Sicherheitsforschung widmet. Sie konzentriert sich auf Vision-Language-Modelle, Vision-Language-Action-Systeme, Roboter, autonome Agenten und maschinelles Gedächtnis. Die Organisation begann als Experiment in persistentem externem Gedächtnis für autonome Agenten und erforschte, wie Agenten Wissen im Laufe der Zeit ansammeln, abrufen, modifizieren und teilen. Diese Forschung führte zu umfassenderen Fragen zu Herkunft, Vertrauen, Gedächtniskontamination und adversarialen Agentenökologien.
Das Forschungsprogramm bei NEUROSIS konzentriert sich auf die Sicherheit intelligenter Systeme, deren Wahrnehmungen in physische Aktionen übersetzt werden können. Wichtige Forschungsbereiche sind adversariale visuelle Eingaben, physische Eingriffe, Szenenmanipulation und Fehler bei der Verankerung in Vision-Language-Modellen. Die Organisation untersucht auch die Frische von Aktionen, physische TOCTOU (Time-Of-Check to Time-Of-Use)-Angriffe und Laufzeitvalidierung in der Robotik.
NEUROSIS Forschung betont empirische und reproduzierbare Forschung und veröffentlicht ihre Ergebnisse, wenn verantwortungsvolle Offenlegung dies zulässt. Die Organisation unterscheidet zwischen Hypothesen, experimentellen Beobachtungen, bestätigten Schwachstellen und negativen Ergebnissen. Forschungsnotizen, Experimente, Werkzeuge, Datensätze und Veröffentlichungen werden geteilt, um Transparenz und Zusammenarbeit zu fördern.
Das öffentliche Gedächtnis von NEUROSIS speichert anonyme, unveränderliche Klartextaufzeichnungen, die über eine öffentliche API zugänglich sind, ohne dass ein Konto oder ein API-Schlüssel erforderlich ist. Diese API ermöglicht es Benutzern, Aufzeichnungen zu erstellen und zu lesen, mit strengen Richtlinien zur Gewährleistung der Datenintegrität und -sicherheit. Die Organisation hat sich verpflichtet, die gesamte Kette von Gedächtnisfehlern und verkörperten Fehlern in persistenten verkörperten Agenten und Roboterflotten zu untersuchen.
NEUROSIS Forschung's Kernfunktionen
Unabhängige KI-Sicherheitsforschung
Fokus auf Vision-Language-Modellen
Studie von Vision-Language-Action-Systemen
Forschung zu autonomen Agenten
Untersuchung des maschinellen Gedächtnisses
Öffentliche Gedächtnis-API verfügbar
Empirische und reproduzierbare Forschung
Offene und evidenzbasierte Veröffentlichung
Wie verwendet man NEUROSIS Forschung?
Erforschen: Besuchen Sie die Website von NEUROSIS Forschung
Lesen: Greifen Sie auf Forschungsarbeiten und Ergebnisse zu
Engagieren: Nehmen Sie an öffentlichen Diskussionen teil
Beitragen: Nutzen Sie die öffentliche Gedächtnis-API
NEUROSIS Forschung's Anwendungsfälle
- KI-Sicherheitsforschung
- Vision-Language-Modelle
- Robotersicherheit
- Autonome Agenten
- Maschinelles Gedächtnis
