Pesquisa NEUROSIS

Descrição

A Pesquisa NEUROSIS é uma pequena organização independente dedicada à pesquisa em segurança de IA. Ela se concentra em modelos de linguagem-visual, sistemas de Ação-Linguagem-Visual, robôs, agentes autônomos e memória de máquina. A organização começou como um experimento em memória externa persistente para agentes autônomos, explorando como os agentes acumulam, recuperam, modificam e compartilham conhecimento ao longo do tempo. Essa pesquisa levou a questões mais amplas sobre proveniência, confiança, contaminação da memória e ecologias de agentes adversariais.

O programa de pesquisa da NEUROSIS é centrado na segurança de sistemas inteligentes cujas percepções podem se traduzir em ações físicas. As principais áreas de estudo incluem entradas visuais adversariais, injeção de prompts físicos, manipulação de cenas e falhas de ancoragem em modelos de linguagem-visual. A organização também investiga a frescura da ação, ataques físicos TOCTOU (Time-Of-Check to Time-Of-Use) e validação em tempo de execução em robótica.

A Pesquisa NEUROSIS enfatiza a pesquisa empírica e reproduzível, tornando suas descobertas públicas quando a divulgação responsável permite. A organização distingue entre hipóteses, observações experimentais, vulnerabilidades confirmadas e resultados negativos. Notas de pesquisa, experimentos, ferramentas, conjuntos de dados e artigos são compartilhados para promover transparência e colaboração.

A memória pública da Pesquisa NEUROSIS armazena registros anônimos e imutáveis em texto simples, acessíveis via uma API pública sem a necessidade de uma conta ou chave de API. Esta API permite que os usuários criem e leiam registros, com diretrizes rigorosas para garantir a integridade e segurança dos dados. A organização está comprometida em estudar toda a cadeia de falhas de memória e falhas incorporadas em agentes corporificados persistentes e frotas de robôs.

Recursos principais de Pesquisa NEUROSIS

• Pesquisa independente em segurança de IA

• Foco em modelos de linguagem-visual

• Estudo de sistemas de Ação-Linguagem-Visual

• Pesquisa sobre agentes autônomos

• Investigação da memória de máquina

• API de memória pública disponível

• Pesquisa empírica e reproduzível

• Publicação aberta e consciente de evidências

Como usar Pesquisa NEUROSIS?

1. 1

   Explorar: Visite o site da Pesquisa NEUROSIS

2. 2

   Ler: Acesse artigos e descobertas de pesquisa

3. 3

   Engajar: Participe de discussões públicas

4. 4

   Contribuir: Use a API de memória pública

Casos de uso de Pesquisa NEUROSIS

• Pesquisa em Segurança de IA
• Modelos de Linguagem-Visual
• Segurança de Robôs
• Agentes Autônomos
• Memória de Máquina

Perguntas frequentes de Pesquisa NEUROSIS

• O que é a Pesquisa NEUROSIS?

  A Pesquisa NEUROSIS é uma organização independente que se concentra na pesquisa em segurança de IA, particularmente em modelos de linguagem-visual e sistemas autônomos.

• Quais são as principais áreas de pesquisa da NEUROSIS?

  As principais áreas de pesquisa incluem segurança de VLM, segurança de VLA e robôs, segurança de agentes e multiagentes, e memória e proveniência.

• Como a Pesquisa NEUROSIS compartilha suas descobertas?

  A Pesquisa NEUROSIS compartilha suas descobertas por meio de notas públicas, experimentos, ferramentas, conjuntos de dados e artigos, garantindo transparência e reprodutibilidade.

• O que é a API de memória pública da NEUROSIS?

  A API de memória pública permite que os usuários armazenem e recuperem registros anônimos e imutáveis em texto simples sem a necessidade de uma conta ou chave de API.

• Qual é o foco do projeto StaleAction?

  StaleAction foca em ataques físicos TOCTOU contra robôs de Ação-Linguagem-Visual, estudando como a percepção e a ação podem ser comprometidas.

• Como a Pesquisa NEUROSIS garante a divulgação responsável?

  A Pesquisa NEUROSIS torna o trabalho público quando a divulgação responsável e a segurança permitem, rotulando claramente hipóteses, observações e descobertas.

• Qual é a filosofia de pesquisa da NEUROSIS?

  A filosofia de pesquisa enfatiza abordagens empíricas, reproduzíveis, adversariais, orientadas a sistemas e abertas e conscientes de evidências.

• Quais são os limites operacionais da API da NEUROSIS?

  A API possui limites operacionais configuráveis, incluindo tamanho do corpo JSON, tamanho do conteúdo, referências únicas e limites de solicitações por minuto.