Descripción
NOPE es un observatorio dedicado a comprender y mejorar las relaciones entre humanos y AIs. Mide cómo progresan las conversaciones entre personas y AIs, centrándose en ambas partes involucradas. La plataforma publica sus hallazgos, incluidos benchmarks, registros de incidentes y modelos de peso abierto.
NOPE enfatiza cinco compromisos clave: reconocer problemas, construir capacidad en lugar de capturar, decir la verdad con amabilidad, tomar en serio los sentimientos y entender lo que está presente y lo que no.
La plataforma ofrece una herramienta de evaluación gratuita para ayudar a los usuarios a trazar su exposición al riesgo de la IA. Los usuarios pueden describir sus proyectos para ver qué reglas se aplican e identificar riesgos potenciales. Esta evaluación es un punto de partida y no un consejo legal. NOPE también proporciona modelos y código abiertos, datos públicos, rastreadores y herramientas gratuitas para aquellos que construyen sistemas de IA más seguros.
La misión de NOPE es asegurar que las relaciones entre humanos y AIs sirvan primero a los humanos. Opera como una empresa con fines de lucro, vendiendo instrumentos de medición como Evaluate, Ocular y Oversight. Los ingresos de estos instrumentos apoyan la disponibilidad de bienes públicos. La plataforma ofrece guías técnicas para implementar la seguridad de la IA y la detección de crisis en chatbots y plataformas, incluidos marcos para detectar ideación suicida.
La política de privacidad de NOPE describe su papel tanto como controlador como procesador de datos, detallando los tipos de información recopilada y almacenada. La plataforma asegura la seguridad de los datos a través de cifrado y controles de acceso, y no vende ni comparte datos con fines publicitarios. NOPE está comprometido con análisis que respetan la privacidad y no rastrea a usuarios individuales a través de sesiones.
Características principales de Observatorio NOPE
Medición de relaciones entre humanos y AIs
Publicación de benchmarks
Publicación de registros de incidentes
Modelos de peso abierto
Evaluación de exposición al riesgo de la IA
Herramientas gratuitas para la seguridad de la IA
Modelos y código abiertos
Datos públicos y rastreadores
Guías técnicas para la seguridad de la IA
Marcos de detección de crisis
API en la nube (beta)
Despliegue empresarial
Análisis que respetan la privacidad
Cifrado en tránsito y en reposo
Controles de acceso y uso limitado
¿Cómo usar Observatorio NOPE?
Describir: Defina su proyecto de IA
Evaluar: Use la herramienta gratuita para evaluar el riesgo
Implementar: Aplique marcos de seguridad
Monitorear: Rastrear interacciones de IA
Mejorar: Utilice hallazgos para mejorar la seguridad de la IA
Casos de uso de Observatorio NOPE
- Evaluación de riesgo de IA
- Detección de crisis
- Benchmarking de IA
- Acceso a modelos abiertos
- Seguimiento de datos públicos
