La redacción que hay detrás de los titulares es breve. El Gobierno exigiría a las plataformas prohibir "material o conductas que simulen intimidad emocional y animen o fomenten que un niño dependa de ella en lugar de las relaciones humanas" (The Guardian). Aceptó la enmienda de la diputada independiente Kate Chaney cuando el proyecto de ley australiano sobre el deber de cuidado digital fue aprobado en la Cámara de Representantes, y los titulares dijeron que Australia quiere prohibir que los chatbots finjan intimidad. La frase dice algo más acotado.
La prohibición tiene dos condiciones, y ambas tienen que ver con los niños
Lee la cláusula despacio. Que un chatbot simule intimidad emocional no basta para activarla. El material o la conducta también tiene que empujar al niño hacia la dependencia, y esa dependencia tiene que ser "en lugar de las relaciones humanas". Un tono amistoso no es lo que describe esta redacción.
No pudimos abrir el texto enmendado del proyecto, así que todo lo que decimos aquí sobre la cláusula viene del reportaje de The Guardian. En las páginas del Gobierno que leímos no encontramos ninguna definición de "intimidad emocional". El primer ministro Anthony Albanese explicó el motivo en un discurso: "las historias que oímos sobre personas que identifican a un chatbot, a una no-persona, como su mejor amigo, deberían ser una enorme llamada de atención para cada miembro de este parlamento para estar preparado a actuar" (The Guardian).
Juegos, apps y chatbots, incluidos los de propósito general
La cláusula forma parte de un proyecto mucho más amplio. El comunicado de la ministra dice que el Digital Duty of Care "establecerá estándares mínimos de seguridad para servicios en línea como juegos, apps y chatbots de IA" (Minister for Communications). Los proveedores tendrían que tomar medidas razonables para mantener seguros a los usuarios australianos, y los menores de 18 recibirían protección adicional frente a material, conductas y funciones que les resulten dañinos (Department of Infrastructure). La nota informativa del departamento nombra "juegos, plataformas de redes sociales y chatbots de inteligencia artificial" (Department of Infrastructure).
Nada en ese texto limita el deber a las apps de compañía. Un asistente general como ChatGPT o Claude también es un chatbot de IA, y un compañero dedicado como Replika o Character.AI es el objetivo evidente. Dónde está la línea entre un asistente cercano y un compañero empalagoso no se responde en ningún sitio que hayamos revisado, y la propia eSafety dice que las fronteras entre ambos empiezan a difuminarse.
La ministra afirma que el proyecto presentado aclara que el material periodístico profesional y los medios de entretenimiento quedan exentos (Minister for Communications). El grupo del sector DIGI había interpretado que el borrador de consulta anterior dejaba las "conversaciones privadas con adultos" como única excepción (DIGI).
Las normas que Australia ya tiene
No sería la primera norma australiana que alcanza a los chatbots. Los códigos sobre material restringido por edad entraron en vigor a principios de este año, y eSafety dice que los códigos y estándares de Australia cubren "cierta IA generativa, así como servicios de chatbots de IA y de compañía" (eSafety). El regulador ya ha puesto la mira en las apps de compañía. En un informe de transparencia sobre cuatro servicios, la comisionada Julie Inman Grant dijo que estas apps estaban "atrapando y embelesando a mentes jóvenes impresionables" (eSafety). Character.AI introdujo entonces verificación de edad para los usuarios australianos y eliminó la función de chat de su experiencia para menores de 18, y Chub AI se retiró de Australia, según el mismo comunicado.
La norma de redes sociales para menores de 16 es otra cosa. Impide que los menores de 16 tengan cuentas en plataformas como Facebook, Instagram, Snapchat y TikTok, y eSafety la describe como "un retraso en el acceso a las cuentas" y no como una prohibición (eSafety). Se refiere a cuentas, no a conversaciones. La cláusula de intimidad apunta a algo que ninguna de estas normas toca: lo que un chatbot le hace a las relaciones de un niño, no lo que dice.
Las cifras del propio regulador muestran la magnitud. Una encuesta a casi 2.000 niños de entre 10 y 17 años encontró que el 78 % había usado un asistente de IA. Entre los niños que habían usado un asistente o un compañero, el 54 % lo había hecho por motivos personales o sociales, el 20 % reportó una interacción potencialmente dañina y el 32 % había compartido información personal o sensible (eSafety).
Multas de hasta 109,2 millones de dólares y ninguna fecha de inicio confirmada
El Gobierno dice que incumplir el deber "acarrearía multas de hasta 109,2 millones de dólares" (Minister for Communications), y la página del departamento añade "si se aprueba la ley" (Department of Infrastructure). eSafety convierte 300.000 unidades de penalización en 109,2 millones de AUD en su guía sobre el límite de los 16 años (eSafety), así que interpretamos la cifra como dólares australianos. El tope comparable según los códigos actuales es de 54,6 millones, según la última cifra de eSafety (eSafety). El proyecto también permite a la ministra añadir daños más adelante. El comunicado dice que el Parlamento supervisará los nuevos, y DIGI había advertido de que se deja demasiado del alcance del deber en manos de la ministra y la comisionada.
El calendario tiene tres partes que podemos afirmar. El Gobierno espera aprobar el proyecto a finales de 2026, una investigación del Senado impulsada por los Verdes debe presentar su informe cerca de fin de año, y la Coalición ha dicho que no lo votará (The Guardian). Los Verdes apoyan el proyecto y el Partido Laborista dice estar abierto a enmiendas, así que la cláusula podría cambiar.
La fecha de inicio es una laguna en lo que hemos leído. No pudimos abrir el proyecto, y ni el comunicado de la ministra ni las páginas del departamento dan una fecha de entrada en vigor ni un periodo de transición. Hasta que alguien la publique, nada de lo que hay aquí le dice a un operador cuándo tendría que cumplir.
California y la UE piden menos
Compáralo con los enfoques de Estados Unidos y Europa. La SB 243 de California define un chatbot de compañía como un sistema capaz de satisfacer "las necesidades sociales de un usuario" y "mantener una relación a lo largo de múltiples interacciones". Sus obligaciones son de procedimiento: un aviso claro de que el chatbot no es humano cuando una persona razonable pudiera confundirse, un protocolo publicado de prevención del suicidio y, para los usuarios que el operador sabe que son menores, un recordatorio cada tres horas para que descansen (California Legislature). Los usuarios pueden demandar por el mayor entre los daños reales o 1.000 dólares por infracción.
La Ley de IA de la UE exige que se informe a las personas de que interactúan con un sistema de IA (Artículo 50) y, por separado, prohíbe los sistemas que explotan vulnerabilidades derivadas de la edad para distorsionar el comportamiento de forma que pueda causar un daño significativo (Artículo 5). Nuestro artículo sobre los cambios del Digital Omnibus explica cómo se están escalonando esas obligaciones.
California y Bruselas regulan la transparencia y el proceso, cosas que una empresa puede documentar. La cláusula australiana regula un efecto sobre un niño, que es más difícil de demostrar. Creemos que ese es el objetivo correcto y que una definición vaga es la forma equivocada de apuntar hacia él: un operador no puede construir una prueba de funcionalidades a partir de esa frase hasta que alguien diga cómo se ve en la práctica.
Los críticos y un vacío en el debate
Los opositores al proyecto en su conjunto se hacen oír. La oposición y One Nation votaron en contra en la Cámara, y rivales políticos acusaron al Partido Laborista de crear un sistema "orwelliano" de "censura", algo que la ministra de Comunicaciones Anika Wells negó con rotundidad (The Guardian). La queja de la industria es la discrecionalidad. DIGI, cuyos miembros incluyen a Apple, Google, Meta y Microsoft, escribió que "Se deja demasiado del alcance del Deber en manos de la ministra y la comisionada" (DIGI). Eso se refería al borrador de consulta, antes de que existiera la enmienda sobre chatbots.
El vacío más llamativo está en las reclamaciones. La defensora del pueblo de telecomunicaciones Cynthia Gebert dijo que el marco "corre el riesgo de dejar a los australianos en el lugar seguro en el que están ahora, donde reciben respuestas automáticas o procedimientos de escalado que no llevan a ninguna parte" (The Guardian). Kate Chaney, quien presentó la enmienda sobre intimidad, respaldó el borrador de la ley en un artículo de opinión antes de que se presentara el proyecto y quiere multas "lo bastante grandes para influir en las empresas tecnológicas globales", según el resumen de su web (Kate Chaney MP).
No encontramos a nadie que argumente específicamente en contra de la cláusula de intimidad.
Qué vigilar si creas o usas estas apps
Para las apps de compañía fuera de Australia, el riesgo práctico es el que eSafety ya ha mostrado. Un servicio que no puede o no quiere verificar la edad de los usuarios australianos tiene otra opción, y Chub AI la tomó al irse del país. Si usas estas herramientas tú mismo, mira cómo se posicionan Replika, Character.AI y el resto, y nuestra guía de controles parentales para chatbots para ver qué pueden configurar ya las familias. Nuestro marco de privacidad explica qué datos conservan estos servicios.
- El informe de la investigación del Senado, que debería mostrar si los senadores quieren que se defina la expresión sobre intimidad o que se deje en manos del regulador.
- El texto final de la cláusula tras las enmiendas, y si mantiene las dos condiciones (intimidad simulada más dependencia del niño).
- La fecha de entrada en vigor en la ley aprobada, que no pudimos encontrar en nada de lo que pudimos abrir.
- Cualquier guía de eSafety sobre cómo valorará la dependencia, porque esa guía, y no la cláusula, es lo que los operadores usarán para construir sus productos.
Preguntas frecuentes
¿Prohibiría Australia las apps de compañía con IA?
No se propone ninguna prohibición de las apps de compañía. La cláusula apunta a conductas que simulan intimidad emocional y apartan al niño de las relaciones humanas. El proyecto en su conjunto establece deberes de seguridad, respaldados por multas de hasta 109,2 millones de dólares.
¿Está ya en vigor la ley del deber de cuidado digital?
No. Ha sido aprobada en la Cámara de Representantes y pasa al Senado. El Gobierno quiere tenerla lista a finales de 2026, pero la Coalición se opone y el resultado está abierto.
¿La norma de redes sociales para menores de 16 cubre los chatbots?
No directamente. Exige que las plataformas de redes sociales con restricción de edad tomen medidas razonables para impedir que los menores de 16 tengan cuentas. Los chatbots entran en cambio en los códigos de material restringido por edad de eSafety, que se aplican desde principios de este año.
¿Se aplica la ley a chatbots creados fuera de Australia?
El proyecto trata de los servicios usados por australianos, y el comunicado de la ministra habla de proteger a los usuarios australianos. Las empresas extranjeras ya están sujetas a los códigos de eSafety. Cómo se haría cumplir el nuevo deber con ellas es una pregunta cuya respuesta no encontramos.