O texto por trás das manchetes é curto. O governo exigiria que as plataformas proibissem "material ou conduta que simule intimidade emocional e incentive ou favoreça a dependência de uma criança em relação a ele no lugar de relações humanas" (The Guardian). O governo aceitou a emenda da deputada independente Kate Chaney quando o projeto de lei de dever de cuidado digital da Austrália foi aprovado na Câmara dos Representantes, e as manchetes disseram que a Austrália quer proibir chatbots de fingir intimidade. A frase diz algo mais restrito.
A proibição tem duas condições, e as duas dizem respeito a crianças
Leia a cláusula com calma. Um chatbot que simula intimidade emocional não basta para acioná-la. O material ou a conduta também precisa empurrar a criança para a dependência, e essa dependência tem de ser "no lugar de relações humanas". Um tom amigável não é o que esse texto descreve.
Não conseguimos abrir o texto emendado do projeto, então tudo o que dizemos aqui sobre a cláusula vem do relato do Guardian. Não encontramos nenhuma definição de "intimidade emocional" nas páginas do governo que lemos. O primeiro-ministro Anthony Albanese explicou o motivo em um discurso: "as histórias que ouvimos de pessoas que tratam um chatbot, uma não pessoa, como melhor amigo deveriam ser um grande alerta para todos os membros deste parlamento se prepararem para agir" (The Guardian).
Jogos, apps e chatbots, inclusive os de uso geral
A cláusula está dentro de um projeto bem maior. O comunicado da ministra diz que o Digital Duty of Care "definirá padrões mínimos de segurança para serviços online como jogos, apps e chatbots de IA" (Minister for Communications). Os provedores teriam de adotar medidas razoáveis para manter os usuários australianos seguros, e os menores de 18 anos recebem proteção extra contra material, condutas e recursos que lhes sejam prejudiciais (Department of Infrastructure). A nota do departamento cita "jogos, plataformas de redes sociais e chatbots de inteligência artificial" (Department of Infrastructure).
Nada nesse texto limita o dever a apps de companhia. Um assistente geral como o ChatGPT ou o Claude também é um chatbot de IA, e um app de companhia dedicado, como o Replika ou o Character.AI, é o alvo óbvio. Onde passa a linha entre um assistente acolhedor e um companheiro grudento é algo que não encontramos respondido em lugar nenhum, e a própria eSafety diz que a fronteira entre os dois está começando a se misturar.
A ministra diz que o projeto apresentado esclarece que material jornalístico profissional e mídia de entretenimento ficam isentos (Minister for Communications). A associação do setor DIGI havia lido o rascunho anterior, submetido a consulta, como deixando "conversas privadas com adultos" como a única exceção (DIGI).
Regras que a Austrália já tem
Não seria a primeira regra australiana a alcançar chatbots. Os códigos para material com restrição de idade entraram em vigor no início deste ano, e a eSafety afirma que os códigos e padrões do país cobrem "certa IA generativa, além de serviços de chatbot de IA e de companhia" (eSafety). O órgão regulador já mirou os apps de companhia. Em um relatório de transparência sobre quatro serviços, a comissária Julie Inman Grant disse que esses apps estavam "enredando e enfeitiçando mentes jovens impressionáveis" (eSafety). Em seguida, o Character.AI adotou verificação de idade para usuários australianos e removeu a função de chat da experiência para menores de 18 anos, e o Chub AI se retirou da Austrália, segundo o mesmo comunicado.
A regra de redes sociais para menores de 16 anos é outra coisa. Ela impede que menores de 16 tenham contas em plataformas como Facebook, Instagram, Snapchat e TikTok, e a eSafety a chama de "um adiamento para ter contas" e não de proibição (eSafety). Ela trata de contas, não de conversas. A cláusula de intimidade mira algo que nenhuma dessas regras toca: o que um chatbot faz com as relações de uma criança, não o que ele diz.
Os números do próprio órgão regulador mostram a escala. Uma pesquisa com quase 2.000 crianças de 10 a 17 anos concluiu que 78% já tinham usado um assistente de IA. Entre as crianças que haviam usado um assistente ou companheiro, 54% fizeram isso por motivos pessoais ou sociais, 20% relataram uma interação potencialmente prejudicial e 32% compartilharam informações pessoais ou sensíveis (eSafety).
Multas de até US$ 109,2 milhões e nenhuma data de início confirmada
O governo diz que descumprir o dever "acarretaria multas de até $109,2 milhões" (Minister for Communications), e a página do departamento acrescenta "se a legislação for aprovada" (Department of Infrastructure). A eSafety converte 300.000 unidades de penalidade em 109,2 milhões de AUD em sua orientação sobre os menores de 16 anos (eSafety), então entendemos o valor como dólares australianos. O teto comparável nos códigos atuais é de 54,6 milhões, pelo número mais recente da eSafety (eSafety). O projeto também permite que a ministra adicione novos danos depois. O comunicado diz que o Parlamento terá poder de fiscalização sobre quaisquer novos danos, e a DIGI havia alertado que boa parte do alcance do dever ficava a critério da ministra e da comissária.
O cronograma tem três partes que podemos afirmar. O governo espera aprovar o projeto até o fim de 2026, um inquérito do Senado criado pelos Verdes deve apresentar relatório perto do fim do ano, e a Coalizão disse que não votará a favor (The Guardian). Os Verdes apoiam o projeto, e o Partido Trabalhista diz estar aberto a emendas, então a cláusula pode mudar.
A data de início é uma lacuna na nossa leitura. Não conseguimos abrir o projeto, e nem o comunicado da ministra nem as páginas do departamento informam data de entrada em vigor ou período de transição. Até que alguém publique isso, nada aqui diz a um operador quando ele teria de se adequar.
Califórnia e UE pedem menos
Compare com as abordagens americana e europeia. A SB 243 da Califórnia define chatbot de companhia como um sistema capaz de atender às "necessidades sociais do usuário" e "manter um relacionamento ao longo de várias interações". Os deveres são procedimentais: um aviso claro de que o chatbot não é humano quando uma pessoa razoável pudesse ser induzida a erro, um protocolo publicado de prevenção ao suicídio e, para usuários que o operador sabe serem menores, um lembrete a cada três horas para fazer uma pausa (California Legislature). Os usuários podem processar e receber o maior valor entre os danos efetivos e US$ 1.000 por violação.
O AI Act da UE exige que as pessoas sejam informadas de que estão interagindo com um sistema de IA (Artigo 50) e, separadamente, proíbe sistemas que explorem vulnerabilidades decorrentes da idade para distorcer o comportamento de forma capaz de causar dano significativo (Artigo 5). Nosso post sobre as mudanças do Digital Omnibus explica como esses prazos estão sendo definidos.
Califórnia e Bruxelas regulam transparência e processo, coisas que uma empresa consegue documentar. A cláusula australiana regula um efeito sobre a criança, que é mais difícil de provar. Achamos que esse é o alvo certo e que uma definição vaga é a forma errada de mirar nele: um operador não consegue montar um teste de funcionalidade em torno dessa expressão até que alguém diga como ela se manifesta na prática.
Os críticos e uma lacuna no debate
Os opositores do projeto como um todo são barulhentos. A oposição e o One Nation votaram contra na Câmara, e adversários políticos acusaram o Partido Trabalhista de criar um sistema "orwelliano" de "censura", o que a ministra das Comunicações, Anika Wells, negou veementemente (The Guardian). A reclamação do setor é a discricionariedade. A DIGI, cujos membros incluem Apple, Google, Meta e Microsoft, escreveu que "Boa parte do alcance do Dever fica a critério da Ministra e da Comissária" (DIGI). Isso se referia ao rascunho em consulta, antes de a emenda sobre chatbots existir.
A lacuna mais evidente está nas reclamações. A ouvidora de telecomunicações Cynthia Gebert disse que o arcabouço "corre o risco de deixar os australianos no lugar seguro em que estão hoje, onde recebem respostas automáticas ou procedimentos de escalonamento que não levam a lugar nenhum" (The Guardian). Kate Chaney, autora da emenda sobre intimidade, apoiou o rascunho da lei em um artigo de opinião antes de o projeto ser apresentado e quer multas "grandes o bastante para influenciar empresas globais de tecnologia", segundo o resumo no site dela (Kate Chaney MP).
Não encontramos ninguém argumentando especificamente contra a cláusula de intimidade.
O que acompanhar se você cria ou usa esses apps
Para apps de companhia fora da Austrália, o risco prático é o que a eSafety já mostrou. Um serviço que não consegue ou não quer verificar a idade dos usuários australianos tem uma única outra opção, e o Chub AI a tomou ao deixar o país. Se você usa essas ferramentas, veja onde Replika, Character.AI e os demais aparecem no ranking, e nosso guia de controles parentais em chatbots para saber o que as famílias podem configurar hoje. Nosso framework de privacidade explica o que esses serviços guardam.
- O relatório do inquérito do Senado, que deve mostrar se os senadores querem a expressão sobre intimidade definida ou deixada a cargo do órgão regulador.
- O texto final da cláusula após eventuais emendas, e se ela mantém as duas condições (intimidade simulada mais a dependência da criança).
- A data de início de vigência na lei aprovada, que não conseguimos encontrar em nada que pudemos abrir.
- Qualquer orientação da eSafety sobre como ela vai avaliar a dependência, porque é essa orientação, e não a cláusula, que os operadores usarão como base.
Perguntas frequentes
A Austrália vai banir apps de companhia com IA?
Não se propõe nenhuma proibição de apps de companhia. A cláusula mira condutas que simulam intimidade emocional e afastam a criança das relações humanas. O projeto mais amplo estabelece deveres de segurança, respaldados por multas de até US$ 109,2 milhões.
A lei de dever de cuidado digital já está em vigor?
Não. Ela foi aprovada na Câmara dos Representantes e segue para o Senado. O governo quer concluir até o fim de 2026, mas a Coalizão se opõe e o resultado está em aberto.
A regra de redes sociais para menores de 16 anos cobre chatbots?
Não diretamente. Ela exige que as plataformas de redes sociais com restrição de idade adotem medidas razoáveis para impedir que menores de 16 anos tenham contas. Os chatbots ficam sob os códigos de material com restrição de idade da eSafety, em vigor desde o início deste ano.
A lei vale para chatbots feitos fora da Austrália?
O projeto trata de serviços usados por australianos, e o comunicado da ministra fala em proteger usuários australianos. Empresas estrangeiras já estão sujeitas aos códigos da eSafety. Como o novo dever seria aplicado a elas é uma pergunta cuja resposta não encontramos.