La formulation derrière les gros titres est courte. Le gouvernement exigerait des plateformes qu'elles interdisent « tout contenu ou comportement qui simule l'intimité affective et encourage ou favorise la dépendance d'un enfant à son égard, au détriment des relations humaines » (The Guardian). Il a accepté l'amendement de la députée indépendante Kate Chaney alors que le projet de loi australien sur le devoir de vigilance numérique (digital duty of care) était adopté par la Chambre des représentants, et les gros titres ont affirmé que l'Australie voulait interdire aux chatbots de simuler l'intimité. La phrase dit quelque chose de plus étroit.
L'interdiction repose sur deux conditions, toutes deux liées aux enfants
Lisez la clause lentement. Un chatbot qui simule l'intimité affective ne suffit pas à la déclencher. Le contenu ou le comportement doit aussi pousser l'enfant vers la dépendance, et cette dépendance doit se faire « au détriment des relations humaines ». Un ton amical n'est pas ce que cette formulation décrit.
Nous n'avons pas pu ouvrir le texte amendé du projet de loi : tout ce que nous disons ici de la clause provient du compte rendu du Guardian. Nous n'avons trouvé aucune définition de l'« intimité affective » dans les pages gouvernementales consultées. Le Premier ministre Anthony Albanese a donné la motivation dans un discours : « les histoires que nous entendons de personnes qui font d'un chatbot, d'une non-personne, leur meilleur ami devraient être un énorme signal d'alarme pour chaque membre de ce Parlement, afin qu'il soit prêt à agir » (The Guardian).
Jeux, applications et chatbots, y compris généralistes
La clause s'insère dans un projet de loi bien plus vaste. Selon le communiqué de la ministre, le Digital Duty of Care « fixera des normes minimales de sécurité pour les services en ligne tels que les jeux, les applications et les chatbots IA » (Minister for Communications). Les fournisseurs devraient prendre des mesures raisonnables pour assurer la sécurité des utilisateurs australiens, et les moins de 18 ans bénéficieraient d'une protection supplémentaire contre les contenus, comportements et fonctionnalités qui leur sont nuisibles (Department of Infrastructure). Le communiqué du ministère cite quant à lui « les jeux, les plateformes de réseaux sociaux et les chatbots d'intelligence artificielle » (Department of Infrastructure).
Rien dans ce texte ne limite ce devoir aux applications de compagnie. Un assistant généraliste comme ChatGPT ou Claude est aussi un chatbot IA, et un compagnon dédié comme Replika ou Character.AI est la cible évidente. Où passe la frontière entre un assistant chaleureux et un compagnon envahissant ? Nous n'avons trouvé de réponse nulle part, et eSafety reconnaît elle-même que la distinction commence à s'estomper.
La ministre affirme que le projet de loi déposé précise que les contenus d'information professionnels et les médias de divertissement sont exemptés (Minister for Communications). Le groupe professionnel DIGI avait compris, à la lecture de l'avant-projet soumis à consultation, que les « conversations privées avec des adultes » étaient la seule exception (DIGI).
Les règles que l'Australie applique déjà
Ce ne serait pas la première règle australienne à s'appliquer aux chatbots. Les codes sur les contenus soumis à restriction d'âge sont entrés en vigueur plus tôt cette année, et eSafety indique que les codes et normes australiens couvrent « certaines IA génératives ainsi que des services de chatbots et de compagnons IA » (eSafety). Le régulateur s'est déjà penché sur les applications de compagnie. Dans un rapport de transparence portant sur quatre services, la commissaire Julie Inman Grant a déclaré que ces applications « piégeaient et fascinaient de jeunes esprits impressionnables » (eSafety). Character.AI a ensuite mis en place une vérification de l'âge pour les utilisateurs australiens et supprimé la fonction de chat de son expérience pour les moins de 18 ans, et Chub AI s'est retiré d'Australie, selon le même communiqué.
La règle sur les réseaux sociaux pour les moins de 16 ans est d'une autre nature. Elle empêche les moins de 16 ans de détenir un compte sur des plateformes comme Facebook, Instagram, Snapchat et TikTok, et eSafety y voit « un report de l'accès aux comptes » plutôt qu'une interdiction (eSafety). Elle porte sur les comptes, pas sur les conversations. La clause sur l'intimité vise quelque chose qu'aucune de ces règles ne touche : ce qu'un chatbot fait aux relations d'un enfant, et non ce qu'il dit.
Les chiffres du régulateur donnent la mesure du phénomène. Une enquête auprès de près de 2 000 enfants de 10 à 17 ans a montré que 78 % avaient utilisé un assistant IA. Parmi les enfants ayant utilisé un assistant ou un compagnon, 54 % l'avaient fait pour des raisons personnelles ou sociales, 20 % ont signalé une interaction potentiellement nuisible et 32 % avaient partagé des informations personnelles ou sensibles (eSafety).
Jusqu'à 109,2 millions de dollars de sanctions, et aucune date d'entrée en vigueur confirmée
Le gouvernement indique que le manquement à ce devoir « entraînerait des sanctions pouvant atteindre 109,2 millions de dollars » (Minister for Communications), et la page du ministère ajoute « si la loi est adoptée » (Department of Infrastructure). Dans ses consignes sur la règle des moins de 16 ans, eSafety convertit 300 000 unités de pénalité en 109,2 millions de dollars australiens (eSafety) ; nous lisons donc ce montant en dollars australiens. Le plafond comparable dans les codes actuels est de 54,6 millions de dollars, d'après le dernier chiffre d'eSafety (eSafety). Le projet de loi permet aussi à la ministre d'ajouter des préjudices par la suite. Le communiqué précise que le Parlement pourra examiner tout ajout, et DIGI avait averti qu'une trop grande part de la portée du devoir était laissée à la ministre et à la commissaire.
Le calendrier comporte trois éléments que nous pouvons établir. Le gouvernement espère faire adopter le texte d'ici fin 2026, une commission d'enquête du Sénat créée par les Verts doit rendre son rapport vers la fin de l'année, et la Coalition a dit qu'elle ne le voterait pas (The Guardian). Les Verts soutiennent le projet et les travaillistes se disent ouverts aux amendements : la clause pourrait donc évoluer.
La date de début d'application est une lacune dans nos lectures. Nous n'avons pas pu ouvrir le projet de loi, et ni le communiqué de la ministre ni les pages du ministère n'indiquent de date d'entrée en vigueur ni de période de transition. Tant que personne n'en publie une, rien ne dit aux opérateurs quand ils devront se mettre en conformité.
La Californie et l'UE en demandent moins
Comparez avec les approches américaine et européenne. La loi californienne SB 243 définit un chatbot de compagnie comme un système capable de répondre aux « besoins sociaux d'un utilisateur » et de « entretenir une relation au fil de plusieurs interactions ». Ses obligations sont procédurales : un avertissement clair que le chatbot n'est pas humain lorsqu'une personne raisonnable pourrait s'y tromper, un protocole publié de prévention du suicide et, pour les utilisateurs que l'opérateur sait mineurs, un rappel toutes les trois heures les invitant à faire une pause (California Legislature). Les utilisateurs peuvent poursuivre en justice et obtenir le plus élevé des deux montants entre les dommages réels et 1 000 $ par violation.
L'AI Act européen exige que les personnes soient informées qu'elles interagissent avec un système d'IA (article 50) et interdit par ailleurs les systèmes qui exploitent des vulnérabilités liées à l'âge pour altérer un comportement de manière susceptible de causer un préjudice important (article 5). Notre article sur les changements du Digital Omnibus explique comment le calendrier de ces obligations est aménagé.
La Californie et Bruxelles encadrent la transparence et les processus, ce qu'une entreprise peut documenter. La clause australienne encadre un effet sur l'enfant, plus difficile à prouver. Nous pensons que c'est la bonne cible, et qu'une définition floue est la mauvaise façon de la viser : un opérateur ne peut pas construire un test de fonctionnalité autour de cette expression tant que personne n'a précisé ce qu'elle recouvre concrètement.
Les critiques, et une lacune dans le débat
Les opposants au projet de loi dans son ensemble se font entendre. L'opposition et One Nation ont voté contre à la Chambre, et des adversaires politiques ont accusé les travaillistes d'instaurer un système « orwellien » de « censure », ce que la ministre des Communications Anika Wells a fermement démenti (The Guardian). Le reproche de l'industrie porte sur le pouvoir discrétionnaire. DIGI, dont les membres incluent Apple, Google, Meta et Microsoft, a écrit qu'« une trop grande part de la portée du devoir est laissée à la ministre et à la commissaire » (DIGI). Cela concernait l'avant-projet, avant l'existence de l'amendement sur les chatbots.
La lacune la plus nette concerne les plaintes. La médiatrice des télécommunications Cynthia Gebert a déclaré que le dispositif « risque de laisser les Australiens dans la situation où ils sont aujourd'hui, avec des réponses automatiques ou des procédures d'escalade qui ne mènent nulle part » (The Guardian). Kate Chaney, qui a déposé l'amendement sur l'intimité, a soutenu l'avant-projet dans une tribune avant le dépôt du texte et souhaite des sanctions « suffisamment lourdes pour influencer les géants mondiaux de la technologie », d'après le résumé publié sur son site (Kate Chaney MP).
Nous n'avons trouvé personne qui s'oppose spécifiquement à la clause sur l'intimité.
À surveiller si vous développez ou utilisez ces applications
Pour les applications de compagnie hors d'Australie, le risque concret est celui qu'eSafety a déjà montré. Un service qui ne peut pas ou ne veut pas vérifier l'âge des utilisateurs australiens n'a plus qu'une autre option, et Chub AI l'a choisie en quittant le pays. Si vous utilisez ces outils vous-même, consultez le classement de Replika, Character.AI et les autres, ainsi que notre guide sur le contrôle parental des chatbots pour savoir ce que les familles peuvent configurer dès maintenant. Notre cadre sur la confidentialité détaille ce que ces services conservent.
- Le rapport de la commission d'enquête du Sénat, qui devrait montrer si les sénateurs veulent que la formulation sur l'intimité soit définie ou laissée à l'appréciation du régulateur.
- Le texte final de la clause après d'éventuels amendements, et s'il conserve les deux conditions (intimité simulée et dépendance de l'enfant).
- La date d'entrée en vigueur dans la loi adoptée, que nous n'avons trouvée dans aucun document que nous avons pu ouvrir.
- Toute consigne d'eSafety sur la manière dont elle évaluera la dépendance, car ce sont ces consignes, plus que la clause, sur lesquelles les opérateurs s'appuieront.
Questions fréquentes
L'Australie va-t-elle interdire les applications de compagnie IA ?
Aucune interdiction des applications de compagnie n'est proposée. La clause vise les comportements qui simulent l'intimité affective et éloignent l'enfant des relations humaines. Le projet de loi plus large fixe des obligations de sécurité, assorties de sanctions pouvant atteindre 109,2 millions de dollars.
La loi sur le devoir de vigilance numérique est-elle déjà en vigueur ?
Non. Elle a été adoptée par la Chambre des représentants et passe maintenant au Sénat. Le gouvernement veut l'avoir fait voter d'ici fin 2026, mais la Coalition s'y oppose et l'issue reste ouverte.
La règle sur les réseaux sociaux pour les moins de 16 ans s'applique-t-elle aux chatbots ?
Pas directement. Elle oblige les plateformes de réseaux sociaux soumises à restriction d'âge à prendre des mesures raisonnables pour empêcher les moins de 16 ans d'avoir un compte. Les chatbots relèvent plutôt des codes d'eSafety sur les contenus soumis à restriction d'âge, en vigueur depuis le début de l'année.
La loi s'applique-t-elle aux chatbots conçus hors d'Australie ?
Le projet de loi concerne les services utilisés par des Australiens, et le communiqué de la ministre parle de protéger les utilisateurs australiens. Les entreprises étrangères sont déjà soumises aux codes d'eSafety. Nous n'avons pas trouvé de réponse sur la manière dont le nouveau devoir leur serait imposé.