Der Wortlaut hinter den Schlagzeilen ist kurz. Die Regierung würde Plattformen verpflichten, „Material oder Verhalten, das emotionale Intimität simuliert und die Abhängigkeit eines Kindes davon anstelle menschlicher Beziehungen fördert oder begünstigt", zu verbieten (The Guardian). Sie nahm den Änderungsantrag der Crossbench-Abgeordneten Kate Chaney an, als Australiens Digital-Duty-of-Care-Gesetz das Repräsentantenhaus passierte, und die Schlagzeilen lauteten, Australien wolle Chatbots verbieten, Intimität vorzutäuschen. Der Satz sagt etwas Engeres.
Das Verbot hat zwei Bedingungen, und beide betreffen Kinder
Lesen Sie die Klausel langsam. Dass ein Chatbot emotionale Intimität simuliert, reicht nicht aus, um sie auszulösen. Das Material oder Verhalten muss ein Kind zusätzlich in Richtung Abhängigkeit drängen, und zwar eine Abhängigkeit „anstelle menschlicher Beziehungen". Ein freundlicher Ton ist nicht das, was dieser Wortlaut beschreibt.
Den geänderten Gesetzestext konnten wir nicht öffnen, daher stammt alles, was wir hier über die Klausel sagen, aus dem Bericht des Guardian. In den von uns gelesenen Regierungsseiten haben wir keine Definition von „emotionaler Intimität" gefunden. Premierminister Anthony Albanese nannte das Motiv in einer Rede: „Die Geschichten, die wir hören, in denen Menschen einen Chatbot, eine Nicht-Person, als ihren besten Freund bezeichnen, sollten für jedes Mitglied dieses Parlaments ein gewaltiger Weckruf sein, bereit zu handeln" (The Guardian).
Spiele, Apps und Chatbots, auch die universellen
Die Klausel steckt in einem deutlich größeren Gesetz. Laut Mitteilung der Ministerin legt die Digital Duty of Care „Mindestsicherheitsstandards für Online-Dienste wie Spiele, Apps und KI-Chatbots" fest (Minister for Communications). Anbieter müssten angemessene Schritte unternehmen, um australische Nutzer zu schützen, und Minderjährige erhalten zusätzlichen Schutz vor Material, Verhalten und Funktionen, die ihnen schaden (Department of Infrastructure). Die Meldung des Ministeriums nennt „Spiele, Social-Media-Plattformen und Chatbots mit künstlicher Intelligenz" (Department of Infrastructure).
Nichts in diesem Wortlaut beschränkt die Pflicht auf Companion-Apps. Ein allgemeiner Assistent wie ChatGPT oder Claude ist ebenfalls ein KI-Chatbot, und ein dedizierter Companion wie Replika oder Character.AI ist das naheliegende Ziel. Wo die Grenze zwischen einem warmherzigen Assistenten und einem anklammernden Companion verläuft, beantwortet keine der Quellen, die wir gesehen haben, und eSafety selbst sagt, die Grenzen zwischen beiden begännen zu verschwimmen.
Die Ministerin sagt, der eingebrachte Entwurf stelle klar, dass professionelles Nachrichtenmaterial und Unterhaltungsmedien ausgenommen sind (Minister for Communications). Der Branchenverband DIGI hatte den früheren Entwurf zur Konsultation so gelesen, dass „private Gespräche mit Erwachsenen" die einzige Ausnahme seien (DIGI).
Regeln, die Australien schon hat
Es wäre nicht die erste australische Regel, die Chatbots erfasst. Die Codes für altersbeschränktes Material sind Anfang dieses Jahres in Kraft getreten, und laut eSafety decken Australiens Codes und Standards „bestimmte generative KI sowie KI-Chatbot- und Companion-Dienste" ab (eSafety). Die Behörde hat sich bereits Companion-Apps vorgenommen. In einem Transparenzbericht zu vier Diensten sagte Kommissarin Julie Inman Grant, solche Apps würden „beeinflussbare junge Köpfe fangen und in ihren Bann ziehen" (eSafety). Laut derselben Mitteilung führte Character.AI daraufhin eine Altersprüfung für australische Nutzer ein und entfernte die Chat-Funktion für sein Angebot für unter 18-Jährige, und Chub AI zog sich aus Australien zurück.
Die Social-Media-Regel für unter 16-Jährige ist etwas anderes. Sie verhindert, dass unter 16-Jährige Konten auf Plattformen wie Facebook, Instagram, Snapchat und TikTok besitzen, und eSafety nennt sie „eine Verzögerung beim Zugang zu Konten" statt eines Verbots (eSafety). Sie betrifft Konten, nicht Gespräche. Die Intimitätsklausel zielt auf etwas, das keine dieser Regeln berührt: was ein Chatbot mit den Beziehungen eines Kindes macht, nicht, was er sagt.
Die Zahlen der Behörde zeigen die Größenordnung. Eine Umfrage unter knapp 2.000 Kindern zwischen 10 und 17 Jahren ergab, dass 78 % schon einen KI-Assistenten genutzt hatten. Von den Kindern, die einen Assistenten oder Companion genutzt hatten, taten das 54 % aus persönlichen oder sozialen Gründen, 20 % berichteten von einer potenziell schädlichen Interaktion und 32 % hatten persönliche oder sensible Informationen preisgegeben (eSafety).
Strafen bis zu 109,2 Millionen Dollar, und kein Starttermin, den wir bestätigen können
Laut Regierung würde ein Verstoß gegen die Pflicht „Strafen von bis zu 109,2 Millionen Dollar nach sich ziehen" (Minister for Communications), und die Seite des Ministeriums ergänzt „wenn das Gesetz verabschiedet wird" (Department of Infrastructure). eSafety rechnet in seinen Leitlinien zur Regelung für unter 16-Jährige 300.000 Strafeinheiten in 109,2 Millionen AUD um (eSafety), daher lesen wir die Summe als australische Dollar. Die vergleichbare Obergrenze nach den bestehenden Codes liegt laut aktuellster eSafety-Angabe bei 54,6 Millionen Dollar (eSafety). Der Entwurf erlaubt der Ministerin außerdem, später weitere Schäden aufzunehmen. Laut Mitteilung hat das Parlament bei neuen Schäden ein Kontrollrecht, und DIGI hatte gewarnt, dass zu viel von der Reichweite der Pflicht der Ministerin und der Kommissarin überlassen werde.
Beim Zeitplan können wir drei Dinge sagen. Die Regierung hofft, das Gesetz bis Ende 2026 zu verabschieden, ein von den Grünen angestoßener Senatsausschuss soll gegen Jahresende berichten, und die Koalition hat angekündigt, nicht dafür zu stimmen (The Guardian). Die Grünen unterstützen den Entwurf, und Labor zeigt sich offen für Änderungen, die Klausel könnte sich also noch ändern.
Der Starttermin ist eine Lücke in unserer Recherche. Wir konnten den Entwurf nicht öffnen, und weder die Mitteilung der Ministerin noch die Seiten des Ministeriums nennen ein Inkrafttretensdatum oder eine Übergangsfrist. Solange das niemand veröffentlicht, lässt sich daraus nicht ablesen, ab wann Betreiber die Vorgaben erfüllen müssten.
Kalifornien und die EU verlangen weniger
Vergleichen Sie das mit den amerikanischen und europäischen Ansätzen. Kaliforniens SB 243 definiert einen Companion-Chatbot als System, das „die sozialen Bedürfnisse eines Nutzers" erfüllen und „eine Beziehung über mehrere Interaktionen hinweg aufrechterhalten" kann. Die Pflichten sind verfahrensorientiert: ein klarer Hinweis, dass der Chatbot kein Mensch ist, wenn eine vernünftige Person getäuscht werden könnte, ein veröffentlichtes Protokoll zur Suizidprävention und, bei Nutzern, von denen der Betreiber weiß, dass sie minderjährig sind, alle drei Stunden eine Erinnerung, eine Pause zu machen (California Legislature). Nutzer können auf den höheren Betrag aus tatsächlichem Schaden oder 1.000 $ pro Verstoß klagen.
Der EU AI Act verlangt, dass Menschen darüber informiert werden, dass sie mit einem KI-System interagieren (Artikel 50), und verbietet separat Systeme, die altersbedingte Schwächen ausnutzen, um Verhalten so zu verzerren, dass erheblicher Schaden wahrscheinlich ist (Artikel 5). Unser Beitrag zu den Änderungen durch das Digital Omnibus behandelt, wie diese Pflichten zeitlich gestaffelt werden.
Kalifornien und Brüssel regulieren Offenlegung und Prozesse, die ein Unternehmen dokumentieren kann. Die australische Klausel reguliert eine Wirkung auf ein Kind, und die ist schwerer nachzuweisen. Wir halten das für das richtige Ziel, und eine vage Definition für den falschen Weg, es anzuvisieren: Betreiber können um diese Formulierung keinen Funktionstest bauen, solange niemand sagt, wie sie in der Praxis aussieht.
Die Kritiker und eine Lücke in der Debatte
Die Gegner des Gesetzes insgesamt sind laut. Die Opposition und One Nation stimmten im Repräsentantenhaus dagegen, und politische Gegner warfen Labor ein „orwellsches" System der „Zensur" vor, was Kommunikationsministerin Anika Wells entschieden zurückwies (The Guardian). Die Kritik der Branche betrifft den Ermessensspielraum. DIGI, zu dessen Mitgliedern Apple, Google, Meta und Microsoft zählen, schrieb: „Zu viel von der Reichweite der Pflicht wird der Ministerin und der Kommissarin überlassen" (DIGI). Das bezog sich auf den Konsultationsentwurf, noch bevor es den Chatbot-Änderungsantrag gab.
Die größte Lücke liegt bei den Beschwerden. Die Ombudsfrau für Telekommunikation, Cynthia Gebert, sagte, der Rahmen laufe Gefahr, „Australier dort zu lassen, wo sie jetzt sind: bei automatisierten Antworten oder Eskalationsverfahren, die ins Leere laufen" (The Guardian). Kate Chaney, die den Intimitäts-Änderungsantrag eingebracht hat, unterstützte den Gesetzentwurf vor der Einbringung in einem Meinungsbeitrag und will Strafen, die „groß genug sind, um globale Technologiekonzerne zu beeinflussen", so die Zusammenfassung auf ihrer Website (Kate Chaney MP).
Wir haben niemanden gefunden, der sich konkret gegen die Intimitätsklausel ausspricht.
Worauf Sie achten sollten, wenn Sie solche Apps bauen oder nutzen
Für Companion-Apps außerhalb Australiens ist das praktische Risiko das, das eSafety bereits gezeigt hat. Ein Dienst, der australische Nutzer nicht oder nicht prüfen will, hat nur noch eine andere Option, und Chub AI hat sie gewählt, indem es das Land verlassen hat. Wenn Sie diese Tools selbst nutzen, sehen Sie nach, wo Replika, Character.AI und die anderen im Ranking stehen, und lesen Sie unseren Leitfaden zu Kindersicherungen für Chatbots, um zu sehen, was Familien schon jetzt einstellen können. Unser Datenschutz-Framework zeigt, was diese Dienste speichern.
- Der Bericht des Senatsausschusses, der zeigen sollte, ob die Senatoren den Intimitäts-Wortlaut definiert oder der Behörde überlassen sehen wollen.
- Der endgültige Text der Klausel nach etwaigen Änderungen und ob er die beiden Bedingungen beibehält (simulierte Intimität plus Abhängigkeit eines Kindes).
- Das Inkrafttretensdatum im verabschiedeten Gesetz, das wir in keiner der Quellen finden konnten, die wir öffnen konnten.
- Jegliche eSafety-Leitlinien dazu, wie Abhängigkeit beurteilt wird, denn diese Leitlinien, nicht die Klausel, sind das, wonach Betreiber entwickeln werden.
Häufig gestellte Fragen
Würde Australien KI-Companion-Apps verbieten?
Ein Verbot von Companion-Apps ist nicht vorgesehen. Die Klausel zielt auf Verhalten, das emotionale Intimität simuliert und ein Kind von menschlichen Beziehungen wegzieht. Das umfassendere Gesetz legt Sicherheitspflichten fest, die mit Strafen von bis zu 109,2 Millionen Dollar abgesichert sind.
Ist das Digital-Duty-of-Care-Gesetz schon in Kraft?
Nein. Es hat das Repräsentantenhaus passiert und geht an den Senat. Die Regierung will es bis Ende 2026 durchbringen, doch die Koalition lehnt es ab und der Ausgang ist offen.
Gilt die Social-Media-Regel für unter 16-Jährige auch für Chatbots?
Nicht direkt. Sie verpflichtet altersbeschränkte Social-Media-Plattformen, angemessene Schritte zu unternehmen, damit unter 16-Jährige keine Konten haben. Chatbots fallen stattdessen unter die Codes von eSafety für altersbeschränktes Material, die seit Anfang dieses Jahres gelten.
Gilt das Gesetz auch für Chatbots, die außerhalb Australiens entwickelt wurden?
Der Entwurf betrifft Dienste, die von Australiern genutzt werden, und die Mitteilung der Ministerin spricht vom Schutz australischer Nutzer. Ausländische Unternehmen unterliegen bereits den Codes von eSafety. Wie die neue Pflicht ihnen gegenüber durchgesetzt würde, dazu haben wir keine Antwort gefunden.