Kalimat di balik berita utamanya singkat. Pemerintah akan mewajibkan platform melarang "materi atau perilaku yang mensimulasikan keintiman emosional dan mendorong atau menumbuhkan ketergantungan anak padanya sebagai pengganti hubungan antarmanusia" (The Guardian). Pemerintah menerima amendemen dari anggota parlemen crossbench Kate Chaney saat RUU digital duty of care Australia lolos di House of Representatives, dan media memberitakan bahwa Australia ingin melarang chatbot memalsukan keintiman. Padahal kalimatnya menyatakan sesuatu yang lebih sempit.
Larangan ini punya dua syarat, dan keduanya menyangkut anak
Baca klausulnya pelan-pelan. Chatbot yang mensimulasikan keintiman emosional saja belum cukup untuk memicunya. Materi atau perilaku tersebut juga harus mendorong anak ke arah ketergantungan, dan ketergantungan itu harus "sebagai pengganti hubungan antarmanusia." Nada bicara yang ramah bukan yang digambarkan oleh rumusan ini.
Kami tidak bisa membuka teks RUU yang sudah diamendemen, jadi semua yang kami tulis tentang klausul ini bersumber dari laporan The Guardian. Di halaman-halaman pemerintah yang kami baca, kami tidak menemukan definisi "keintiman emosional". Perdana Menteri Anthony Albanese menjelaskan motifnya dalam pidato: "kisah-kisah yang kita dengar tentang orang yang menganggap chatbot, sesuatu yang bukan manusia, sebagai sahabat terbaiknya, seharusnya menjadi peringatan keras bagi setiap anggota parlemen ini untuk siap bertindak" (The Guardian).
Game, aplikasi, dan chatbot, termasuk yang serbaguna
Klausul ini berada di dalam RUU yang jauh lebih besar. Siaran pers menteri menyebut Digital Duty of Care "akan menetapkan standar keselamatan minimum untuk layanan online seperti game, aplikasi, dan chatbot AI" (Minister for Communications). Penyedia layanan harus mengambil langkah yang wajar untuk menjaga keselamatan pengguna Australia, dan anak di bawah 18 tahun mendapat perlindungan tambahan dari materi, perilaku, dan fitur yang berbahaya bagi mereka (Department of Infrastructure). Berita departemen tersebut menyebut "game, platform media sosial, dan chatbot kecerdasan buatan" (Department of Infrastructure).
Tidak ada bahasa di situ yang membatasi kewajiban ini hanya untuk aplikasi pendamping. Asisten umum seperti ChatGPT atau Claude juga chatbot AI, sedangkan pendamping khusus seperti Replika atau Character.AI jelas menjadi sasaran utamanya. Di mana batas antara asisten yang hangat dan pendamping yang menempel terus tidak dijawab di sumber mana pun yang kami baca, dan eSafety sendiri mengakui batas keduanya mulai kabur.
Menurut menteri, RUU yang diajukan menegaskan bahwa materi berita profesional dan media hiburan dikecualikan (Minister for Communications). Kelompok industri DIGI membaca rancangan paparan sebelumnya hanya mengecualikan "percakapan pribadi dengan orang dewasa" (DIGI).
Aturan yang sudah dimiliki Australia
Ini bukan aturan Australia pertama yang menjangkau chatbot. Kode materi terbatas usia mulai berlaku awal tahun ini, dan eSafety menyatakan kode dan standar Australia mencakup "generative AI tertentu serta layanan chatbot AI dan pendamping" (eSafety). Regulator sudah menyasar aplikasi pendamping. Dalam laporan transparansi atas empat layanan, Komisioner Julie Inman Grant menyebut aplikasi semacam itu "menjerat dan memikat pikiran anak muda yang mudah dipengaruhi" (eSafety). Character.AI kemudian menerapkan verifikasi usia untuk pengguna Australia dan menghapus fitur chat pada pengalaman untuk pengguna di bawah 18 tahun, sementara Chub AI menarik diri dari Australia, menurut siaran pers yang sama.
Aturan media sosial untuk anak di bawah 16 tahun adalah hal yang berbeda. Aturan itu mencegah anak di bawah 16 tahun memiliki akun di platform seperti Facebook, Instagram, Snapchat, dan TikTok, dan eSafety menyebutnya "penundaan kepemilikan akun" alih-alih larangan (eSafety). Yang diatur adalah akun, bukan percakapan. Klausul keintiman menyasar sesuatu yang tidak disentuh aturan-aturan itu: apa yang dilakukan chatbot terhadap hubungan seorang anak, bukan apa yang dikatakannya.
Angka dari regulator sendiri menunjukkan skalanya. Survei terhadap hampir 2.000 anak usia 10 sampai 17 tahun menemukan 78% pernah memakai asisten AI. Di antara anak yang pernah memakai asisten atau pendamping, 54% melakukannya untuk alasan pribadi atau sosial, 20% melaporkan interaksi yang berpotensi berbahaya, dan 32% membagikan informasi pribadi atau sensitif (eSafety).
Denda hingga $109,2 juta, dan belum ada tanggal mulai yang bisa kami pastikan
Pemerintah menyatakan pelanggaran kewajiban ini akan "dikenai denda hingga $109,2 juta" (Minister for Communications), dan halaman departemen menambahkan "jika undang-undang disahkan" (Department of Infrastructure). eSafety mengonversi 300.000 penalty unit menjadi $109,2 juta AUD dalam panduan untuk aturan di bawah 16 tahun (eSafety), jadi kami membaca angka itu sebagai dolar Australia. Batas atas yang sebanding dalam kode yang ada adalah $54,6 juta, menurut angka terbaru eSafety (eSafety). RUU ini juga memungkinkan menteri menambahkan jenis bahaya di kemudian hari. Siaran pers menyebut Parlemen akan mengawasi setiap tambahan baru, dan DIGI sempat memperingatkan bahwa terlalu banyak jangkauan kewajiban ini diserahkan kepada menteri dan komisioner.
Ada tiga bagian jadwal yang bisa kami nyatakan. Pemerintah berharap RUU ini disahkan akhir 2026, sebuah penyelidikan Senat yang dibentuk Partai Hijau dijadwalkan melapor menjelang akhir tahun, dan Koalisi menyatakan tidak akan memilihnya (The Guardian). Partai Hijau mendukung RUU ini, dan Partai Buruh terbuka terhadap amendemen, sehingga klausulnya bisa berubah.
Tanggal mulai adalah celah dalam bacaan kami. Kami tidak bisa membuka RUU-nya, dan baik siaran pers menteri maupun halaman departemen tidak mencantumkan tanggal berlaku atau masa transisi. Sampai ada yang menerbitkannya, tidak ada yang memberi tahu operator kapan mereka harus patuh.
California dan Uni Eropa meminta lebih sedikit
Bandingkan dengan pendekatan Amerika dan Eropa. SB 243 California mendefinisikan chatbot pendamping sebagai sistem yang bisa memenuhi "kebutuhan sosial pengguna" dan "mempertahankan hubungan lintas banyak interaksi." Kewajibannya bersifat prosedural: pemberitahuan jelas bahwa chatbot bukan manusia ketika orang yang wajar bisa tertipu, protokol pencegahan bunuh diri yang dipublikasikan, dan, untuk pengguna yang diketahui operator masih di bawah umur, pengingat setiap tiga jam untuk beristirahat (California Legislature). Pengguna dapat menggugat sebesar nilai yang lebih besar antara ganti rugi aktual atau $1.000 per pelanggaran.
EU AI Act mewajibkan orang diberi tahu bahwa mereka berinteraksi dengan sistem AI (Pasal 50) dan secara terpisah melarang sistem yang mengeksploitasi kerentanan akibat usia untuk mendistorsi perilaku dengan cara yang berpotensi menimbulkan kerugian signifikan (Pasal 5). Tulisan kami tentang perubahan Digital Omnibus membahas bagaimana jadwal kewajiban tersebut diatur.
California dan Brussels mengatur pengungkapan dan proses, yang bisa didokumentasikan perusahaan. Klausul Australia mengatur dampak pada anak, yang lebih sulit dibuktikan. Menurut kami itu sasaran yang tepat, tetapi definisi yang kabur adalah cara membidik yang keliru: operator tidak bisa membuat uji fitur berdasarkan frasa itu sebelum ada yang menjelaskan wujudnya seperti apa.
Para pengkritik, dan satu celah dalam perdebatan
Penentang RUU secara keseluruhan sangat vokal. Oposisi dan One Nation memilih menolaknya di House, dan lawan politik menuduh Partai Buruh membangun sistem "ala Orwell" yang berisi "sensor," yang dibantah keras oleh menteri komunikasi Anika Wells (The Guardian). Keluhan industri adalah soal diskresi. DIGI, yang anggotanya termasuk Apple, Google, Meta, dan Microsoft, menulis bahwa "Terlalu banyak jangkauan Duty ini diserahkan kepada Menteri dan Komisioner" (DIGI). Itu mengenai rancangan paparan, sebelum amendemen chatbot ada.
Celah paling tajam ada pada pengaduan. Ombudsman telekomunikasi Cynthia Gebert mengatakan kerangka ini "berisiko membiarkan warga Australia tetap di tempat aman yang mereka tempati sekarang, di mana mereka mendapat balasan otomatis atau prosedur eskalasi yang tidak ke mana-mana" (The Guardian). Kate Chaney, yang mengajukan amendemen keintiman, mendukung rancangan undang-undang itu dalam sebuah opini sebelum RUU diajukan dan menginginkan denda yang "cukup besar untuk memengaruhi perusahaan teknologi global," menurut ringkasan di situsnya (Kate Chaney MP).
Kami tidak menemukan siapa pun yang secara khusus menentang klausul keintiman.
Yang perlu dipantau jika Anda membangun atau memakai aplikasi ini
Bagi aplikasi pendamping di luar Australia, risiko praktisnya sama dengan yang sudah ditunjukkan eSafety. Layanan yang tidak bisa atau tidak mau memverifikasi usia pengguna Australia hanya punya satu pilihan lain, dan Chub AI memilihnya dengan meninggalkan negara itu. Jika Anda sendiri memakai alat-alat ini, lihat peringkat Replika, Character.AI, dan lainnya, serta panduan kami tentang kontrol orang tua untuk chatbot untuk pengaturan yang bisa dipakai keluarga sekarang. Kerangka privasi kami membahas data apa saja yang disimpan layanan ini.
- Laporan penyelidikan Senat, yang akan menunjukkan apakah para senator ingin frasa keintiman didefinisikan atau diserahkan kepada regulator.
- Teks akhir klausul setelah amendemen apa pun, dan apakah dua syaratnya tetap ada (simulasi keintiman plus ketergantungan anak).
- Tanggal mulai berlaku dalam undang-undang yang disahkan, yang tidak kami temukan di sumber mana pun yang bisa kami buka.
- Panduan eSafety tentang cara menilai ketergantungan, karena panduan itu, bukan klausulnya, yang akan menjadi acuan operator.
Pertanyaan yang sering diajukan
Apakah Australia akan melarang aplikasi pendamping AI?
Tidak ada larangan terhadap aplikasi pendamping yang diusulkan. Klausul ini menyasar perilaku yang mensimulasikan keintiman emosional dan menjauhkan anak dari hubungan antarmanusia. RUU yang lebih luas menetapkan kewajiban keselamatan, dengan denda hingga $109,2 juta.
Apakah undang-undang digital duty of care sudah berlaku?
Belum. RUU ini sudah lolos di House of Representatives dan akan dibawa ke Senat. Pemerintah ingin menuntaskannya akhir 2026, tetapi Koalisi menentang dan hasilnya belum pasti.
Apakah aturan media sosial untuk anak di bawah 16 tahun mencakup chatbot?
Tidak secara langsung. Aturan itu mewajibkan platform media sosial dengan batasan usia untuk mengambil langkah yang wajar agar anak di bawah 16 tahun tidak memiliki akun. Chatbot justru diatur lewat kode materi terbatas usia eSafety, yang berlaku sejak awal tahun ini.
Apakah undang-undang ini berlaku untuk chatbot buatan luar Australia?
RUU ini mengatur layanan yang dipakai warga Australia, dan siaran pers menteri berbicara tentang melindungi pengguna Australia. Perusahaan asing sudah menghadapi kode eSafety. Bagaimana kewajiban baru ini akan ditegakkan terhadap mereka, kami tidak menemukan jawabannya.