Формулировка, из-за которой столько шума, короткая. Правительство потребует от платформ запретить «материалы или действия, которые имитируют эмоциональную близость и поощряют или формируют у ребёнка зависимость от неё вместо отношений с людьми» (The Guardian). Правительство приняло поправку независимого депутата Кейт Чейни, когда законопроект о цифровой обязанности заботы прошёл Палату представителей Австралии, и заголовки сообщили, что Австралия хочет запретить чат-ботам изображать близость. На деле в предложении сказано нечто более узкое.
У запрета два условия, и оба связаны с детьми
Прочитайте пункт внимательно. Одной лишь имитации эмоциональной близости чат-ботом недостаточно. Материал или действия должны ещё и подталкивать ребёнка к зависимости, причём к зависимости, которая возникает «вместо отношений с людьми». Дружелюбный тон эта формулировка не описывает.
Текст поправленного законопроекта нам открыть не удалось, поэтому всё, что здесь сказано о пункте, основано на пересказе The Guardian. Определения «эмоциональной близости» на правительственных страницах, которые мы прочитали, мы не нашли. Мотив назвал премьер-министр Энтони Албанезе в своей речи: «истории о том, как люди считают чат-бота, не человека, своим лучшим другом, должны стать тревожным звонком для каждого члена этого парламента и подтолкнуть к готовности действовать» (The Guardian).
Игры, приложения и чат-боты, включая универсальные
Пункт входит в гораздо более крупный законопроект. В релизе министра сказано, что Digital Duty of Care «установит минимальные стандарты безопасности для онлайн-сервисов, таких как игры, приложения и ИИ-чат-боты» (Minister for Communications). Провайдеры должны будут принимать разумные меры для безопасности австралийских пользователей, а несовершеннолетние получат дополнительную защиту от вредных для них материалов, действий и функций (Department of Infrastructure). В новости департамента названы «игры, социальные сети и чат-боты с искусственным интеллектом» (Department of Infrastructure).
Ничто в этой формулировке не ограничивает обязанность приложениями-компаньонами. Универсальный ассистент вроде ChatGPT или Claude тоже ИИ-чат-бот, а специализированный компаньон вроде Replika или Character.AI — очевидная цель. Где проходит граница между тёплым ассистентом и навязчивым компаньоном, мы нигде не нашли, а сам eSafety признаёт, что грань между ними начинает стираться.
Министр говорит, что во внесённом законопроекте уточнено: профессиональные новостные материалы и развлекательные медиа исключены из-под действия закона (Minister for Communications). Отраслевая группа DIGI поняла предыдущий проект для обсуждения так, что единственным исключением остаются «частные разговоры со взрослыми» (DIGI).
Правила, которые в Австралии уже есть
Это не первое австралийское правило, добравшееся до чат-ботов. Кодексы по материалам с возрастными ограничениями вступили в силу в начале этого года, и eSafety говорит, что австралийские кодексы и стандарты охватывают «определённые генеративные ИИ, а также сервисы ИИ-чат-ботов и компаньонов» (eSafety). Регулятор уже занялся приложениями-компаньонами. В отчёте о прозрачности по четырём сервисам комиссар Джули Инман Грант заявила, что такие приложения «опутывают и завораживают впечатлительные юные умы» (eSafety). После этого Character.AI ввёл для австралийских пользователей проверку возраста и убрал функцию чата из версии для лиц младше 18 лет, а Chub AI ушёл из Австралии — следует из того же релиза.
Правило для соцсетей и пользователей младше 16 лет — совсем другое дело. Оно не позволяет подросткам младше 16 лет иметь аккаунты на таких платформах, как Facebook, Instagram, Snapchat и TikTok, а eSafety называет его «отсрочкой получения аккаунтов», а не запретом (eSafety). Речь идёт об аккаунтах, а не о разговорах. Пункт о близости нацелен на то, чего не касается ни одно из этих правил: на то, что чат-бот делает с отношениями ребёнка, а не на то, что он говорит.
Масштаб показывают данные самого регулятора. Опрос почти 2000 детей в возрасте от 10 до 17 лет показал, что 78% пользовались ИИ-ассистентом. Среди детей, которые пользовались ассистентом или компаньоном, 54% делали это по личным или социальным причинам, 20% сообщили о потенциально вредном взаимодействии, а 32% делились личной или конфиденциальной информацией (eSafety).
Штрафы до $109,2 млн и никакой подтверждённой даты начала действия
Правительство заявляет, что нарушение обязанности «повлечёт штрафы до $109,2 млн» (Minister for Communications), а на странице департамента добавлено: «если законопроект будет принят» (Department of Infrastructure). В своих рекомендациях по правилу для младше 16 лет eSafety переводит 300 000 штрафных единиц в 109,2 млн австралийских долларов (eSafety), поэтому мы считаем эту сумму австралийскими долларами. Сопоставимый максимум по действующим кодексам — $54,6 млн, по последним данным eSafety (eSafety). Законопроект также позволяет министру позже добавлять новые виды вреда. В релизе сказано, что над любыми новыми видами парламент сохранит контроль, а DIGI предупреждала, что слишком большая часть охвата обязанности отдана на усмотрение министра и комиссара.
По срокам мы можем назвать три момента. Правительство надеется принять законопроект к концу 2026 года, сенатское расследование, назначенное по инициативе «зелёных», должно отчитаться ближе к концу года, а Коалиция заявила, что голосовать за него не будет (The Guardian). «Зелёные» законопроект поддерживают, лейбористы говорят, что открыты к поправкам, так что пункт может измениться.
Дата начала действия — пробел в том, что нам удалось прочитать. Законопроект мы открыть не смогли, а ни в релизе министра, ни на страницах департамента нет ни даты вступления в силу, ни переходного периода. Пока кто-нибудь их не опубликует, ничто не говорит операторам, к какому сроку им придётся соблюдать закон.
Калифорния и ЕС требуют меньшего
Сравните с американским и европейским подходами. Закон Калифорнии SB 243 определяет чат-бота-компаньона как систему, способную удовлетворять «социальные потребности пользователя» и «поддерживать отношения на протяжении нескольких взаимодействий». Обязанности там процедурные: чёткое уведомление, что чат-бот не человек, когда разумный человек мог бы быть введён в заблуждение, опубликованный протокол предотвращения суицидов и, для пользователей, о которых оператор знает, что они несовершеннолетние, напоминание сделать перерыв каждые три часа (California Legislature). Пользователи могут подать в суд и потребовать большую из двух сумм: фактический ущерб или $1000 за каждое нарушение.
Акт ЕС об ИИ требует сообщать людям, что они взаимодействуют с системой ИИ (статья 50), и отдельно запрещает системы, которые используют уязвимости, связанные с возрастом, чтобы исказить поведение так, что это может причинить значительный вред (статья 5). В нашем материале об изменениях Digital Omnibus рассказано, как расписаны сроки этих обязательств.
Калифорния и Брюссель регулируют раскрытие информации и процесс, то есть то, что компания может задокументировать. Австралийский пункт регулирует воздействие на ребёнка, которое доказать сложнее. Мы считаем, что цель выбрана верно, а расплывчатое определение — неверный способ в неё целиться: оператор не может построить проверку функций вокруг этой фразы, пока кто-нибудь не объяснит, как это выглядит на практике.
Критики и один пробел в дискуссии
Противники законопроекта в целом высказываются громко. Оппозиция и «Одна нация» проголосовали против него в Палате, а политические оппоненты обвинили лейбористов в «оруэлловской» системе «цензуры», что министр связи Аника Уэллс решительно отвергла (The Guardian). Претензия индустрии — широкая свобода усмотрения. DIGI, в которую входят Apple, Google, Meta и Microsoft, написала: «Слишком большая часть охвата обязанности отдана на усмотрение министра и комиссара» (DIGI). Это относилось к проекту для обсуждения, когда поправки о чат-ботах ещё не существовало.
Самый заметный пробел — в жалобах. Омбудсмен по телекоммуникациям Синтия Геберт сказала, что рамки «рискуют оставить австралийцев там же, где они сейчас: с автоматическими ответами и процедурами эскалации, которые никуда не ведут» (The Guardian). Кейт Чейни, внёсшая поправку о близости, поддержала проект закона в авторской колонке до внесения законопроекта и хочет штрафов, «достаточно крупных, чтобы повлиять на глобальные технологические компании», как сказано в резюме на её сайте (Kate Chaney MP).
Тех, кто возражал бы именно против пункта о близости, мы не нашли.
На что смотреть, если вы создаёте или используете такие приложения
Для приложений-компаньонов за пределами Австралии практический риск тот, который eSafety уже показал. У сервиса, который не может или не хочет проверять возраст австралийских пользователей, остаётся один выход, и Chub AI им воспользовался, покинув страну. Если вы сами пользуетесь такими инструментами, посмотрите, как ранжируются Replika, Character.AI и остальные, и наше руководство по родительскому контролю в чат-ботах, где описано, что семьи могут настроить уже сейчас. Наша схема оценки приватности объясняет, что эти сервисы хранят.
- Отчёт сенатского расследования: он покажет, хотят ли сенаторы определить формулировку о близости или оставить это на усмотрение регулятора.
- Окончательный текст пункта после всех поправок и то, сохранятся ли в нём два условия (имитация близости плюс зависимость ребёнка).
- Дата вступления в силу в принятом законе, которую мы не нашли ни в одном из открывшихся документов.
- Любые рекомендации eSafety о том, как оценивать зависимость: операторы будут ориентироваться на них, а не на сам пункт.
Частые вопросы
Запретит ли Австралия ИИ-приложения-компаньоны?
Запрет приложений-компаньонов не предлагается. Пункт нацелен на действия, которые имитируют эмоциональную близость и отдаляют ребёнка от отношений с людьми. Более широкий законопроект устанавливает обязанности по безопасности, подкреплённые штрафами до $109,2 млн.
Действует ли уже закон о цифровой обязанности заботы?
Нет. Он прошёл Палату представителей и отправляется в Сенат. Правительство хочет завершить дело к концу 2026 года, но Коалиция против, и исход открыт.
Распространяется ли правило для соцсетей и лиц младше 16 лет на чат-ботов?
Напрямую нет. Оно требует от соцсетей с возрастными ограничениями принимать разумные меры, чтобы не допускать аккаунты младше 16 лет. Чат-боты подпадают под кодексы eSafety по материалам с возрастными ограничениями, которые действуют с начала этого года.
Распространяется ли закон на чат-ботов, созданных за пределами Австралии?
Законопроект касается сервисов, которыми пользуются австралийцы, а в релизе министра говорится о защите австралийских пользователей. Зарубежные компании уже сталкиваются с кодексами eSafety. Как новая обязанность будет применяться к ним, мы ответа не нашли.