标题背后的原文很短。政府将要求平台禁止"模拟情感亲密、并鼓励或助长儿童以此取代人际关系而产生依赖的材料或行为"(The Guardian)。澳大利亚数字注意义务法案在众议院通过时,政府接受了crossbench议员 Kate Chaney 提出的这项修正案,于是各家媒体的标题都写成"澳大利亚要禁止聊天机器人假装亲密"。但这句话的实际范围要窄得多。
这项禁令有两个条件,而且都与儿童有关
慢慢读这条条款。光是聊天机器人模拟情感亲密,并不足以触发它。相关材料或行为还必须把儿童推向依赖,而且这种依赖必须是"取代人际关系"的依赖。语气友好,并不是这段措辞所描述的对象。
我们没能打开修正后的法案文本,所以这里关于条款的一切,都来自 Guardian 对它的报道。在我们读过的政府页面中,也没有找到对"情感亲密"的定义。总理 Anthony Albanese 在一次演讲中说明了动机:"我们听到有人把聊天机器人这种非人的东西当成最好的朋友,这些故事应该给议会里的每一位议员敲响警钟,促使他们做好行动的准备"(The Guardian)。
游戏、应用和聊天机器人,包括通用型
这条条款只是一部大得多的法案中的一部分。部长的新闻稿称,数字注意义务"将为游戏、应用和 AI 聊天机器人等在线服务设定最低安全标准"(Minister for Communications)。服务提供商必须采取合理措施保障澳大利亚用户的安全,18 岁以下用户还会获得额外保护,免受对其有害的材料、行为和功能的影响(Department of Infrastructure)。该部门的新闻稿点名了"游戏、社交媒体平台和人工智能聊天机器人"(Department of Infrastructure)。
这些措辞并没有把义务限定在陪伴类应用上。ChatGPT 或 Claude 这样的通用助手同样是 AI 聊天机器人,而 Replika 或 Character.AI 这类专门的陪伴应用显然是首要目标。至于温暖的助手和黏人的陪伴之间界线划在哪里,我们查过的材料里都没有答案,eSafety 自己也承认,两者的界线正开始变得模糊。
部长表示,提交的法案明确了专业新闻材料和娱乐媒体可获豁免(Minister for Communications)。行业组织 DIGI 此前读到的早期征求意见稿,则是只把"与成年人的私人对话"列为唯一例外(DIGI)。
澳大利亚已有的规则
这不会是澳大利亚第一条管到聊天机器人的规则。年龄限制材料守则今年早些时候已经生效,eSafety 表示,澳大利亚的守则和标准涵盖"某些生成式 AI,以及 AI 聊天机器人和陪伴服务"(eSafety)。监管机构已经对陪伴类应用下手。在一份针对四项服务的透明度报告中,专员 Julie Inman Grant 称这类应用"正在诱捕和迷惑易受影响的年轻心灵"(eSafety)。据同一份新闻稿,Character.AI 随后为澳大利亚用户引入了年龄验证,并取消了未满 18 岁体验中的聊天功能,而 Chub AI 则退出了澳大利亚市场。
16 岁以下社交媒体规则则是另一回事。它禁止 16 岁以下用户在 Facebook、Instagram、Snapchat 和 TikTok 等平台持有账户,eSafety 称其为"推迟开设账户"而非禁令(eSafety)。它管的是账户,不是对话。而亲密条款针对的是上述规则都没碰过的东西:聊天机器人对儿童人际关系造成的影响,而不是它说了什么。
监管机构自己的数据能说明规模。一项覆盖近 2,000 名 10 至 17 岁儿童的调查发现,78% 用过 AI 助手。在用过助手或陪伴类应用的儿童中,54% 是出于个人或社交原因,20% 报告遇到过可能有害的互动,32% 分享过个人或敏感信息(eSafety)。
罚款最高 1.092 亿澳元,生效日期我们无法确认
政府表示,违反该义务将"面临最高 1.092 亿澳元的罚款"(Minister for Communications),而该部门的页面补充了"如果该立法获得通过"(Department of Infrastructure)。eSafety 在其 16 岁以下指南中把 300,000 个罚款单位折算为 1.092 亿澳元(eSafety),所以我们把这个数字理解为澳元。按 eSafety 的最新数字,现行守则下的同类上限是 5,460 万澳元(eSafety)。法案还允许部长日后增加新的危害类型。新闻稿称议会将对任何新增类型进行监督,而 DIGI 此前曾警告,该义务的适用范围有太多被交给了部长和专员来决定。
时间线上有三点可以确定。政府希望在 2026 年底前通过法案;绿党发起的参议院调查预计在年底前后提交报告;联盟党已表示不会投赞成票(The Guardian)。绿党支持该法案,工党则表示愿意接受修正,所以这条条款仍可能改变。
生效日期是我们阅读中的空白。我们没能打开法案,部长的新闻稿和该部门的页面也都没给出生效日期或过渡期。在有人公布之前,这里的任何材料都无法告诉运营方什么时候必须合规。
加州和欧盟的要求更少
对比一下美国和欧洲的做法。加州的 SB 243 把陪伴聊天机器人定义为能满足"用户的社交需求"并"在多次互动中维持一种关系"的系统。它的义务偏流程:当理性人可能被误导时,要明确告知聊天机器人不是真人;公布自杀预防协议;对运营方明知是未成年人的用户,每三小时提醒一次休息(California Legislature)。用户可以起诉,索赔金额取实际损失与每次违规 1,000 美元中的较高者。
欧盟 AI Act 要求告知人们他们正在与 AI 系统互动(Article 50),并另外禁止利用年龄带来的脆弱性、扭曲行为并可能造成重大伤害的系统(Article 5)。我们那篇关于 Digital Omnibus 变化的文章介绍了这些义务的时间安排。
加州和布鲁塞尔监管的是披露和流程,公司可以留档证明。澳大利亚的条款监管的是对儿童产生的影响,这更难证明。我们认为这个目标是对的,但用含糊的定义去瞄准它是错的:在有人说清楚这个措辞到底长什么样之前,运营方没法围绕它设计功能测试。
批评者,以及辩论中的一个空白
反对整部法案的声音很响。反对党和 One Nation 党在众议院投了反对票,政治对手还指责工党搞"奥威尔式"的"审查"体系,通信部长 Anika Wells 对此强烈否认(The Guardian)。行业的不满集中在自由裁量权上。DIGI 的成员包括 Apple、Google、Meta 和 Microsoft,它写道:"该义务的适用范围有太多被留给了部长和专员"(DIGI)。不过那说的是征求意见稿,当时聊天机器人修正案还不存在。
最尖锐的空白出现在投诉环节。电信申诉专员 Cynthia Gebert 说,这个框架"有可能让澳大利亚人停留在他们现在所处的安全区,在那里得到的只是自动回复或无处可去的升级流程"(The Guardian)。提出亲密修正案的 Kate Chaney 在法案提交前曾发表评论文章支持该法律草案,据她网站上的摘要,她希望罚款"大到足以影响全球科技公司"(Kate Chaney MP)。
我们没有找到专门反对亲密条款的人。
如果你开发或使用这类应用,该关注什么
对澳大利亚以外的陪伴类应用来说,现实风险就是 eSafety 已经展示过的那一种。无法或不愿对澳大利亚用户做年龄验证的服务,只剩下一个选择,而 Chub AI 选择了离开这个国家。如果你自己也在用这些工具,可以看看 Replika、Character.AI 等产品的排名,以及我们的聊天机器人家长控制指南,了解家庭现在能做哪些设置。我们的隐私框架则说明了这些服务会保留哪些数据。
- 参议院调查报告,它应该能显示参议员是希望给亲密条款的措辞下定义,还是留给监管机构处理。
- 任何修正之后该条款的最终文本,以及它是否保留这两个条件(模拟亲密加上儿童依赖)。
- 已通过法案中的生效日期,我们在所有能打开的材料里都没找到。
- eSafety 关于如何判定依赖的任何指引,因为运营方真正要依据的是这份指引,而不是条款本身。
常见问题
澳大利亚会禁止 AI 陪伴应用吗?
目前没有提议禁止陪伴类应用。该条款针对的是模拟情感亲密、并把儿童从人际关系中拉开的行为。整部法案设定的是安全义务,并以最高 1.092 亿澳元的罚款作后盾。
数字注意义务法已经生效了吗?
没有。它已通过众议院,接下来进入参议院。政府希望在 2026 年底前完成,但联盟党反对,结果尚不确定。
16 岁以下社交媒体规则适用于聊天机器人吗?
不直接适用。它要求受年龄限制的社交媒体平台采取合理措施,阻止 16 岁以下用户拥有账户。聊天机器人归 eSafety 的年龄限制材料守则管,该守则自今年早些时候起适用。
这项法律适用于澳大利亚境外开发的聊天机器人吗?
法案针对的是澳大利亚人使用的服务,部长的新闻稿也提到要保护澳大利亚用户。海外公司本来就受 eSafety 守则约束。至于新义务将如何对它们执行,我们没有找到答案。