見出しの裏にある文言は短いものです。政府はプラットフォームに対し、「感情的な親密さを疑似的に作り出し、人間関係の代わりにそれへの子どもの依存を促したり助長したりする素材や行為」を禁止するよう求めることになります(The Guardian)。オーストラリアのデジタル・デューティ・オブ・ケア法案が下院を通過する際、政府は無所属のケイト・チェイニー議員による修正案を受け入れ、「オーストラリアはチャットボットによる偽の親密さを禁止したい」と報じられました。しかし、この一文が述べていることはもっと限定的です。
禁止には2つの条件があり、どちらも子どもに関するものです
条文はゆっくり読んでください。チャットボットが感情的な親密さを疑似的に作るだけでは、規制の対象にはなりません。その素材や行為が、子どもを依存へと向かわせるものでもあり、しかもその依存が「人間関係の代わり」でなければなりません。親しみやすい口調は、この文言が指すものではありません。
修正後の法案本文は開けなかったため、この条項についてここで述べることはすべて、The Guardianの報道に基づいています。確認した政府のページには、「感情的な親密さ」の定義は見当たりませんでした。アンソニー・アルバニージー首相は演説で動機をこう語っています。「チャットボットという人ではない存在を親友だと考える人たちの話は、この議会のすべての議員にとって、行動を起こす覚悟を迫る大きな警鐘であるべきです」(The Guardian)。
ゲーム、アプリ、チャットボット。汎用型も含まれます
この条項は、はるかに大きな法案の一部です。大臣のリリースによると、デジタル・デューティ・オブ・ケアは「ゲーム、アプリ、AIチャットボットなどのオンラインサービスに最低限の安全基準を定める」ものです(Minister for Communications)。事業者はオーストラリアのユーザーの安全を守るために合理的な措置を講じる必要があり、18歳未満は、有害な素材・行為・機能からさらに手厚く保護されます(Department of Infrastructure)。同省のニュースでは、「ゲーム、ソーシャルメディアプラットフォーム、人工知能チャットボット」が挙げられています(Department of Infrastructure)。
この文言のどこにも、義務をコンパニオンアプリに限る記述はありません。ChatGPTやClaudeのような汎用アシスタントもAIチャットボットですし、ReplikaやCharacter.AIのような専用コンパニオンが真っ先に狙われるのは明らかです。温かいアシスタントと、まとわりつくコンパニオンの境目がどこにあるのかは、調べた範囲では示されておらず、eSafety自身も両者の線引きが曖昧になり始めていると述べています。
大臣は、提出された法案で、プロの報道素材とエンタメメディアが適用除外であることが明確化されたと述べています(Minister for Communications)。業界団体のDIGIは、先の公開草案を、例外が「成人の私的な会話」だけになっていると読んでいました(DIGI)。
オーストラリアに既にあるルール
チャットボットに及ぶオーストラリアのルールは、これが初めてではありません。年齢制限対象素材に関する規約は今年の初めに施行されており、eSafetyは、オーストラリアの規約・基準が「一部の生成AI、およびAIチャットボットとコンパニオンサービス」を対象にしていると述べています(eSafety)。規制当局は既にコンパニオンアプリに目を向けています。4つのサービスに関する透明性レポートで、ジュリー・インマン・グラント長官は、こうしたアプリが「影響を受けやすい若い心を罠にかけ、魅了している」と述べました(eSafety)。同じリリースによると、その後Character.AIはオーストラリアのユーザー向けに年齢確認を導入し、18歳未満向けの体験ではチャット機能を削除し、Chub AIはオーストラリアから撤退しました。
16歳未満のソーシャルメディア規制は、性質がまったく異なります。16歳未満がFacebook、Instagram、Snapchat、TikTokなどのプラットフォームでアカウントを持つことを止めるもので、eSafetyはこれを禁止ではなく「アカウント保有の先送り」と呼んでいます(eSafety)。対象はアカウントであって、会話ではありません。親密さ条項が狙うのは、これらのルールのどれも扱っていないもの、つまりチャットボットが何を言うかではなく、子どもの人間関係に何をもたらすかです。
規模は、規制当局自身の数字からわかります。10〜17歳の子ども約2,000人を対象にした調査では、78%がAIアシスタントを使ったことがありました。アシスタントやコンパニオンを使ったことのある子どものうち、54%が個人的・社会的な理由で使い、20%が有害となりうるやり取りを報告し、32%が個人情報や機微な情報を共有していました(eSafety)。
罰則は最大1億920万ドル。ただし施行日は確認できていません
政府は、義務を果たさなければ「最大1億920万ドルの罰則が科される」としており(Minister for Communications)、同省のページには「法案が成立した場合」という但し書きがあります(Department of Infrastructure)。eSafetyは16歳未満向けガイダンスで、30万ペナルティユニットを1億920万豪ドルに換算しているため(eSafety)、この金額は豪ドルと読んでいます。既存の規約における同等の上限は、eSafetyの最新の数字で5,460万ドルです(eSafety)。法案では、大臣が後から新たな害を追加することもできます。リリースによれば、新たな害については議会が精査する仕組みですが、DIGIは、義務の及ぶ範囲の多くが大臣と長官に委ねられすぎていると警告していました。
スケジュールについて言えることは3点です。政府は2026年末までの法案成立を目指しており、緑の党が設置した上院の調査委員会は年末近くに報告書を出す予定で、野党連合(コアリション)は賛成票を投じないと表明しています(The Guardian)。緑の党は法案を支持し、労働党は修正に前向きだとしているため、この条項は変わる可能性があります。
施行日は、私たちの調査で埋められていない部分です。法案本文は開けませんでしたし、大臣のリリースにも同省のページにも、施行日や移行期間は書かれていません。誰かが公表するまでは、事業者がいつ対応しなければならないのか、ここからはわかりません。
カリフォルニア州とEUはもっと控えめです
アメリカやヨーロッパのアプローチと比べてみましょう。カリフォルニア州のSB 243は、コンパニオンチャットボットを「ユーザーの社会的ニーズ」を満たし、「複数のやり取りにわたって関係を維持」できるシステムと定義しています。課される義務は手続き面のものです。合理的な人が誤解しうる場合にチャットボットが人間ではないと明確に通知すること、自殺防止プロトコルを公開すること、そして事業者が未成年と把握しているユーザーには3時間ごとに休憩を促すことです(California Legislature)。ユーザーは、実損害額か違反1件あたり1,000ドルのいずれか高い方を求めて提訴できます。
EUのAI法は、AIシステムとやり取りしていることを人に知らせるよう求めており(Article 50)、これとは別に、年齢を理由とする脆弱性につけ込んで、重大な害を生じさせるおそれのある形で行動を歪めるシステムを禁止しています(Article 5)。これらの義務の適用時期については、Digital Omnibusによる変更点の記事で解説しています。
カリフォルニア州とブリュッセル(EU)が規制するのは、開示とプロセスです。これは企業が文書化できます。一方、オーストラリアの条項が規制するのは子どもへの影響で、こちらは証明が困難です。私たちは、これは狙いとして正しく、曖昧な定義はその狙い方として誤りだと考えます。この文言が実際にどういうものを指すのか誰かが示さない限り、事業者はこの文言を基準に機能テストを組めないからです。
批判派の主張と、議論に欠けている点
法案全体への反対派は声高です。野党と One Nation は下院で反対票を投じ、政治的な反対派は労働党が「オーウェル的」な「検閲」の仕組みをつくっていると非難しましたが、アニカ・ウェルズ通信大臣はこれを強く否定しました(The Guardian)。業界側の不満は裁量の大きさです。Apple、Google、Meta、Microsoftなどが加盟するDIGIは、「義務の及ぶ範囲の多くが大臣と長官に委ねられすぎている」と書きました(DIGI)。これは公開草案についての意見で、チャットボット関連の修正が存在する前のものです。
最も大きな欠落は苦情対応にあります。電気通信オンブズマンのシンシア・ゲバートは、この枠組みでは「オーストラリア人は今と同じ安全とは言えない状態に置かれたままになりかねません。つまり、自動応答や、どこにもたどり着かないエスカレーション手続きしか得られないということです」と述べました(The Guardian)。親密さに関する修正案を提出したケイト・チェイニー議員は、法案提出前に寄稿記事で草案を支持しており、彼女のサイトの要約によれば、罰則を「グローバルなテック企業に影響を及ぼせるほど大きく」することを求めています(Kate Chaney MP)。
親密さ条項そのものに特に反対している人は見つかりませんでした。
アプリを作る人・使う人が注目すべきこと
オーストラリア国外のコンパニオンアプリにとって、現実的なリスクは、eSafetyが既に示したとおりです。オーストラリアのユーザーの年齢確認ができない、あるいはしないサービスに残された選択肢は1つで、Chub AIは国から撤退するという道を選びました。こうしたツールを自分で使う方は、ReplikaやCharacter.AIなどのランキングと、家族が今すぐ設定できる内容をまとめたチャットボットのペアレンタルコントロールガイドをご覧ください。これらのサービスが何を保存するかについては、プライバシーフレームワークで解説しています。
- 上院調査委員会の報告書。議員たちが、親密さに関する文言を定義したいのか、規制当局に委ねたいのかがわかるはずです。
- 修正後の条項の最終的な文言と、2つの条件(疑似的な親密さと子どもの依存)が維持されるかどうか。
- 成立した法律の施行日。開けた資料の中では見つけられませんでした。
- 依存をどう判断するかについてのeSafetyのガイダンス。事業者が実際に基準にするのは、条項そのものではなくこのガイダンスだからです。
よくある質問
オーストラリアはAIコンパニオンアプリを禁止するのですか?
いいえ。コンパニオンアプリの禁止は提案されていません。この条項が対象とするのは、感情的な親密さを疑似的に作り出し、子どもを人間関係から引き離す行為です。法案全体としては安全上の義務を定めており、最大1億920万ドルの罰則が裏付けとなります。
デジタル・デューティ・オブ・ケア法は、もう施行されていますか?
いいえ。下院は通過しており、これから上院に送られます。政府は2026年末までの成立を目指していますが、コアリションは反対しており、結果は見通せません。
16歳未満のソーシャルメディア規制は、チャットボットも対象ですか?
直接は対象ではありません。この規制は、年齢制限のあるソーシャルメディアプラットフォームに、16歳未満のアカウント保有を防ぐ合理的な措置を求めるものです。チャットボットは、今年の初めから適用されているeSafetyの年齢制限対象素材の規約の対象になります。
この法律は、オーストラリア国外で作られたチャットボットにも適用されますか?
法案が対象とするのはオーストラリア人が利用するサービスで、大臣のリリースもオーストラリアのユーザーの保護に言及しています。海外企業は既にeSafetyの規約の対象です。新たな義務が海外企業に対してどう執行されるのかについては、答えを見つけられませんでした。