헤드라인 뒤에 있는 문구는 짧습니다. 정부는 플랫폼에 "정서적 친밀감을 흉내 내고, 아동이 인간관계 대신 그것에 의존하도록 부추기거나 조장하는 콘텐츠 또는 행위"를 금지하도록 요구할 계획입니다(The Guardian). 호주의 디지털 주의 의무 법안이 하원을 통과하는 과정에서 정부는 무소속 의원 Kate Chaney의 수정안을 받아들였고, 언론은 호주가 챗봇의 친밀감 흉내를 금지하려 한다고 보도했습니다. 하지만 이 문장이 말하는 범위는 그보다 좁습니다.
금지에는 두 가지 조건이 있고, 둘 다 아동과 관련됩니다
조항을 천천히 읽어 보십시오. 챗봇이 정서적 친밀감을 흉내 내는 것만으로는 조항이 적용되지 않습니다. 해당 콘텐츠나 행위가 아동을 의존으로 이끌어야 하고, 그 의존이 "인간관계 대신"이어야 합니다. 친근한 말투는 이 문구가 가리키는 대상이 아닙니다.
수정된 법안 원문은 열어 보지 못했기 때문에, 이 조항에 관한 내용은 모두 Guardian의 보도를 통해 확인한 것입니다. 우리가 읽은 정부 페이지에서는 "정서적 친밀감"의 정의를 찾지 못했습니다. Anthony Albanese 총리는 연설에서 동기를 이렇게 밝혔습니다. "챗봇, 즉 사람이 아닌 존재를 가장 친한 친구로 여긴다는 이야기들은 이 의회의 모든 의원에게 행동에 나서야 한다는 커다란 경종이 되어야 합니다"(The Guardian).
게임, 앱, 챗봇, 범용 챗봇도 포함
이 조항은 훨씬 큰 법안의 일부입니다. 장관 보도자료에 따르면 디지털 주의 의무는 "게임, 앱, AI 챗봇 같은 온라인 서비스에 대한 최소 안전 기준을 정합니다"(Minister for Communications). 사업자는 호주 이용자를 안전하게 지키기 위해 합리적인 조치를 취해야 하며, 18세 미만은 해로운 콘텐츠, 행위, 기능으로부터 추가로 보호받습니다(Department of Infrastructure). 해당 부처의 뉴스 항목에는 "게임, 소셜 미디어 플랫폼, 인공지능 챗봇"이 명시되어 있습니다(Department of Infrastructure).
이 문구 어디에도 의무를 컴패니언 앱으로 한정하는 내용은 없습니다. ChatGPT나 Claude 같은 범용 어시스턴트도 AI 챗봇이고, Replika나 Character.AI 같은 전용 컴패니언 앱이 가장 분명한 표적입니다. 따뜻한 어시스턴트와 집착하는 컴패니언 사이의 경계가 어디인지는 우리가 찾아본 어디에도 나와 있지 않으며, eSafety 스스로도 둘 사이의 경계가 흐려지기 시작했다고 말합니다.
장관은 제출된 법안이 전문 뉴스 콘텐츠와 엔터테인먼트 미디어를 적용 제외 대상으로 명확히 했다고 밝힙니다(Minister for Communications). 업계 단체 DIGI는 앞선 공개 초안(exposure draft)을 "성인 간의 사적 대화"만 예외로 두는 것으로 해석했습니다(DIGI).
호주에 이미 있는 규제
챗봇에 닿는 호주 규제가 이번이 처음은 아닙니다. 연령 제한 콘텐츠 규약(age-restricted material codes)은 올해 초 시행되었고, eSafety는 호주의 규약과 기준이 "일부 생성형 AI는 물론 AI 챗봇과 컴패니언 서비스"까지 포괄한다고 밝힙니다(eSafety). 규제 당국은 이미 컴패니언 앱을 들여다보고 있습니다. Julie Inman Grant 위원은 4개 서비스에 대한 투명성 보고서에서 이런 앱이 "감수성 예민한 어린 마음을 옭아매고 홀리고 있다"고 말했습니다(eSafety). 같은 보도자료에 따르면 이후 Character.AI는 호주 이용자에게 연령 확인을 도입하고 18세 미만용 서비스에서 채팅 기능을 없앴으며, Chub AI는 호주에서 철수했습니다.
16세 미만 소셜 미디어 규칙은 성격이 다릅니다. 16세 미만이 Facebook, Instagram, Snapchat, TikTok 같은 플랫폼에서 계정을 보유하지 못하게 하는 규칙이며, eSafety는 이를 금지가 아니라 "계정 보유의 유예"라고 부릅니다(eSafety). 대상은 대화가 아니라 계정입니다. 친밀감 조항이 겨냥하는 것은 이 규칙들 어디에도 닿지 않는 영역, 즉 챗봇이 무슨 말을 하느냐가 아니라 아동의 인간관계에 어떤 영향을 미치느냐입니다.
규제 당국의 수치가 규모를 보여 줍니다. 10~17세 아동 약 2,000명을 조사한 결과 78%가 AI 어시스턴트를 사용한 적이 있었습니다. 어시스턴트나 컴패니언을 써 본 아동 가운데 54%는 개인적 또는 사회적 이유로 사용했고, 20%는 해로울 수 있는 상호작용을 겪었다고 답했으며, 32%는 개인 정보나 민감한 정보를 공유한 적이 있었습니다(eSafety).
최대 1억 920만 달러의 벌금, 확인되는 시행일은 없음
정부는 주의 의무를 지키지 못하면 "최대 1억 920만 달러의 벌금이 부과될 것"이라고 밝혔고(Minister for Communications), 부처 페이지는 여기에 "법안이 통과될 경우"라는 단서를 붙입니다(Department of Infrastructure). eSafety는 16세 미만 관련 지침에서 300,000 벌금 단위를 1억 920만 호주 달러로 환산하므로(eSafety), 이 금액은 호주 달러로 보는 것이 맞습니다. 기존 규약에서 비교 가능한 상한은 eSafety의 최신 수치로 5,460만 달러입니다(eSafety). 이 법안은 장관이 나중에 유해 유형을 추가할 수 있게도 합니다. 보도자료는 새 유형에 대해 의회가 감독권을 갖는다고 밝히지만, DIGI는 주의 의무의 적용 범위 상당 부분이 장관과 위원의 재량에 맡겨져 있다고 경고했습니다.
일정에서 확인되는 것은 세 가지입니다. 정부는 2026년 말까지 법안 통과를 희망하고, 녹색당이 꾸린 상원 조사위원회는 연말 무렵 보고서를 낼 예정이며, 연합(Coalition)은 법안에 찬성표를 던지지 않겠다고 밝혔습니다(The Guardian). 녹색당은 법안을 지지하고 노동당은 수정에 열려 있다고 하므로, 조항이 바뀔 수 있습니다.
시행일은 우리가 확인하지 못한 부분입니다. 법안 원문을 열어 보지 못했고, 장관 보도자료와 부처 페이지 어디에도 시행일이나 유예 기간은 나와 있지 않습니다. 누군가 이를 공개하기 전까지는 사업자가 언제부터 규정을 따라야 하는지 알 수 없습니다.
캘리포니아와 EU는 더 적게 요구합니다
미국과 유럽의 접근법과 비교해 보십시오. 캘리포니아 SB 243은 컴패니언 챗봇을 "이용자의 사회적 욕구"를 충족할 수 있고 "여러 차례의 상호작용에 걸쳐 관계를 이어 갈 수 있는" 시스템으로 정의합니다. 의무는 절차적입니다. 합리적인 사람이 오해할 수 있을 때 챗봇이 사람이 아니라는 점을 분명히 알리고, 자살 예방 프로토콜을 공개하며, 사업자가 미성년자임을 아는 이용자에게는 3시간마다 휴식을 권하는 알림을 보내야 합니다(California Legislature). 이용자는 실제 손해액과 위반 1건당 1,000달러 중 더 큰 금액을 청구하는 소송을 제기할 수 있습니다.
EU AI Act는 사람들이 AI 시스템과 상호작용하고 있음을 알리도록 요구하고(Article 50), 이와 별도로 연령 때문에 취약한 점을 악용해 심각한 해를 끼칠 가능성이 있는 방식으로 행동을 왜곡하는 시스템을 금지합니다(Article 5). 이 의무들의 시행 시점이 어떻게 조정되고 있는지는 Digital Omnibus 변경 사항에 관한 글에서 다뤘습니다.
캘리포니아와 브뤼셀은 고지와 절차를 규제하며, 기업은 이를 문서로 입증할 수 있습니다. 반면 호주 조항은 아동에게 미치는 영향을 규제하는데, 이는 입증하기가 더 어렵습니다. 우리는 그것이 맞는 과녁이라고 생각하지만, 모호한 정의는 그 과녁을 겨냥하는 잘못된 방식이라고 봅니다. 그 문구가 구체적으로 어떤 모습인지 누군가 밝히기 전까지는 사업자가 그에 맞춰 기능 테스트를 설계할 수 없기 때문입니다.
비판론, 그리고 논쟁에서 빠진 한 가지
법안 전체에 반대하는 목소리는 큽니다. 야당과 One Nation은 하원에서 반대표를 던졌고, 정치적 반대 진영은 노동당이 "검열"을 일삼는 "오웰식" 체제를 만들고 있다고 비난했으며, Anika Wells 통신부 장관은 이를 강하게 부인했습니다(The Guardian). 업계의 불만은 재량권입니다. Apple, Google, Meta, Microsoft 등이 회원사인 DIGI는 "주의 의무의 적용 범위 상당 부분이 장관과 위원의 재량에 맡겨져 있다"고 썼습니다(DIGI). 이는 공개 초안에 대한 의견이었고, 챗봇 수정안이 나오기 전의 일입니다.
가장 날카로운 지적은 민원 처리에 있습니다. 통신 옴부즈맨 Cynthia Gebert는 이 체계가 "호주인들을 지금과 같은 안전지대에 그대로 남겨 둘 위험이 있으며, 거기서는 자동 응답이나 아무 데도 닿지 않는 에스컬레이션 절차만 돌아올 뿐"이라고 말했습니다(The Guardian). 친밀감 수정안을 발의한 Kate Chaney는 법안 제출 전 기고문에서 초안을 지지했고, 그녀의 사이트 요약에 따르면 "글로벌 기술 기업에 영향을 줄 만큼 큰" 벌금을 원합니다(Kate Chaney MP).
친밀감 조항 자체에 반대하는 사람은 찾지 못했습니다.
앱을 만들거나 사용한다면 주목할 점
호주 밖의 컴패니언 앱에 현실적인 위험은 eSafety가 이미 보여 준 것입니다. 호주 이용자의 연령을 확인할 수 없거나 확인하지 않으려는 서비스에는 선택지가 하나 더 있고, Chub AI는 호주를 떠나는 쪽을 택했습니다. 이런 도구를 직접 쓰신다면 Replika, Character.AI 등의 순위를 확인하고, 가족이 지금 설정할 수 있는 항목은 챗봇 자녀 보호 기능 가이드에서 살펴보십시오. 이런 서비스가 어떤 데이터를 보관하는지는 개인정보 보호 프레임워크에서 다룹니다.
- 상원 조사위원회 보고서. 의원들이 친밀감 문구를 정의하길 원하는지, 아니면 규제 당국에 맡기길 원하는지 드러날 것입니다.
- 수정 이후 확정된 조항 최종 문안, 그리고 두 가지 조건(흉내 낸 친밀감과 아동의 의존)이 유지되는지 여부.
- 통과된 법률의 시행일. 우리가 열어 볼 수 있었던 어떤 자료에서도 찾지 못했습니다.
- eSafety가 의존 여부를 어떻게 판단할지에 관한 지침. 사업자가 실제로 따라 만들게 될 기준은 조항이 아니라 이 지침이기 때문입니다.
자주 묻는 질문
호주는 AI 컴패니언 앱을 금지할까요?
컴패니언 앱 금지는 제안되지 않았습니다. 이 조항이 겨냥하는 것은 정서적 친밀감을 흉내 내고 아동을 인간관계에서 멀어지게 하는 행위입니다. 더 큰 법안은 안전 의무를 정하고, 최대 1억 920만 달러의 벌금으로 뒷받침합니다.
디지털 주의 의무 법은 이미 시행 중인가요?
아닙니다. 하원은 통과했고 상원으로 넘어갑니다. 정부는 2026년 말까지 처리하길 원하지만 연합이 반대하고 있어 결과는 열려 있습니다.
16세 미만 소셜 미디어 규칙은 챗봇에도 적용되나요?
직접 적용되지는 않습니다. 이 규칙은 연령 제한 대상 소셜 미디어 플랫폼이 16세 미만의 계정 보유를 막기 위해 합리적인 조치를 취하도록 요구합니다. 챗봇은 올해 초부터 적용된 eSafety의 연령 제한 콘텐츠 규약을 따릅니다.
호주 밖에서 만든 챗봇에도 이 법이 적용되나요?
이 법안은 호주인이 이용하는 서비스를 대상으로 하며, 장관 보도자료도 호주 이용자 보호를 언급합니다. 해외 기업은 이미 eSafety의 규약 적용을 받고 있습니다. 새 의무를 이들에게 어떻게 집행할지는 답을 찾지 못했습니다.