전 세계 'AI 성 착취물' 규제… 한국도 피해 구제 팔 걷어

美, 그록에 제작·배포 중단 경고

인도네시아·말레이시아는 접속 제한

방미통위, X에 청소년 보호 장치 마련 공식 요구

AI 서비스 이용자 보호법 제정 검토 중

일론머스크의 인공지능(AI) 스타트업 xAI의 '그록(Grok)' [사진=로이터·연합뉴스]

딥페이크와 비동의 성적 이미지, 아동 성 착취물 생성 논란이 확산하면서 전 세계 각국이 인공지능(AI) 서비스에 대한 규제에 나서고 있다. 미국과 동남아를 중심으로 접속 차단과 경고 조치가 잇따르는 가운데 국내에서도 해외 AI 서비스의 규제 실효성을 둘러싼 논의가 본격화하는 모습이다. 

18일 테크크런치 등 외신에 따르면 미국 캘리포니아주 검찰총장실은 최근 일론머스크의 AI 스타트업 xAI에 그록의 딥페이크, 동의 없는 성적 이미지, 아동 성착취물 제작 및 배포를 즉시 중단하라는 내용의 경고장을 보냈다. 

롭 본타 캘리포니아주 법무장관은 "이러한 자료 제작은 불법"이라며 "캘리포니아주는 아동 성착취물에 대해 무관용 정책을 펼칠 것"이라고 강조했다. 

미국 뿐만 아니다. 동남아시아에서는 그록에 대한 접속을 제한했다. 앞서 지난 10일 인도네시아 통신디지털부는 세계 최초로 그록 접속 차단 조치를 시행했다. 무티아 하피드 인도네시아 통신디지털부 장관은 "AI기술로 생성한 가짜 음란물 콘텐츠 위험으로부터 여성과 아동을 보호하기 위해 이번 조치를 취했다"고 설명했다. 

이어 지난 12일 말레이시아 통신멀티미디어위원회도 그록에 대한 접속을 일시 제한한다고 밝혔다. 

유럽과 오세아니아 지역에서도 대응이 이어지고 있다. 영국과 호주는 관련 조사에 착수했다. 리즈 켄들 영국 기술부 장관은 "동의 없이 나체 이미지를 만드는 도구를 제공하는 기업을 범죄로 규정할 것"이라고 언급했다. 호주 온라인 안전 당국도 그록을 활용한 성적·착취적 이미지 생성 신고가 증가하고 있다며 강력한 조치를 예고했다. 

국내에서도 유사한 문제가 제기되고 있다. 방송통신미디어위원회(방미통위)는 지난 14일 그록 서비스와 관련한 청소년 보호 장치 마련을 공식 요구했다고 밝혔다. 딥페이크 성착취물 확산에 따른 사회적 우려를 전달하고, 자체적인 안전장치 강화를 주문한 것이다.

다만 규제 실효성에는 여전히 의문이 제기된다. 인도네시아나 말레이시아가 접속 차단이라는 조치를 시행한 것과 달리 국내에서는 해외 빅테크 기업을 상대로 한 행정력 집행이 사실상 어렵다는 지적이 나온다. 해외 빅테크 기업의 국내 법인이 실질적 책임 주체로 작동하지 않는 데다 플랫폼 전체 차단은 통상 마찰을 불러올 수 있다는 이유에서다. 

이에 방미통위는 오는 22일 시행을 앞둔과학기술정보통신부(과기정통부)의 AI 기본법과 별개로 'AI 서비스 이용자 보호법' 제정을 검토하고 있다. 과기정통부의 AI기본법이 산업 진흥과 시스템 안정성에 초점을 맞췄다면 방미통위 법안은 유통된 불법 정보를 차단하고 실질적인 이용자 피해 구제에 방점을 찍겠다는 구상이다. 

방미통위 관계자는 "현행법상 청소년 보호 책임자 제도 외에는 해외 사업자를 강제할 뚜렷한 수단이 부족한 것이 사실"이라며 "향후 마련할 제도 개선안에는 AI를 통해 불법 딥페이크 생성을 방치하는 AI 서비스에 대해 실질적인 제재를 가할 수 있는 방안을 담을 계획"이라고 밝혔다.