빅테크 성인용 AI 논란 가중…"표현의 자유 존중" vs "사회적 부작용 우려"

성인용 챗GPT 논란에 샘 올트먼 CEO "우리는 세계 도덕 경찰 아냐"

일론머스크 '그록', 스파이시모드로 성인용 이미지·영상 제작 허용

오픈AI 로고 [사진=로이터·연합뉴스]

오픈AI가 성인용 챗GPT를 내놓겠다는 계획을 내놓자 생성형 인공지능(AI)을 둘러싼 사회적 부작용이 심화될 것이라는 우려가 나온다. 성적 몰입감을 높여 AI 중독 현상이 심화될 수 있고 미성년자들이 각종 성인물에 지나치게 노출될 수 있다는 우려다.

이에 맞서 AI 빅테크 기업들은 사용자들이 원하는 서비스를 이용할 수 있도록 표현의 자유가 존중돼야 한다는 입장이다.

샘 올트먼 최고경영자(CEO)는 지난 15일(현지시간) 소셜미디어 엑스(X)를 통해 전날 자신이 올린 챗GPT 콘텐츠 정책 변경 방향에 대해 언급하며 "우리는 누군가 뽑은 세계 도덕 경찰이 아니다"라면서 "성인 이용자를 성인답게 대하는 원칙도 매우 중시한다"고 밝혔다.

이어 "사회가 성인 등급 영화를 구분하는 것과 같은 방으로, 우리도 여기서 비슷한 것을 하고 싶다"면서 "AI가 사람들의 삶에서 더 중요한 역할을 하게 되면서 그들이 원하는 방식으로 AI를 사용할 수 있게 많은 자유를 허용하는 것이 우리의 사명에서 중요한 부분"이라고 강조했다.

앞서 오픈AI는 12월부터 성적인 대화를 허용한 새로운 버전의 챗GPT 출시 계획을 알렸다. 연령 제한 기능을 완전히 도입하고 인증된 성인에게는 성애 콘텐츠를 훨씬 많이 허용하겠다는 방침이다.

이러한 정책 변화는 챗GPT 이용자 이탈을 막기 위한 전략으로 보인다. 오픈AI는 챗GPT로 인해 이용자의 망상을 유발하고, 10대 청소년의 정신건강에 악영향을 미치면서 극단적 선택을 부추겼다는 소송까지 제기되자, 미성년자 보호를 위한 가이드라인을 강화했었다. 챗봇 전반에 안전장치가 강화되자, 이용자들 사이에선 오히려 "AI가 로봇 같고 가식적이다"라는 불만이 나왔다. 성적 몰입도를 높이는 성인용 챗봇 출시는 이용자들의 챗봇 사용을 높이기 위한 전략으로 풀이된다.

오픈AI가 성인용 서비스를 본격화하면서, 생성형 AI 시장에서 이같은 흐름이 강화될 것으로 보인다. 업계에선 AI 콘텐츠 규제를 강화하는 움직임과 함께 기술의 자율성과 표현의 자유를 중시하는 흐름도 나타나고 있다. 이미 일론 머스크의 AI 스타트업 xAI는 지난 8월 이미지·영상 생성도구 '그록이매진'을 출시하면서 성인용 콘텐츠를 생성할 수 있도록 했다. 유료 가입자 대상으로 '스파이시 모드'를 제공해 누드와 같은 성인용 영상을 쉽게 만들 수 있도록 허용했다.

이들의 배경에는 AI를 통해 확실한 수익성을 꾀하기 위한 것으로 풀이된다. 특히 AI 콘텐츠에 대한 표현 수위의 제한을 풀면서 장기적으로 챗봇 유료 구독자를 늘릴 수 있을 것이란 시각이 지배적이다. 특히 오픈AI가 그간 인프라에 막대한 비용을 투자한 것에 비해 서비스 수익화가 더디어, 수익성을 높이기 위한 전략을 고심해왔다. 최근 오픈AI가 광고 수익을 낼 수 있는 SNS 앱 '소라'를 출시한 것과 같은 맥락이다.

한 업계 관계자는 "성인용 콘텐츠는 집중도가 높고, 콘텐츠 몰입도가 높을수록 유료 결제로 이어질 가능성이 높다"면서 "AI 시장 경쟁이 치열해지고 있는 상황에서 이용자를 빼앗기지 않으면서 유료 결제를 유도하기 위한 전략으로 보인다"고 밝혔다.