[청소년 AI 챗봇 과몰입] 청소년 보호 강화나선 뤼튼…"AI 챗봇 하루 3시간·월 10만원"

PASS 기반 연령 확인에 추가 인증 검토…콘텐츠 검수·검색·추천 제한도 강화

2027년 초부터 강화된 청소년 보호체계 적용

뤼튼, 1000억원 시리즈C 유치 [사진=뤼튼]

인공지능(AI) 챗봇이 청소년의 새로운 소통·놀이 수단으로 자리 잡으면서 국내에서도 이용시간과 결제액을 직접 제한하는 청소년 보호 정책이 등장했다. AI와 대화하는 과정에서 이용자가 캐릭터에 몰입하고 장시간 서비스를 이용할 수 있다는 점을 고려해 사업자가 자율적으로 안전장치를 마련한 것이다.

뤼튼테크놀로지스(뤼튼)는 8일 청소년 보호 정책 강화 계획을 발표했다. 핵심은 이용시간과 결제액에 상한을 두는 것이다. 청소년의 AI 챗봇 '크랙' 하루 이용시간을 최대 3시간으로 제한하고 월 결제액은 10만원을 넘지 못하도록 할 계획이다.

3시간을 초과해 서비스를 이용하거나 월 결제액이 10만원을 넘어서는 경우에는 보호자 인증과 동의 절차를 거쳐야 한다. AI 챗봇에 장시간 머무르는 행위와 과도한 결제를 직접 관리하겠다는 취지다.

모바일인덱스에 따르면 AI 채팅앱 이용시간은 빠르게 증가하고 있다. AI 채팅앱 전체 사용시간은 2024년 4월 약 110만시간에서 올해 3월 약 6310만시간으로 2년 만에 57배 증가했다. 이용시간이 늘어나며 과몰입하는 청소년도 늘고 있다.

크랙은 이용자가 AI 캐릭터를 직접 만들거나 기존 캐릭터를 선택해 대화를 이어가고, 자신만의 스토리와 작품을 만드는 AI 엔터테인먼트 서비스다. 기본적으로 무료로 이용할 수 있지만 보다 깊이 있는 대화나 이미지 생성 등을 이용하려면 유료 재화인 ‘크래커’를 충전해야 한다. 캐릭터와의 대화가 길어질수록 유료 재화 사용도 늘어날 수 있는 구조인 만큼 이용시간과 결제액을 함께 관리하기로 했다.

뤼튼이 이용시간 상한을 별도로 설정한 것은 AI 챗봇의 서비스 구조가 기존 정보 검색형 AI와 다르기 때문이다. 이용자가 질문하고 답을 얻은 뒤 서비스를 종료하는 방식이 아니라 특정 캐릭터와 지속적으로 대화하며 관계와 이야기를 만들어갈 수 있다.

뤼튼은 연령 인증 방식도 강화할 계획이다. 현재 크랙은 이동통신사가 제공하는 본인인증 서비스 ‘PASS’를 통해 성인과 청소년을 구분하고 있다. 여기에 추가적인 인증 수단을 포함해 연령 확인의 정확성과 안전성을 높일 수 있는 방안을 국내외 사례와 함께 검토하고 있다.

콘텐츠 안전장치도 손본다. 크랙의 콘텐츠 생성 정책과 연령 등급 관리, 작품 검수 시스템, 검색·추천 제한, 신고·차단 기능, 위반 계정 제재 등 기존 청소년 보호 체계를 이용 패턴 변화에 맞춰 전반적으로 점검할 예정이다. 부적절하거나 위험한 대화를 걸러내기 위한 추가 필터와 안전 시스템 프롬프트를 강화하는 등 AI 세이프티 기술도 고도화한다.

이번 조치는 뤼튼이 사업 성장과 함께 이용자 보호에 대한 책임도 강화하겠다는 움직임으로 풀이된다. 뤼튼은 최근 기업공개(IPO)를 위한 주관사 선정 절차에 착수하는 등 사업 확대에 나서고 있다. 이세영 뤼튼 대표도 앞서 이용자가 믿고 안전하게 사용할 수 있는 AI를 만들겠다는 방향을 밝힌 바 있다.

뤼튼은 제도적·기술적 검토와 시스템 개편을 마친 뒤 2027년 초부터 강화된 청소년 보호 정책을 본격 적용할 계획이다.

이동재 뤼튼 최고제품책임자(CPO)는 “모두에게 안전하고 건강한 인공지능 서비스를 제공할 사회적 책임감을 무겁게 인식하고 있다”며 “청소년 이용자의 안전을 최우선으로 고려하면서도 창의력을 함께 펼칠 수 있는 서비스를 만들기 위해 최선의 노력을 기울여 나가겠다”고 말했다.