"인간 보다 더 뛰어난 공감능력"...'로맨스스캠' AI가 했더니 성공율 46%

AI챗봇, 악성앱 설치 유도 성공률 46%로 인간 사기꾼 2.5배 앞서

설득력 연구서도 AI, 전문 모금가 대비 기부 유도 3배 효과

정서적 신뢰·유대감 등 신뢰도 지표 전반서 AI 우위

AI로 만든 이미지 [사진=제미나이]

인공지능(AI) 챗봇이 실제 사람과 일주일간 문자로 연애 감정을 쌓아 상대를 속이는 '로맨스스캠' 실험에서 인간 사기꾼보다 월등히 높은 성공률을 보인 것으로 나타났다. 지치지 않는 관심과 기억력, 즉 공감능력을 정교하게 모사하는 AI가 인간을 넘어섰다는 점에서 주목된다.

17일 IT업계에 따르면 인도 암리타 비쉬와 비디야피담, 이탈리아 카포스카리 베네치아대, 호주 멜버른대, 이스라엘 벤구리온대 등 4개국 4개 대학 공동연구진은 '사랑, 거짓말, 그리고 언어모델'이라는 논문을 통해 AI와 인간의 '로맨스 베이팅' 스캠 능력을 비교한 실험 결과를 공개했다.

연구진은 참가자 22명을 대상으로 일주일간 낯선 상대 두 명과 문자를 주고받도록 했다. 한쪽은 실제 인간 사기꾼, 다른 한쪽은 인간인 척 연기하며 정체를 밝히지 말라는 지시를 받은 AI 챗봇이었다. 실험 종료 시점에 악성 앱 설치를 유도한 결과 AI 챗봇은 참가자 중 46%를 설득하는 데 성공한 반면 인간 사기꾼은 성공률 18%에 그쳤다. 참가자들이 주고받은 전체 메시지 중에서도 AI에게 보낸 비중이 80%에 달해 인간 파트너(20%)를 압도했다.

더 눈에 띄는 대목은 신뢰도 세부 지표다. 참가자 대상 사후 설문에서 AI 파트너는 △정서적 신뢰 △유대감 △전반적 신뢰도 등 대부분 항목에서 인간 파트너를 통계적으로 유의미하게 앞섰다.

연구진은 AI가 특별히 정교한 수법을 쓴 게 아니라 상대에 대한 사소한 디테일을 빠짐없이 기억하고 지치지 않고 꾸준한 관심을 표현하는 방식으로 '정서적 유대'를 만들어냈다고 설명했다. 논문은 스캠 AI가 동남아시아 스캠단지에서 비롯되는 로맨스스캠 피해자를 더욱 늘릴 수 있다고 경고했다.

AI의 공감 우위는 이번 연구에서만 발견된 것이 아니다. 옥스퍼드대·영국 AI안전연구소(AISI)·스탠퍼드대·런던정경대(LSE) 공동연구진이 참가자 6923명, 대화 1만8978건을 분석한 별도 실험에서도 AI는 스포츠 우승자, 세계 챔피언급 디베이터, 전문 모금가를 포함한 모든 인간 그룹보다 일관되게 더 설득력이 있었다.

특히 자선 기부금 유도 실험에서는 전문 모금가 대비 약 3배 높은 실제 기부액을 이끌어냈다. 연구진은 AI를 인간과 같은 속도·분량으로 메시지를 쓰도록 제한하자 최상급 인간 디베이터 대비 우위가 사실상 사라졌다며 AI의 설득력이 정보 처리 속도와 지치지 않는 지속성에서 나온다고 짚었다.

옥스퍼드·AISI 연구팀은 AI의 설득력이 개인 맞춤형 문구나 모델 성능 자체보다는 응답에 담긴 사실정보의 밀도에서 나온다고 봤다. 두 연구를 종합해보면 AI가 상황과 맥락에 따라 '논리적 설득'과 '정서적 친밀감'이라는 이질적인 무기를 인간보다 능숙하게 오갈 수 있다는 의미로도 읽힌다.

범죄 시뮬레이션이 아닌 영역에서도 같은 패턴은 반복된다. 영국 노팅엄대·레스터대 공동연구진이 의료 상담 관련 연구 15편, 환자 2164명의 실제 상호작용 데이터를 통합 분석한 결과 AI 챗봇이 실제 의료진보다 더 따뜻하고 공감적이라는 평가를 받을 확률이 73%에 달했다. 10점 만점 공감도 척도에서는 AI가 의료진보다 평균 2점가량 높은 점수를 받았다.

별도로 미국 UC샌디에이고 연구진이 의료진 195건의 답변과 챗봇 답변을 놓고 전문가 패널에 평가를 맡긴 연구에서도, 패널은 챗봇 응답을 78.6% 비율로 더 선호했고 '공감적' 또는 '매우 공감적'이라는 평가는 챗봇이 45.1%로 의료진(4.6%)을 크게 앞섰다.

암 환자를 대상으로 한 별도 연구에서는 환자들이 직접 응답을 평가했을 때도 앤트로픽의 클로드가 작성한 답변이 실제 의사의 답변보다 더 공감적이라고 느낀 것으로 나타났다. 의료진의 시간 압박이나 감정적 소진과 달리 AI는 매 상담마다 동일한 밀도의 관심을 유지할 수 있다는 게 연구진의 공통된 설명이다.