유발 하라리 "신뢰회복이 먼저…갈등서 태어난 AI 신뢰 못해"

다른 사람은 못 믿으면서 AI는 믿는 '인간' 

"훌륭한 TV쇼" 정치와 리얼리티쇼 섞인 세계

"정보도 다이어트해야"

유발 하라리 교수가 20일 서울 노무현시민센터에서 ‘AI와의 공존은 가능한가? AI의 의미와 본질, 그리고 미래’를 주제로 열린 방한 기념 기자간담회에서 기자들의 질문에 답하고 있다. [사진=김영사]

“인간이 서로를 신뢰할 수 있는 기반을 만들어야 한다. 신뢰에 기반해 학습시켜 태어난 인공지능(AI)은 신뢰할 수 있을 것이다. 그러나 경쟁과 불신, 갈등에서 태어난 AI는 신뢰할 수 없게 될 것이다.”
 
세계적인 석학 유발 하라리 교수는 20일 서울 노무현시민센터에서 ‘AI와의 공존은 가능한가? AI의 의미와 본질, 그리고 미래’를 주제로 열린 방한 기념 기자간담회에서 이처럼 말하며 ‘신뢰’를 강조했다.
 

다른 사람은 못 믿으면서 AI는 믿는 '인간' 

그는 AI 혁명의 중심에는 ‘신뢰의 역설’이 존재한다고 말했다. “인류 역사상 어느 때보다 서로 협동해야 할 이때 인간은 서로에 대한 신뢰를 빨리 상실하고 있다. AI 문제를 다루기 위해서 협력해야 하는 때 말이다. AI 흐름을 선도하는 사업가, 과학자, 정치가들에게 ‘왜 이렇게 빨리 갑니까’라고 물으면, 늘 이렇게 답한다. ‘위험한 것도, 신중하게 가야 하는 것도 아는데 인간 경쟁자들을 신뢰 못 하겠다. 우리가 안전에 투자하고 규제도 마련하면 결국 AI 경주에서 뒤처지고 승자들이 세계를 통치할 것이다. 다른 인간에게 지지 않기 위해 더 속도를 내고 있다’고 말이다.”


그는 인간들이 서로는 못 믿으면서 초지능적 존재인 AI를 믿는 것이 ‘신뢰의 역설’이라고 설명했다. “우리가 해야 할 일은 적어도 충분한 수의 기업들이 서로에 대한 신뢰를 회복하게 해서 AI 혁명이 안전하고 책임감 있는 방식으로 가도록 해야 한다. 신뢰회복이 먼저다.”

 
하라리 교수는 AI는 '행위 주체자'라고 지적했다. “석기시대 돌로 만든 칼, 인쇄기, 원자폭탄 등 지금까지 인간이 만든 기술적 발명품은 모두 도구였다. 우리는 그것으로 뭘 할지를 결정할 수 있었다. 그러나 AI는 스스로 결정한다. AI의 발전은 이전의 기술과학혁명과는 다르다. 이전의 기술과 발명품을 컨트롤했듯 AI도 컨트롤할 수 있다고 생각하면 AI를 전혀 이해 못 하는 것이다.”
 
그는 한국 정치 상황에 대해 답하면서, 언론과 독립된 사법부 등 정부의 힘을 제한할 수 있는 제도적 메커니즘을 마련하는 게 중요하다고 했다. “(윤석열 정부의) 12월 계엄 선포 시 인도에 있었다. 한국에서 쿠데타가 일어났다고 해서 ‘드디어, 북한에서! 진작 일어났어야지’ 했더니 친구가 ‘북한 말고 남한’ 이러더라. 근데 솔직히 놀라진 않았다. 현재 많은 국가에서 일어나는 일이다. 역사적으로 친위 쿠데타, 집권 정부에 의한 쿠데타가 더 많이 일어났다. 권력을 잡은 인물이나 정당이 권력을 돌려주기 싫으면 어떻게 될까. 권력을 유지하기 위해서 처음에는 법을 이용하고, 권력을 계속 잡으려고 법을 파괴한다. 민주주의에서는 이런 사태를 예방하기 위해서 견제와 균형의 장치를 마련하고 있다.”
 
그는 독재 역시 불신에서 시작된다고 했다. “전체주의 정권은 혐오와 긴장이 있어야 번성한다. 민주주의는 신뢰를 기반으로 피어날 수밖에 없다. 독재자는 공포를 통해서 통치한다. 역사상 어느 때보다 정교하고 고도화된 정보기술을 인간이 갖게 됐지만, 서로 대화가 더 안 되고 있다. SNS에서는 챗봇이나 알고리즘이 가짜 뉴스 등 서로에 대한 증오와 공포를 일으키는 콘텐츠를 선별해서 퍼뜨리고 있다. 이것이 인간의 신뢰를 무너뜨린다. 이렇게 되면 민주주의는 불가능하다.”
 

유발 하라리 교수
 

"훌륭한 TV쇼" 정치와 리얼리티쇼 섞인 세계…"정보도 다이어트해야"

특히 그는 SNS는 코미디와 뉴스를 구분할 수 없는 점에 주목했다. “SNS는 연예와 뉴스의 차이를 모른다. TV는 8시 뉴스, 9시 뉴스, 이후 드라마, 코미디쇼가 이어졌다. SNS는 코미디가 곧 뉴스다. 정치인들도 영향을 많이 받는다. 이는 미국 백악관에서 젤렌스키·트럼프 기자회견에서도 목격했다. 트럼프는 회견 막바지에 ‘훌륭한 TV쇼야’(This is going to be great television)라고 말했다. 정치와 리얼리티쇼의 구분이 안 되고 있다. 정치인들이 충격을 주는 언행을 통해 사람들이 확 빠져들게 하는 식으로 활동 중이다. 정치 뉴스와 엔터테인먼트가 섞였다. 뉴스와 정치는 지루할수록 좋다고 생각한다.”

그는 신뢰회복을 위해서는 관대해져야 한다고 조언했다. “우선 챗봇이 얘기할 때 인간이냐 아니냐 분명히 밝히도록 해야 한다. 아울러 (상대방의) 말이나 행동을 관대하게 보려고 노력해야 한다. ‘거짓말이야. 악의적이야’ 이럴게 아니라 일단은 좋은 감정으로 해석하려고 해야 한다.”
 
정보 다이어트도 권했다. “과식은 몸에 나쁘다는 것을 다 안다. 정보도 마찬가지다. 먹는 걸 신경 쓰듯 정보도 신경 써야 할 때다. 우리 몸이 음식을 소화할 시간이 필요하듯 제대로 흡수해서 내 것으로 만들려면 정보에 노출되는 시간을 줄일 필요가 있다. 정보에 노출이 됐다면 소화하고 생각해보고 성찰하는 시간을 가져야 한다.”