[따끈따끈 신간] AI는 정말로 인류를 구원할까?

기술이 인류를 구원한다는 착각

케어리스 피플

 

기술이 인류를 구원한다는 착각=애덤 베커 지음, 박주용 옮김, 동아시아. 

천체물리학자이자 과학 저널리스트인 저자는 '인류를 위해 가능한 한 빨리 신기술이 개발돼야 한다'는 실리콘밸리의 지배적 이데올로기에 주목한다. 기술이 주도하는 미래가 과연 과학적 근거에 기반한 것인지, 아니면 소수 실리콘밸리 억만장자의 부와 권력을 영속화하기 위한 것인지를 따져 묻는다. 
 
책은 AGI(범용 인공지능)의 등장을 필연으로 보는 엘리에저 유드코스키와 안데르스 산드베리 등 실리콘밸리와 옥스퍼드의 핵심 사상가들과의 인터뷰를 중심축으로 삼는다. 저자는 이들과의 인터뷰, 원저작 논문에 대한 과학적 검증, 방대한 현장 취재를 바탕으로 '기술을 통한 구원(techno-salvation)'이란 거대한 세계관이 어떻게 형성됐는지 추적한다. 동시에 그 사상 체계가 안고 있는 모순을 드러낸다. 

효율적 이타주의, 특이점, AI 정렬 문제, 기술 가속주의 등이 어떤 과정을 거쳐 주류 이데올로기로 부상했는지를 살펴본 후 이를 하나하나 비판적으로 검토한다. 특히 효율적 이타주의가 빈곤, 기후위기, 전쟁 같은 현재의 문제보다 아직 일어나지 않은 우주 식민지 건설을 더 시급한 문제로 간주하게 된 과정을 분석한다. 또한 'AGI가 등장하는 순간 인류는 종말을 맞이할 가능성이 높다'고 주장하는 유드코스키의 묵시록적 경고는 AI가 만들어내는 편향, 노동 대체, 에너지 소비 등 실질적인 문제에서 사람들의 시선을 돌리게 하고, 기술업계가 규제를 피할 명분을 제공한다고 짚는다. 

저자는 주요 비전들이 과학적 근거가 빈약할 뿐만 아니라, 실현되더라도 인류에게 재앙이 될 수 있다고 경고한다. 또한 소수에게 집중된 기술 독점이 인류를 짓밟는 도구가 될 수 있다고도 말한다.

책은 실리콘밸리가 말하는 두려움이 새로운 게 아니란 점을 강조하며, 기술이 약속하는 구원의 서사가 인류 전체를 위한 것인지에 대해 생각해보도록 한다. "종말의 두려움, 죽음의 두려움. 하지만 이것들은 인류에게 이미 익숙한 것들이다. 죽음을 두려워하는 것은 자연스러운 일이며, 영생은 인류가 가진 제일 오래된 환상이었다." 


“인류 역사-특히 20세기 역사-는 종국에 폭력적으로 변해버린 유토피아 운동의 예로 가득차 있다. 1990년 영국의 철학자 이사야 벌린은 '인류를 영원히 정의롭고 행복하고 창의적이고 조화롭게 할 수 있다면 무슨 대가를 못 치르겠는가?'물으며 '그런 오믈렛이 있다면 있는 계란을 다 깨서라도 만들어야지. 이게 바로 레닌, 트로츠키, 마오쩌둥의 신념이었다'라고 말했다. 유드코스키가 목적을 달성하기 위해 세계 지도자들에게 핵전쟁을 불사하라고 조언한 사실로부터, 이미 이성론자들 사이에는 이런 극단주의 유토피아 사상이 자리 잡았다는 걸 알 수 있다.” (287쪽)
 

 

케어리스 피플=세라 윈윌리엄스 지음, 안진환 옮김, 디플롯 

저자는 페이스북(현 메타) 창업자 마크 저커버그 가까이에서 7년간 공공정책 담당 이사로 근무하며 겪은 경험을 풀어낸다. 페이스북이 세계적인 소셜미디어로 급성장하던 시기에 입사한 그는 사회적 연결을 촉진하는 페이스북의 기술이 세상을 구원할 것이라고 믿었다. 그러나 이후 그는 2025년 미국 상원 사법위원회에서 메타와 중국의 관계, 사용자 정보 보호 문제, 내부 보복과 입막음 시도 등에 대해 증언하게 된다.
 
책에는 저자가 직접 경험하거나 목격한 노동 착취, 직장 내 괴롭힘, 성추행, 플랫폼을 통한 선거 개입, 청소년을 겨냥한 알고리즘 조작, 반복되는 외교 결례 등이 담겼다. 그는 페이스북이 ‘세상을 더 개방적이고 더 연결된 곳으로 만든다’는 희망찬 슬로건을 내세우지만, 현실은 공동체의 신뢰를 파괴하고 민주주의를 위협한다고 비판한다. 세상을 바꾸긴 했지만, 그 변화가 긍정적이기보다는 부정적이라는 게 핵심 주장이다. 

특히 마크 저커버그의 독단적 리더십을 지적한다. 회사를 사실상 1인 지배 체제로 운영한다는 것. 조직문화도 문제다. 워킹맘인 저자에게 절대 아이와 관련한 이야기를 하지 말도록 요구하는 등 ‘엄마 역할’을 지우도록 종용한다.

아울러 페이스북이 가짜 뉴스와 혐오·인종차별 콘텐츠의 확산을 방치했으며, 플랫폼이 극단주의 세력의 폭력 선동 도구로 악용되는 상황에서도 이에 적극적으로 대응하지 않았다고 저자는 주장한다. 도널드 트럼프가 대선 과정에서 페이스북의 가짜뉴스로 유권자들을 현혹하는 상황에서도, 페이스북 수뇌부는 트럼프가 힐러리 클린턴보다 더 많은 광고비를 썼다는 이유로 이를 심각하게 받아들이지 않는다. 
 
소설가 장강명은 “큰 힘이 큰 책임을 외면하면? 안으로는 타락하고, 밖으로는 세상을 망친다. 이 책은 우리 시대에 등장한 거대한 힘이 얼마나 무책임하게 행동했고 속으로 얼마나 썩어 들어갔는지에 대한 생생한 고발이다”라고 추천사를 썼다. 


“원조격인 마오쩌둥의 <소홍서>(공식 명칭은 <마오주석어록>)와 마찬가지로, 페이스북의 리틀 레드 북 역시 최고지도자의 말과 이미지, 핵심 원칙들로 가득 차 있었다. 물론 이 경우 지도자는 마오가 아니라 마크였다. 또 한 명의 ‘MZ’가 나름의 기묘한 형태로 마오주의적 열정을 발산하고 있었던 셈이다. 첫 페이지에는 이렇게 적혀 있었다. '페이스북은 사회적 사명을 달성하기 위해 만들어졌다. 세상을 더 개방적이고 더 연결된 곳으로 만들기 위해.'" (75쪽)