[곽재원의 Now&Future] 다가온 AI 만능시대 … '회색 코뿔소'의 경고

[곽재원 논설위원장]

 예상했던 대로 요원의 불길처럼 번지고 있는 AI 붐이 CES 2024에서 다보스로 옮겨붙고 있다. 지난 1월 9일부터 12일까지 4일간 미국 라스베이거스에서 열린 국제전자제품박람회(CES) 는 ‘AI 모든 것’의 경연장이었다. 그것이 지금은 15일부터 19일까지 5일간 스위스 다보스에서 열리고 있는 세계경제포럼(WEF)에서도 최대 관심거리가 되고 있다.
세계 최대 규모의 가전·IT 박람회 'CES'에서 미국 스타트업 오픈AI가 개발한 대화형 인공지능(AI) '챗GPT'를 활용한 신제품이 대거 출품됐다. 2023년 폭발적으로 유행한 대화형 AI는 PC와 스마트폰에서 자전거 등 생활밀착형 제품에도 도입되며 'GPT 경제권'의 급팽창을 실감케 했다. 홍콩의 전기자전거 브랜드 '유토피아'는 챗GPT를 탑재한 신형 자전거를 공개했다. 핸들 부분에 부착된 단말기와 대화가 가능하며, 주변 가게를 찾아주거나 대화 상대가 되어준다. 미국 기업이 전시한 고성능 보이스 리코더(음성 녹음기) 'PLAUD NOTE'는 자동으로 녹취록과 요약본을 작성하는 기능을 갖추고 있다. 독일 폭스바겐(VW)은 자동차에 챗GPT를 탑재한다고 발표했다. 생성 AI 붐이 스타트업 기업에서 대기업으로까지 확산되고 있는 형국이다.
지능화에서는 챗GPT 등 생성 AI를 활용해 조작성을 높이는 노력이 잇따랐다. 독일 BMW와 소니그룹과 혼다의 공동 출자회사가 생성 AI를 활용해 음성으로 조작할 수 있도록 하는 구상을 제시했다. 생성 AI의 기반 기술을 응용해 영상 인식의 정확도를 높여 자율주행과 운전 지원 시스템의 고도화가 가능해지고 있다는 점에도 주목할 필요가 있다. 안전은 자동차의 최우선 과제 중 하나이며, 이 분야에서 뒤처질 수 없다.
소프트웨어 개발에서는 미국 테슬라가 크게 앞서고 있다. 오랜 기간 하드웨어를 주축으로 삼아온 완성차 업체들이 기업 체질을 바꾸기란 쉽지 않다. 지금까지의 실패를 교훈 삼아 체질을 개선해야 한다는 과제를 안고 있다.
탈탄소화도, 지능화도 완성차 업체가 단독으로 할 수 있는 것은 한계가 있다. 각 분야에서 전문성을 가진 기업과의 협력이 필수적이다. 한국, 일본의 관련 기업들도 자사의 강점을 살리고 CES와 같은 자리를 활용해 협업 기회를 모색해야 한다는 지적이 강하게 나왔다.

 
이런 가운데 스위스 동부 다보스에서 열리는 세계경제포럼(WEF)에서 논의되는 '신뢰의 재구축을 위하여'란 주제도 눈길을 끈다. 우크라이나, 중동 등 지역 분쟁과 안보, 기술과 AI, 기후변화 대응, 경제성장과 일자리 창출 등 4개 카테고리로 나뉘어 총 200여 개의 강연이 진행된다.
가장 주목되는 것은 역시 현지에서 기업 등이 메인 행사장 밖 건물을 빌려 '하우스'라는 특설 공간을 연 것이다. AI 관련 행사와 상담을 하기 위한 아이디어다. 메인 행사장 부지 내에 기업은 부스를 설치하지 못하고 다보스 시내 곳곳의 건물을 빌려 간판을 내거는 것이 일반적이다. 미국 인텔, IBM, 메타 외에도 인도의 재벌계 IT 대기업인 타타 컨설팅 서비스(TCS)는 자사 하우스에 관계자들을 초청해 문장과 동영상을 결합한 새로운 AI 기능을 선보였다. 도쿄대 등이 설립한 'AI 하우스'도 문을 열었다. 18일 미국 오픈AI의 샘 올트먼 최고경영자(CEO)는 '격변하는 세계에서의 기술'을 주제로 강연한다.
이러한 AI 붐에도 불구하고 AI에 대한 부정적 시각도 만만치 않은 게 현실이다. WEF 조사에서 향후 2년간 예상되는 가장 큰 위험으로 AI로 인한 허위정보 확산을 꼽은 비율이 절반을 넘었다. 이 조사에서는 '위험이 폭발적으로 증가해 국경을 초월한 대규모 협력이 필수적'이라는 결론을 내렸다.
유럽연합(EU)은 AI의 위험을 4가지로 분류하고 단계별 투명성 의무를 부과하는 포괄적인 규제안에 대체로 합의했다. 미국 정부도 새로운 AI 서비스를 대상으로 한 규제를 도입하는 등 국제적인 압박이 거세지고 있다. EU 집행위원회 베라 요우로바 부위원장은 17일 다보스 회의 강연에서 AI 규제의 필요성을 언급한다. 도쿄대와 소프트뱅크가 설립한 비욘드 AI 연구추진기구도 15일 AI 진흥책뿐 아니라 AI의 안전과 관리 방식, 전문 인력 교육에 대해 논의한다.
세계는 지금 놀라운 속도로 변모하고 있다. 무력 분쟁이 급증하고, 세계 에너지 자원 지도가 다시 그려지고 있다. AI의 발전도 눈부시다. 세상이 변화하는 속도는 기존의 상식을 뛰어넘는 듯하다. 중동 정세, 전기차 보급, 비만 치료 등의 분야를 보더라도 불과 1~2년 전과는 전혀 다른 광경이 연출되고 있다.
국제정치학자 이안 브레머가 이끄는 유라시아그룹은 ‘AI 거버넌스 부족’을 2024년 10대 리스크 중 하나로 꼽으면서 2024년에는 규제 당국의 노력이 좌절되고, 하이테크 기업들은 거의 제약을 받지 않고 훨씬 더 강력한 AI 모델과 도구가 정부의 통제를 넘어 확산될 것으로 예상했다. 미국의 주요 AI 기업들은 백악관에서 자발적인 표준 제정을 약속했다. 미국, 중국, 그리고 G20 대부분이 AI 안전에 관한 ‘블레츨리 파크 선언’에 서명했다. 백악관은 획기적인 AI 행정명령을 발표했다. EU는 오랫동안 기다려온 AI 법안에 합의했다. 그러나 AI 혁신은 거버넌스 노력보다 훨씬 빠르게 진행되고 있다.
유라시아 그룹은 2024년 AI 거버넌스 부족을 초래하는 네 가지 요인이 있다고 지적했다. 첫째, 정치적인 문제다. 정책과 제도에 관한 의견 차이로 인해 낮은 수준의 제한에 머물 가능성이 있다. 각국 정부가 정치적으로 합의할 수 있고, 테크 기업이 비즈니스 모델의 제약으로 여기지 않을 정도라면 AI의 위험에 대응할 수 있는 충분한 규제를 마련할 수 없을 것이다. 따라서 기반 모델의 테스트는 임시방편적으로 이루어질 것이며, 오픈소스 또는 폐쇄형에 대한 합의가 이루어지지 않을 것이다. AI가 대중에게 본격적으로 보급되기 전에 사람들에게 미치는 영향에 대한 평가가 요구되지 않을 것이다. 둘째, 타성이다. AI가 더 이상 '핫이슈'가 되지 않는다면 대부분의 지도자들은 전쟁, 세계 경제 등 정치적으로 더 중요한 다른 우선순위에 집중하게 될 것이다. 그 결과 AI 거버넌스 이니셔티브에서 어떤 것이 시급하고 어떤 것이 우선순위가 되어야 하는지에 대한 많은 결정이 중간에 좌절될 것이다. 셋째, 협력에서의 이탈이다. AI의 가장 큰 이해관계자들은 지금까지 AI 거버넌스에 협력해왔다. 테크 기업들이 자율적인 기준과 가드레일을 만들겠다고 약속한 것이다. 그러나 기술이 발전하고 그 막대한 이익이 분명해지면서 지정학적 이점과 상업적 이익의 유혹이 강해지면서 정부와 기업은 자신들의 이익을 극대화하기 위해 참여했던 구속력 없는 협정과 체제에서 탈퇴하거나 아예 참여하지 않을 것이다. 넷째, 기술적 속도다. AI는 오픈AI의 차세대 대규모 언어 모델인 GPT-5가 올해 선보일 예정이지만, 몇 달 뒤에는 아직은 상상할 수 없는 다음의 돌파구가 등장해 진부해질 것이다. AI 거버넌스의 핵심 과제는 AI를 규제하는 것이 아니라 AI의 확장을 촉진하는 비즈니스 모델을 이해하고, AI를 통제하는 것이 될 것이다. 자칫하면 AI는 거의 통치되지 않는 소셜미디어와 같은 무법천지가 되어 악용될 가능성이 더 커진다.

가짜뉴스 확산, 트럼프 정권의 부활도 2024년의 큰 위험으로 떠오르고 있다. 40억명이 투표에 나서는 이해에 선거를 앞둔 국내외 행위자들(특히 러시아)이 AI를 이용해 선거 캠페인에 영향을 미치고, 분열을 조장하고, 민주주의에 대한 신뢰를 훼손하고, 전례 없는 규모로 정치적 혼란을 확산시키려 할 것이다. 서방 사회가 크게 분열되어 있고, 유권자들이 소셜미디어의 에코체임버를 통해 정보에 접근하는 경우가 많기 때문에 특히 조작이 용이할 것이다. 오늘날 글로벌 민주주의의 위기를 초래할 수 있는 가장 큰 요인은 AI가 생성하고 알고리즘에 의해 구동되는 허위 정보이며, AI가 생성한 허위 정보는 선거뿐만 아니라 중동과 우크라이나 전쟁과 같은 진행 중인 지정학적 분쟁을 악화시키는 데에도 사용될 것이다.
지금까지 AI는 미국과 중국이 주도해왔지만, 2024년에는 국가와 기업을 포함한 새로운 지정학적 주체가 획기적인 AI 역량을 개발하고 확보할 수 있게 될 것이다. 여기에는 국가가 지원하는 대규모 언어 모델과 정보 활동 및 국가 안보를 위한 고급 애플리케이션이 포함된다. 오픈소스 AI는 악의적인 행위자들이 새로운 무기를 개발하고 사용할 수 있는 능력을 강화하여 우발적 사고의 위험을 증가시킬 것이다. 올해 AI가 시장과 지정학에 파괴적인 영향을 미칠지는 알 수 없지만 조만간 그렇게 될 것이며, AI가 통제되지 않은 상태가 길어질수록 시스템적 위기가 발생할 위험이 커지고 정부가 이를 따라잡기 어려워질 것이다.
세계의 주요 싱크탱크들은 2024년의 가장 큰 리스크로 트럼프 정권의 부활을 꼽는다. 민주당의 바이든 전 부통령과 4년 전처럼 공방전을 펼치는 재대결이 될 가능성이 점차 높아지고 있다. 세계 싱크탱크들이 새해마다 예측을 겨루는 '올해의 10대 리스크'는 대부분 '미국의 정치적 혼란'을 가장 먼저 꼽았다.
유라시아 그룹은 "양대 정당 후보들은 대통령으로 적합하지 않다"고 단언하며, 국내 분열로 인해 미국 민주주의는 19세기 남북전쟁 이후 가장 큰 어려움에 빠질 것이라고 경고했다.
지난 6차례의 대통령 선거를 돌이켜보면 매번 새로운 정보통신 수단이 생겨나면서 선거 전술이 달라졌다는 것을 알 수 있다. 2024년에도 분명 깜짝 놀랄 만한 기술 발전이 터져 나와 결과에 영향을 미칠 텐데, 챗GPT를 잘 활용한 후보가 승리할 수도 있지 않을까? 아니면 러시아나 중국발 가짜뉴스가 선거의 승패를 좌우하는 선거전이 될 수도 있지 않을까? 일본 종합상사 쇼지쓰는 조심스럽게 짚어본다. 사이버와 리얼의 세계가 뒤엉키는 시대다.
금융계 등에서는 누구나 알면서도 무시하기 쉬운 중대한 리스크를 '회색 코뿔소'라고 부른다. 평상시에는 얌전하지만 한번 난동을 부리면 손쓸 수 없는 코뿔소의 성질에서 유래한다. 그런 '코뿔소'가 우리 곁에 숨어 있다는 것을 늘 경계해야 한다. '있을 수 없는 일'을 금기시하고, 예상치 못한 사건에 대비해야 한다.



곽재원 필자 주요 이력 

▷전 중앙일보 경제부국장, 도쿄특파원 ▷전 서울대 공과대학 초빙교수 ▷전 한양대 기술경영학 석좌교수 ▷전 경기도 경기과학기술진흥원 원장 ▷현 가천대·호서대 초빙교수 ▷현 아주경제 논설위원장