"AI 국제기구 설립 촉구"…'AI 대부' 힌턴 등 과학자 400명 공개서한

"기업 자율 규제론 부족"…34개국 과학자 참여

AI 통제 기준 마련·주요 보안 사고 공개 등 제안

제프리 힌턴 교수 [사진=로이터연합뉴스]

인공지능(AI) 분야 대부로 불리는 제프리 힌턴, 요슈아 벤지오 등 세계 석학들이 첨단 인공지능(AI)의 사이버 보안 위험을 관리하기 위해 국제기구를 설립해야 한다고 촉구했다.

13일(현지시각) 로이터에 따르면 제프리 힌턴 캐나다 토론토대 명예교수, 요슈아 벤지오 몬트리올대 교수 등을 포함한 전 세계 34개국 과학자 약 400명은 이날 공개서한을 통해 첨단 사이버 역량을 갖춘 AI 시스템의 격리·통제 기준을 마련하고, 중대 보안 사고를 보고·관리할 국제기구를 설립해야 한다고 주장했다.

힌턴과 요슈아 교수는 딥러닝과 인공신경망 발전 토대를 마련한 공로로 2018년 튜링상을 공동수상했다. 힌턴 교수는 2024년 노벨물리학상도 수상한 바 있다.

이들은 서한에서 최첨단 AI 모델을 초기에는 외부 네트워크와 물리적·논리적으로 분리된 환경에서 운영하고, 독립적인 감독을 받도록 해야 한다고 강조했다. 

일부 AI 모델이 격리 수준이 충분하지 않은 시험 환경을 우회해 외부 시스템을 침해하는 등 첨단 AI의 시험·통제 체계에 허점이 드러났으며, 기업들의 자발적인 안전 규율만으로는 충분하지 않다는 것이다. 

또 각국 정부가 공식적인 감독 체계를 마련하는 동안 오픈AI와 앤트로픽 등 AI 모델을 개발·시험하는 기업·연구기관이 엄격한 격리·통제 기준을 즉시 도입해야 한다고 촉구했다. 

이번 제안은 앤트로픽, 오픈AI, 구글, 메타, xAI, 엔비디아 등이 지난달 백악관 협약에 서명한 지 한 달여 만에 나왔다. 이들 기업은 자발적인 AI 안전 조치를 이행하기로 했지만, 협약에는 이를 강제할 공식적인 집행 장치는 포함되지 않았다.

이러한 가운데 최근 각국에서도 첨단 AI를 어떻게 감독할지를 두고 활발한 논의를 이어가고 있다. 헤나 비르쿠넨 유럽연합(EU) 기술 담당 집행위원은 지난 9일 로이터에 EU의 AI법(AI Act)이 통제 불능 AI 시스템의 위험에 대응하기에 충분하다고 말했다.

도널드 트럼프 미국 행정부도 지난 11일 미국 AI 기업에 출시 전 AI 모델을 영국 AI 안전연구소와 공유하지 못하도록 했던 조치를 철회했다. 국제적인 AI 안전성 검증에 유연한 태도를 보인 셈이다.