정부도 기업도 'AI 정보유출' 비상...'폐쇄형 AI' 대안도 고비용으로 망설여져

[그래픽=아주경제]

올해 AI 챗봇 사용자가 10억명에 이를 것으로 전망되는 가운데 질문 자체를 학습하는 생성형 AI 모델의 특성으로 인해 정부 기관뿐만 아니라 기업에서도 AI 보안 경계 수위를 높이고 있다.
 
이에 대한 대안으로는 외부 접속이 차단된 ‘폐쇄형 AI’ 모델이 거론된다. 다만 국내에서는 데이터센터 구축 및 GPU 확보, 높은 개발·유지 비용 등이 장애물로 작용하면서 국가 차원의 AI 신뢰성 확보가 어려움을 겪고 있다.
 
5일 정부 관계자에 따르면 과학기술정보통신부 산하 한국지능정보사회진흥원(NIA)은 지난달 폐쇄형 정부 전용 생성형 AI 모델 개발 계획을 수립했다.
 

생성형 AI에 의한 정보 유출 사고와 정보보안 우려가 제기되면서 행정업무를 위한 폐쇄형 AI 모델 필요성이 대두됐기 때문이다.
 
정부는 정부 전용 클라우드 환경에서만 접근할 수 있는 AI 모델을 구축할 계획이며, 오픈AI의 GPT를 기반으로 개발할 예정인 것으로 전해졌다. 다만 내부적으로는 개발에 성공하더라도 데이터센터 구축 및 그래픽카드(GPU) 확보 작업에서 올해를 넘길 수 있다는 지적이 나오는 것으로 알려졌다. 실무에 적용하는 단계는 내년에나 가능하다는 전망도 나온다.
 
이에 따라 현재 정부는 정보 유출 가능성을 차단하기 위해 전 부처가 AI 도구 사용을 자제하는 방식으로 대응 중이다. 이를 위해 지난 4일 국가정보원과 행정안전부는 전 부처와 공기업에 AI 보안 관련 가이드라인을 전달한 바 있다.
 
반면 미국은 정부 전용 폐쇄형 AI 모델 개발과 도입에 속도를 내고 있다.
 
미국 국방부가 운영하는 합동 인공지능센터(Joint Artificial Intelligence Center·JAIC)는 군사 및 정보 분석용 폐쇄형 AI 모델 개발에 성공했으며, 국가안보국(NSA) 역시 자체 폐쇄형 AI 모델을 운용 중이다.
 
중앙정보국(CIA)는 아마존, 마이크로소프트, 구글, 오라클 등 자국 내 빅테크 기업과 손잡고 보안 강화형 AI 클라우드 솔루션 개발에 성공했다. 또 연방조달청은 다양한 행정 업무를 지원하는 폐쇄형 AI모델을 개발해 활용 중이다.
 
글로벌 기업들도 폐쇄형 AI 모델 도입에 속도를 내고 있다. JP모건체이스는 내부 데이터 분석과 거래 패턴 감지를 위해 폐쇄형 AI 시스템을 활용해 금융 사기 방지 및 리스크 관리를 강화하고 있는 것으로 전해진다. 에너지 기업 쉘(Shell) 역시 에너지 생산과 탐사 과정에서 폐쇄형 AI 모델을 활용하고 있다.
 
국내 기업 중에서는 삼성전자가 내부 코드와 정보가 챗GPT를 통해 유출되는 사고가 발생하면서 대응에 나섰지만 폐쇄형 AI를 도입한 기업은 여전히 제한적인 상황이다.
 
현재 폐쇄형 AI를 도입한 기업과 조직 중 약 90%가 GPT 기반 솔루션을 활용하는 것으로 알려졌다. 그러나 GPT 기반 폐쇄형 AI 구축에는 고사양 컴퓨팅 인프라가 필수적이며, 모델 개발과 운영·유지 비용까지 포함하면 조 단위 비용이 필요하다는 분석이 나온다.
 
반면 딥시크 V3 모델을 활용하면 GPT보다 평균 7분의 1 이하 저렴한 비용으로 폐쇄형 AI 구축이 가능하다는 평가가 나온다. 그러나 최근 딥시크가 보안 설정이 되지 않은 민감한 데이터베이스 100만건 이상을 외부에 공개하는 사고를 일으키면서 중국산 AI 모델에 대한 신뢰도가 크게 하락했다.
 
AI 스타트업 관계자는 "중국산 제품은 가격 경쟁력이 뛰어나지만 신뢰성과 보안성에서 항상 의문이 제기된다"며 "다만 딥시크가 저비용으로 고성능 생성형 AI 모델을 개발할 가능성을 제시한 만큼 올해 안에는 보안성과 신뢰성을 모두 갖춘 기업 및 정부 맞춤형 AI 솔루션이 등장할 것"이라고 말했다.