IT업계 "AI는 속도전....GPU 1만장, 민간 전달 시간 최대한 줄여야"

정부, 연내 1조 4600억원 투자해 H200·블랙웰 도입 공언

공모절차 통해 GPU 배분 밝혀…업계 "공모, 입찰, 설치가 관건"

"1만장으로 글로벌 경쟁력 확보 어려워" 비관론도

[그래픽=아주경제]

정부가 인공지능(AI) 산업 기반 강화를 위해 그래픽처리장치(GPU) 1만 장 확보를 공언했지만, 업계에서는 “속도전이 생명인 AI 경쟁에서 오히려 발목이 잡힐 수 있다”는 우려를 제기하고 있다. 동시에 GPU 1만장으로 글로벌 경쟁력을 갖기에 여전히 부족하다는 지적도 나온다.
 
20일 IT업계에 따르면, 과학기술정보통신부는 GPU 확보를 위한 엔비디아와의 협의를 완료했다.
 
과기정통부 관계자는 “엔비디아와 여러 공식 채널을 통해 물량 확보 협의를 마무리했다”며 “추경 예산을 바탕으로 H200, 블랙웰(B200) 등 최신 GPU를 비롯해 시장 수요가 높은 GPU를 우선적으로 확보할 계획”이라고 밝혔다.
 

과기정통부는 지난 18일 발표한 ‘국가 AI 역량 강화 방안’의 실질적 이행을 위해 연내 1조 4600억원을 투자해 GPU 1만 장을 확보하겠다고 밝혔다. 과기정통부와 반도체 업계의 의견을 종합하면, 한국이 연내 GPU 1만장을 확보할 가능성은 높은 것으로 평가된다. 이는 미국이 지난 1월 발표한 AI 칩 수출 제한 18개국에서 한국을 제외했으며, 충분한 예산을 확보했기 때문이다. H100 GPU의 가격은 약 3000만~4000만원으로 추정되며, 이를 기준으로 계산하면 3000억~4000억원 수준으로 1만 장 확보가 가능하다. 약 1조4000억 원에 달하는 예산은 공급망 리스크가 없다면 GPU 1만 장을 구매하기에 충분한 금액이다.
 
문제는 GPU가 민간 기업에 전달되는 과정이다. 정부는 일괄 구매한 GPU를 공모 절차를 통해 선정된 클라우드 데이터센터에 설치·운영하는 방식으로 제공할 계획이다.
 
업계는 GPU가 민간에 전달되는 시간을 최대한 단축해야 한다고 강조한다. 이미 AI 기술에서 후발주자인 한국이 인프라 확보를 더 지체해서는 안 된다는 지적이다.
 
한 IT 업계 관계자는 “공모, 입찰, 설치 등 절차가 얼마나 신속히 진행되느냐에 따라 민간 기업이 GPU를 실제로 사용할 때까지 상당한 시간이 소요될 수 있다”며 “복잡하고 논란이 많은 공모 절차 대신, 확보된 GPU를 여러 기업이 클라우드 방식으로 활용할 수 있도록 하는 것이 더 효율적”이라고 말했다. 그는 이어 “추경까지 편성해 GPU 확보에 나선 것은 속도전의 중요성을 인식한 결과인데, 굳이 공모 방식을 고집해 속도를 늦출 필요는 없다”고 덧붙였다.
 
GPU 모델 선정과 관련해서는 다양한 종류를 혼용하기보다는 동일한 모델을 구매하는 것이 효율적이라는 의견이 제기된다.
 
최병호 고려대학교 교수(인공지능연구소)는 “예를 들어 H100을 구매했다면 전량 H100으로, 블랙웰이라면 전량 블랙웰로 구성해야 소프트웨어와 하드웨어가 최적화된다”며 “GPU를 혼용하는 방식은 일부 연구에서 시도되지만, 이는 대개 물량 부족으로 어쩔 수 없이 선택되는 경우”라고 지적했다.
 
한편 정부가 확보하려는 GPU 물량 자체가 부족하다는 비판도 나온다. AI 업계에 따르면, 오픈AI의 구형 모델인 GPT-3(1750억 파라미터) 수준의 거대언어모델(LLM)을 개발하려면 H100 GPU 약 6000~8000장이 필요하다. 글로벌 빅테크 기업들이 조 단위 파라미터를 가진 LLM을 앞다퉈 출시하는 상황에서, GPU 1만 장으로는 국내 AI 산업 발전에 큰 역할을 하기 어려울 수 있다는 비관적 전망이다.
 
최 교수는 “한 국가가 GPU를 운영하는 데 있어 글로벌 빅테크와 비슷한 수준의 인프라를 갖춰야 한다”며 “LLM 개발뿐 아니라 한국형 추론 모델 개발까지 고려한다면, 1만 장은 여전히 부족한 규모”라고 말했다.