새롭게 떠오른 AI 트렌드 '증류'...韓 시장에서도 '신무기'로

[사진=그록]

글로벌 인공지능(AI) 업계의 관심이 ‘증류(Distillation)’ 기술에 쏠리고 있다. 빅테크 기업의 거대언어모델(LLM)을 교사로 삼아 새로운 AI 모델을 개발하거나 소형 언어 모델(SLM)을 구축할 수 있는 이 기술은 AI 개발 효율성, 보안, 온디바이스 AI와 함께 AI 업계의 새로운 흐름으로 떠올랐다.
 
3일 정보통신(IT) 업계에 따르면, 오픈AI의 GPT-4 API를 교사 모델로 활용해 증류 기술로 딥시크(DeepSeek) 수준의 AI 모델을 개발하려면 약 1200만 달러(약175억원)가 필요하다.
 
이 비용은 GPT-4 API 가격, 학생 모델 훈련에 필요한 AI 칩 비용, 인건비, 운영비 등을 종합적으로 고려한 추정치다.
 

오픈AI의 초기 GPT 개발 비용이 1억 달러(약 1461억 원) 이상이었던 점을 감안하면, 증류 기술을 활용하면 10분의 1 수준으로 고성능 AI 모델을 만들 수 있는 셈이다. GPT보다 저렴한 모델을 사용한다면 개발 비용은 더 낮아질 수 있다.
 
AI 분야에서 증류는 모델 압축의 개념으로, 대규모 AI 모델의 지식을 소형 모델로 옮기는 과정을 의미한다. 즉 거대 모델을 교사로 삼아 학생 모델을 학습시켜 새로운 AI 추론 모델을 개발하는 기술이다.
 
대표 사례로 마이크로소프트(MS)가 2023년 선보인 소형 언어 모델 ‘파이(Phi)’가 있다. 이 모델은 증류 기술을 활용해 효율성과 성능을 동시에 잡은 것으로 평가받는다. MS는 지난달 26일에도 파이의 최신모델인 파이-4-멀티모달(multimodal)과 Phi-4-미니를 선보이면서 온디바이스 시장 공략에 나섰다.
 
증류 기술은 과거 특정 분야에 국한됐지만, AI 보안 문제와 온디바이스 AI의 중요성이 대두되면서 지난달부터 글로벌 트렌드로 자리 잡았다. 특히 중국발 ‘딥시크 쇼크’ 이후 개발 효율성과 안보 문제를 해결하려는 빅테크 기업들이 증류 기술 도입을 가속화하고 있다.
 
영국의 경제지 파이낸셜타임스에 따르면 오픈AI 플랫폼 제품 책임자인 올리비에 고드먼트(Olivier Godment)는 최근 인터뷰에서 “증류는 매우 마법적이다. 크고 스마트한 모델을 가져와 특정 작업에 최적화된 작고 저렴한 버전을 만들 수 있다”고 밝혔다.
 
IBM 리서치 AI 모델 부사장 데이비드 콕스(David Cox)도 “성능을 유지하면서 비용을 절감할 수 있다면 언제나 합리적인 선택”이라며 증류 기술의 필요성을 강조했다.
 
이에 따라 오픈AI, 메타 같은 AI 선도 기업들도 증류 기술을 활용한 모델 개발에 나선 것으로 알려졌다.
 
증류 기술은 국내 AI 산업에도 큰 변화를 가져올 전망이다. 네이버의 하이퍼클로바X, LG의 엑사원(EXAONE), SK텔레콤의 에이닷(A.) 등 국내 AI 모델이 이 기술을 통해 글로벌 경쟁력을 확보할 가능성이 제기된다. 이미 생성형 AI를 주력으로 하는 국내 AI 스타트업들은 증류 기술을 활용해 다양한 모델 개발에 속도를 내고 있다.
 
특히 삼성전자를 중심으로 한 온디바이스 AI 개발에서 증류 기술의 중요성이 부각된다. 거대한 클라우드 서버를 스마트폰이나 노트북에 구현하려면 AI 모델 압축이 필수이기 때문이다.
 
현재 클라우드 기반 AI 서비스를 제공하는 SK텔레콤, KT, LG유플러스 등 국내 이동통신 3사도 개인정보 보호 이슈에 대응하기 위해 증류 기술을 활용한 온디바이스 AI 개발에 힘쓰고 있다.
 
이날 스페인 바르셀로나에서 개막한 ‘모바일 월드 콩그레스(MWC) 2025’의 핵심 키워드가 ‘AI와 연결성’인 만큼, AI 증류 기술은 주요 의제로 떠오를 전망이다.
 
한 AI 스타트업 관계자는 “증류 기술은 스타트업에게는 비용 절감 효과를, 빅테크 기업에게는 경량화를 통한 연결성 강화 효과를 준다”며 “이는 올해 일시적인 현상이 아니라 향후 업계 전체를 관통하는 핵심 기술이 될 것”이라고 내다봤다.