롯데이노베이트, 기업 대상 GPU 자원 관리 플랫폼 '인피디아 스튜디오' 선봬

[사진=롯데이노베이트]

롯데이노베이트가 그래픽처리장치(GPU)의 자원 관리와 AI 모델 개발 환경을 제공하는 통합 AI 개발 플랫폼 '인피디아 스튜디오(INFIDEA Studio)'를 선보였다고 27일 밝혔다. 

인피디아 스튜디오에서는 클라우드 기반 서비스로 AI 모델 개발에 필요한 고성능 GPU를 유연하게 할당받아 사용할 수 있다. 또 개발에 필요한 주피터랩(JupyterLab) 등 다양한 작업 도구를 웹 브라우저(Web UI) 기반으로 제공한다. AI 모델의 개발부터 배포, 추론까지의 모든 과정을 지원하는 머신러닝운영(MLOps)을 지향한다.

고객사는 인피디아 스튜디오를 이용해 고가의 GPU를 적정 수량만 사용할 수 있게 함으로써 운영 비용을 대폭 절감할 수 있다. 다양한 AI 개발 프레임워크(Framework)와 GPU 가속기 버전을 설정할 수 있어 맞춤형 개발 환경도 구성 가능하다.

인피디아 스튜디오는 엔비디아(NVIDIA)의 MIG(Multi-instance GPU) 기술을 활용해 하나의 GPU를 여러 개의 작은 단위로 나눠 사용할 수 있도록 했다. 이를 통해 관리자는 GPU의 사용률을 극대화하고, CPU와 RAM의 성능도 설정하는 등 다양한 컴퓨팅 리소스 프리셋을 구성할 수 있어 한정된 자원을 최적화할 수 있다고 회사 측은 설명했다. 또 중요한 프로젝트에 필요한 자원을 우선적으로 할당 가능하다.

아울러 스토리지 기능을 통해 대규모 데이터 처리에 적합한 GDS(GPU Direct Storage)와 연동 기능을 제공한다. IBM 스토리지 스케일(Storage Scale), 웨카(Weka) 등과 같은 다양한 GDS 벤더사 지원이 가능하며, 사용자 요구사항에 따라 NAS와 같은 일반적인 스토리지도 지원한다. 스토리지 공유 기능도 제공한다.

롯데이노베이트는 생성 AI 개발이 늘어남에 따라 고성능 GPU의 활용성이 높아지고 있는 흐름에 따라 이를 공개했다고 밝혔다. 향후 추론 API(Application Program Interface) 자동 배포 기능을 지원할 예정이며, 개발자 간 협업을 위한 다양한 보조 도구도 확대해 나갈 예정이다.

롯데이노베이트 관계자는 "플랫폼 구축 측면에서 온프레미스(On-premise) 환경뿐만 아니라 다양한 클라우드 기반의 마켓플레이스 형태로 확장할 계획을 가지고 있다"며 "이를 통해 AI 개발 인프라 구축에 어려움이 있는 기업이나 개발자들이 손쉽게 개발 환경을 구축할 수 있도록 지원할 예정"이라고 말했다.