래블업, CES 2025서 토털 인퍼런스 솔루션 'PALI' 선봬

[사진=래블업]

래블업이 내년 1월 7~10일(현지시간) 미국 라스베이거스에서 열리는 세계 최대 IT·가전 전시회 CES 2025에 참가한다고 20일 밝혔다.

래블업은 CES에 2023년부터 3년 연속 참가하게 됐다. 래블업은 이번 전시회에서 딥러닝 모델을 쉽고 빠르게 서비스할 수 있는 토털 인퍼런스 솔루션 'PALI(Performant AI Launcher for Inference)'를 선보인다.

PALI의 핵심 장점에 대해 래블업은 △엔비디아(NVIDIA) NIM, 허깅페이스(Hugging Face), 캐글(Kaggle) 등 다양한 소스의 딥 러닝 모델 지원 △앱처럼 쉽게 실행하는 언어 모델, 이미지 생성 모델 등 최신 생성 AI 모델 △온프레미스·에어갭 환경에서도 쉬운 시스템 구축·운영 △백엔드닷에이아이(Backend.AI)의 강력한 기술력으로 NVIDIA GPU 하드웨어 성능 극대화 △직관적인 사용자·관리자 인터페이스로 편의성 제공 △어플라이언스 하드웨어 기반으로 유연한 확장성 보장 등이라고 소개했다. 고객은 PALI를 이용하여 최신 AI 모델을 비즈니스에 신속하게 적용할 수 있다.

래블업 관계자는 "PALI를 도입하면 개발자들은 모델 서빙에 필요한 복잡한 인프라 구축 과정 없이도 곧바로 AI 서비스 개발에 집중할 수 있다"며 "백엔드닷에이아이 플랫폼 위에서 압도적인 GPU 가속 성능과 유연한 확장성을 바탕으로 대규모 사용자를 대상으로 하는 고성능 AI 서비스를 손쉽게 구현할 수 있다"고 말했다.

신정규 래블업 대표는 "AI 기술의 발전과 함께 다양한 규모와 분야에서 AI 서비스·애플리케이션 수요가 급증하고 있다"며 "래블업의 기술력을 바탕으로 고성능, 고효율 인퍼런스 분야에서도 최상의 플랫폼 솔루션을 제공함으로서 AI 프로젝트 성공을 적극 지원하고자 한다"고 말했다.