카카오, 경량 언어모델 4종 오픈소스 공개...스마트폰 등 디바이스 최적화

Kanana-2 SLM 시리즈, 허깅페이스에 경량 언어모델(SLM) 4종 공개

유사 크기 글로벌 모델 수준 성능 기록, 자체 토크나이저로 효율 30% 높여 경쟁력 확보

경량 AI 모델을 활용 가능한 기반 제공…상업 활용 가능한 라이센스 적용

카카오, 경량 언어모델 4종 오픈소스 공개 [사진=카카오]

카카오가 자체 개발한 인공지능(AI) 모델 ‘카나나’의 경량 언어모델(SLM)을 오픈소스로 공개했다. AI 기술 경쟁력 강화와 국내 생태계 기여에 나선다는 방침이다. 

카카오는 28일 허깅페이스에 스마트폰 등과 같은 디바이스에서 구동할 수 있는 경량 언어모델(SLM) 4종을 오픈소스로 공개했다고 밝혔다. ‘카나나-2(Kanana-2) 경량 언어모델 시리즈로, △Kanana-2-1.3B-base △Kanana-2-1.3B-instruct △Kanana-2-3B-base △Kanana-2-3B-instruct다.

카카오는 크기가 작더라도 실제 서비스에 적용 가능한 수준의 성능을 갖춘 경량 언어모델을 지속적으로 연구해왔다고 설명했다. 최근 AI 업계가 대규모언어모델(LLM)의 성능 경쟁과 함께 스마트폰이나 개인 PC 등의 환경에서 직접 구동할 수 있는 경량 언어모델의 중요성이 부각되고 있는 추세를 반영한 것이다. 글로벌 기업들도 온디바이스 AI를 주요 전략으로 내세우거나 경량 오픈소스 모델을 잇달아 공개하는 등 경량 AI 생태계 선점에 나서고 있다. 

회사는 이번에 공개된 모델은 다양한 모델 개발 과정에서 축적한 기술과 경험을 바탕으로 개발했다고 설명했다. 현재 ‘카나나 인 카카오톡’, ‘카카오톡 대화요약 및 통화요약’, ‘AI 국민비서’ 등의 서비스에서 카카오의 경량 모델들이 활용되고 있다.

이번 모델들은 작은 크기에도 한국어와 영어 모두에서 글로벌 수준의 성능이 구현됐다. 유사 크기의 최신(SOTA) 오픈소스 모델 대비 한국어, 영어, 지식, 수학, 코드 등 대부분의 대표 벤치마크에서 높은 성능을 나타냈다. 특히 오픈소스로 공개한 Kanana-2-1.3B-instruct와 함께 개발한 더 작은 사이즈의 Kanana-2-0.9B-instruct는 대화, 지식, 코드, 수학, 지시이행, 툴 호출 등 실제 서비스 활용 역량에서도 Qwen, Gemma 등 동급 글로벌 모델과 경쟁력 있는 성능을 나타냈다. 

또 카카오는 자체 개발한 한국어 특화 토크나이저를 적용해 기존 대비 한국어 처리 효율을 30% 이상 개선했다. 토크나이저는 AI 모델이 텍스트를 처리할 때 문장을 잘게 쪼개는 단위를 결정하는 핵심 기술이다. 한국어에 최적화된 토크나이저를 사용할수록 같은 문장을 더 적은 단위로 처리할 수 있어 연산 속도가 빨라지고 비용도 줄어든다. 카카오는 지난해 개발 완료한 한국어 특화 토크나이저를 이번 모델 전반에 적용해 성능과 비용 경쟁력을 확보했다.

또 스마트폰과 같이 메모리와 연산 자원이 제한적인 온디바이스 환경에 최적화해 설계됐다. 긴 대화를 처리할 때 메모리 사용량이 급격히 늘어나는 문제를 해결하기 위해 '슬라이딩 윈도우 어텐션' 구조를 도입했다. 이를 통해 최대 32K(3만2000 토큰, 약 2만4000단어) 길이 수준의 대화에서도 메모리를 최대 72.7%까지 절감하면서 안정적인 성능을 유지할 수 있다.

카카오는 이번 모델을 상업적 활용을 허용하는 ‘카나나 오픈 라이센스’로 배포한다. 개발자, 스타트업, 연구기관 등 누구나 별도의 제약 없이 기술을 활용할 수 있어 국내 고성능 한국어 AI 모델 활용 기반 확대와 새로운 서비스 개발 활성화에 기여할 것으로 기대된다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다”며 “카카오는 두 영역에서 기술 경쟁력을 높여가고 있으며 이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다”고 말했다. 

카나나는 카카오의 통합 AI 브랜드로, 언어모델뿐 아니라 멀티모달·음성·이미지 생성모델과 관련 서비스 및 개발조직이다. 카카오는 2025년 경량 모델인 카나나 나노를 시작으로 코딩·수학·도구 호출 기능을 강화한 카나나 1.5, 에이전틱 AI에 초점을 맞춘 카나나-2까지 모델을 단계적으로 고도화해왔다.

아주캐스트