LG CNS, 금융 맞춤형 LLM 평가 도구 출시

LG CNS 직원이 '금융 맞춤형 LLM 평가도구'를 소개하고 있다. [사진=LG CNS]

LG CNS는 생성형 AI를 도입하고자 하는 금융 기업을 위해 금융 맞춤형 AI 평가 도구를 개발했다고 24일 밝혔다.

이 평가 도구는 미리 구축한 데이터셋으로 시중에 공개된 수십개의 개방형 거대언어모델(LLM)을 평가해 뱅킹, 보험, 증권 등 각 금융 서비스에 가장 적합한 AI 모델을 찾아준다.
 
개방형 LLM은 공개된 소스코드나 알고리즘으로 누구나 자유롭게 수정하고 활용할 수 있는 LLM이다. 대표적으로 LG AI연구원의 엑사원(EXAONE) 3.5, 메타(Meta)의 라마(Llama), 알리바바(Alibaba)의 큐원(Qwen) 2.5 등이 있다.

금융 기업은 데이터 유출 등 보안의 이유로 AI 도입 시 개방형 LLM을 파인튜닝해 자체 모델을 구축한다. 파인튜닝은 AI 모델에 별도의 데이터를 학습시켜 특정한 목적에 맞게 만드는 과정을 의미한다. 오픈AI의 챗GPT나 구글의 제미니(Gemini)같은 폐쇄형 LLM은 내부 소스코드가 공개되지 않아, 기업이 자체 AI 모델로 구축해 활용할 수 없으며 돈을 내고 서비스를 이용하는 형태로만 사용 가능하다.

LG CNS의 금융 특화 평가 도구는 29가지 평가지표와 약 1200개의 데이터셋으로 구성돼 있다. 주요 평가 항목은 △금융 지식을 기반으로 추론하는 능력 △수학적 추론 능력 △복잡한 질문 이해력 △문서요약 능력 △금융 용어 이해도 △AI 에이전트(Agentic Tool) 사용 능력 등을 종합적으로 테스트한다. 특히 AI가 답변하기 어려워하는 금융 관련 추론 문제들을 29개 평가지표에 적용해 더 정확한 성능 검증이 가능하도록 했다는 것이 LG CNS 측의 설명이다.

LG CNS는 이 평가 도구를 통해 금융기업들이 AI를 도입할 때 LLM 선정부터 커스터마이징, 운영까지 금융권에 특화된 생성형 AI 도입 전 단계에서 차별화된 서비스를 제공한다는 방침이다.

회사는 최근 NH농협은행과 생성형 AI 플랫폼 구축 프로젝트에 착수했고, 신한카드와 생성형 AI 기반의 상담사 응대 시스템을 구축 중이다. 지난해에는 신한은행과 함께 LLM 기반 미래형 영업점인 ‘AI 브랜치’를 개발했고, KB금융그룹에 AI, 클라우드 등 디지털 기술을 접목시킨 미래형고객센터(FCC, Future Contact Center)를 구축해 운영 중이다.

현신균 LG CNS 사장은 “금융 서비스에 생성형 AI를 도입하고자 하는 기업의 가장 큰 고민은 어떤 AI 모델이 서비스에 가장 적합할 지 파악하는 것”이라며 “LG CNS의 금융 특화 AI 평가 도구는 금융 기업들의 고민을 빠르게 해결할 수 있는 최적의 솔루션이 될 것”이라고 말했다.