카카오뱅크, AI 품질관리 표준 체계 도입

서비스 全 과정 체계적 관리 가능…개발·기획·운영자, 같은 기준으로 점검·평가

[사진=카카오뱅크]

카카오뱅크가 인공지능(AI) 품질관리 표준 체계를 도입했다. AI 서비스 품질을 수치화하고 위험을 체계적으로 관리하기 위해서다. 카카오뱅크는 이 체계를 AI 서비스 전반에 적용할 방침이다.

카카오뱅크는 금융권에서 처음으로 ‘AI 프로덕트 평가 프레임워크’를 자체 도입했다고 13일 밝혔다. 이를 통해 AI 서비스 기획·개발·출시·운영 등 모든 과정을 체계적으로 관리하겠다는 복안이다.

새 표준 체계의 특징은 대형언어모델(LLM) 평가 결과를 수치화하고 반복 검증하는 정량 평가를 도입했다는 점이다. LLM 특성상 같은 질문에도 답변이 달라질 수 있는데, 이를 보완해 AI 응답 불확실성 등 위험을 차단하고 효율성·안전성을 확보하겠다는 취지다.

이에 더해 개발자, 기획자, 운영자가 같은 기준으로 서비스 완성도와 신뢰성을 점검할 수 있게 됐다. AI 서비스 평가 결과와 노하우를 내부에 축적해 신규 서비스 개발과 고도화에 활용할 수도 있다.

카카오뱅크 관계자는 “이번 프레임워크 도입으로 AI를 관리·감독하는 ‘AI 거버넌스’ 체계를 한층 강화했다”며 “단순한 기술 관리에 그치지 않고 AI 관련 위험을 선제적으로 관리하기 위한 조치”라고 설명했다.