카카오, 자율 에이전트 '통제·책임' 기준 세웠다…AI 윤리 원칙 공개

AI 윤리 원칙 'SPIRIT'·이행 가이드 마련

자율 에이전트 리스크 5대 영역으로 관리

AI 전 주기 점검 체크리스트 연내 적용 

 

카카오가 '자율 에이전트 시대 AI 윤리 원칙·이행 가이드'를 공개했다. (왼쪽부터)김경훈 카카오 AI 세이프티 리더, 하진화 카카오 AI 커뮤니케이션 수석, 정병수 유니세프 L&D센터장, 이상욱 한양대학교 철학과 교수, 김세웅 카카오 부사장, 김명주 AI안전연구소 소장, 이원태 국민대학교 특임교수, 유재연 한양대학교 사회혁신융합전공 겸임교수, 변순용 서울교육대학교 윤리교육과 교수, 이민석 국민대학교 소프트웨어융합대학 교수

카카오가 자율 에이전트 확산에 대응해 AI 서비스의 기획부터 운영까지 적용할 윤리 원칙과 이행 가이드를 마련했다. AI가 스스로 계획하고 행동하는 과정에서 발생할 수 있는 위험을 줄이기 위해 사람의 통제와 책임, AI에 부여되는 권한 등을 관리하고 서비스 전 주기에 걸쳐 위험 요소를 점검하는 체계를 구축한다.

카카오는 지난 13일 카카오 AI 캠퍼스에서 열린 개발자 컨퍼런스 ‘이프카카오·if(kakao)26’를 통해 ‘자율 에이전트 시대 AI 윤리 원칙·이행 가이드’를 공개했다고 15일 밝혔다. 

하진화 카카오 AI 커뮤니케이션 수석은 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서 인간의 판단과 책임을 정하고, 윤리를 서비스 설계와 운영에 반영하는 실행 체계의 필요성을 강조했다.

새 AI 윤리 원칙 ‘SPIRIT’은 △안전 △프라이버시 △포용 △책임 △이용자 주체성 △투명성과 신뢰성 6개로 구성됐다. 이는 ‘대한민국 인공지능 윤리원칙’의 3대 가치와 7대 원칙을 주요 이행 기준으로 채택됐다. 이를 기반으로 카카오 서비스에 맞게 세부 내용들을 보완했다.

카카오는 윤리 원칙을 실제 서비스에 적용하기 위한 이행 방식으로 ‘NORMA’를 마련했다. 복잡한 AI 윤리 과제를 조직 차원에서 관리하고 실행 가능한 단계로 구체화하는 방식이다.

윤리 원칙은 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인이 이번 윤리 원칙과 이행 가이드 마련에 참여했다. 자문단이 국내외 규범과의 정합성을 점검하고, 카카오의 AI 세이프티·개인정보·정보보안·서비스 관련 부서가 실무 관점에서 검토했다.

카카오는 자율 에이전트 리스크를 △통제 주도권 △목표 △권한 △참조 자원 △상호작용의 5대 관리 영역으로 나누고 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 통제를 연결했다. 

이를 바탕으로 만들어진 ‘AI 윤리 이행 체크리스트’는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정의 세 단계로 운영된다. 체크리스트는 연내 적용할 예정이다.

아동·청소년 보호를 위한 점검도 강화한다. 카카오는 2025년부터 적용해 온 ‘디지털 아동·청소년 보호 체크리스트’에 더해, OECD와 유니세프의 아동 온라인 리스크 분류 체계(5Cs)를 참고한 AI 특유의 아동 리스크 점검 요소를 새 체크리스트에 반영할 계획이다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 “외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다”며 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 말했다. 

한편 카카오는 지난달 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 업무협약을 체결했다. 양측은 AI 모델과 에이전트의 안전성을 공동 평가하고, 위험 요소를 식별하기 위한 평가도구 개발 등을 추진하고 있다.