[권기원 칼럼] '모두의 AI' 시대…윤리와 신뢰가 먼저다

[권기원 한국가상융합디지털산업협회 상근부회장]

 
 
 인공지능 윤리원칙 확정
 
우리 정부는 '모두의 AI'를 추진하고 있다. 정부는 국민 누구나 무료로 이용할 수 있는 국가 인공지능(AI)서비스 플랫폼 '모두의 AI' 구축에 본격 착수했다. 연내 범용 AI 챗봇 서비스를 시작으로 2027년에는 국민 1인당 AI 에이전트 1개를 제공하는 것을 목표로 하고 있다. 

과학기술정보통신부와 정보통신산업진흥원(NIPA)은 올해 7월 21일 '모두의 AI' 사업설명회를 열고 사업 추진 방향과 공모 계획을 공개했다.이를 반영하여 지난 8월 21일, 안전하고 신뢰할 수 있는 AI 기본사회 구현을 위한 「대한민국 인공지능 윤리원칙」 (이하 ‘윤리원칙’)이 제12회 과학기술관계장관회의에서 심의·의결을 거쳐 확정되었다.

윤리원칙은 「인공지능 발전과 신뢰기반 조성 등에 관한 기본법」(이하 ‘인공지능기본법’) 제27조(인공지능 윤리원칙 등)에 따라 제정된 것으로, 제27조에서는 정부는 인공지능윤리의 확산을 위하여 인공지능 윤리원칙을 대통령령으로 정하는 바에 따라 제정·공표할 수 있도록 하고 있다. 윤리원칙은 법적 구속력이 없는 자율 규범으로서 법령을 대체하지 않으나, 모든 사회 구성원이 AI의 개발과 활용 과정에서 윤리원칙을 존중하고 실천할 것을 권장하고 있다.  

윤리원칙은 3대 가치와 7대 원칙으로 이루어지고 있다. 3대 가치는 ① 인간의 존엄성, ② 사회의 공공선, ③ 인류의 지속가능성으로 구성되며, 인류가 추구해야 할 근본적 지향으로서 의미를 지닌다. 7대 원칙은 3대 가치를 AI의 전 생애주기에 걸쳐 구현하기 위하여 AI에 관계된 모든 주체가 자율적으로 실천해야 할 공통의 기준으로서, ① 인간중심성, ② 프라이버시 보호, ③ 공정성·포용성, ④ 책임성, ⑤ 안전성, ⑥ 신뢰성, ⑦ 투명성으로 구성된다.
 
7대 원칙
 
7대 원칙을 구체적으로 정리하면 다음과 같다. 첫째, 인간중심성이다. 이는 ① 주체성, ② 통제가능성, ③ 과의존으로 세분할 수 있다.주체성에 있어서는 AI 행위자는 AI를 사람의 판단과 선택을 지원하고 창의성과 문제 해결 역량을 강화시키는 방향으로 개발 및 활용한다. 통제가능성에 있어서는 AI 행위자는 AI의 역할 범위를 구체적으로 설정 및 인식하고, 필요한 경우 AI의 동작에 사람이 개입할 수 있도록 노력한다. 과의존에 있어서는 AI 행위자는 AI를 설계하거나 이용할 때 AI에 대한 사람 의 과도한 의존을 경계한다.

둘째, 프라이버시 보호이다. 이는 ① 사생활 침해 방지, ② 개인정보보호, ③ 자기결정권 보호로 세분할 수 있다. 사생활 침해 방지에 있어서는 AI 행위자는 AI가 부당한 감시 등 타인의 사생 활을 침해하는 데 활용되지 않도록 해야 한다. 개인정보 보호에 있어서는 AI 행위자는 AI 생애주기 전반에서 개인정보를 정 해진 목적에 한정하여 필요한 범위에서 처리하고, 적절한 보호조치를 마련해야 한다. 개인정보 보호법 제15조(개인정보의 수집·이용에 관한 정당한 이익), 제28조의2 내지 제28조의7(가명정보의 처리에 관한 특례), 제9조(안전조치의무)가 관련 법령이다. 자기결정권 보호에 있어서는 AI 행위자는 정보주체의 개인정보 자기결정권을 존중하고, 그 행사를 뒷받침해야 한다. 

셋째, 공정성·포용성이다. 이는 ① 편향 방지, ② 접근성, ③ 참여로 세분할 수 있다. 편향 방지에 있어서는 AI 행위자는 AI 개발 및 활용 전 과정에서 특정 개인이 나 집단이 부당한 차별을 받지 않도록 편향을 방지하기 위해 노력해야 한다. 인공지능기본법 제35조(고영향 인공지능 영향평가시 인공지능취약계층의 특성 반영)가 관련 법령이다. 접근성에 있어서는 AI 행위자는 사회적 약자를 비롯하여 모든 사람이 AI에 접근하고 그 혜택과 기회를 공평하게 누릴 수 있도록 노력해야 한다. 참여에 있어서는 AI 행위자는 AI의 개발 및 활용 전반에 관한 논의에서 모든 이해관계자에게 참여할 권리가 있음을 인식하고 이를 보장하기 위해 노력한다. 

넷째, 책임성이다. 이는 ① 책임 명확화, ② 피해구제, ③ 비례적 책임으로 세분할 수 있다. 책임 명확화에 있어서는 AI 행위자는 AI 생애주기 전반에서 각자의 역할과 책임을 명확히 인식하고 이를 이행하기 위해 노력해야 한다. 민법 제750조(불법행위 책임)과 제조물 책임법(소프트웨어의 제조물성에 관하여 견해의 대립이 있음)이 관련 법령이다. 피해 구제에 있어서는 AI 행위자는 문제가 발생한 경우 책임 소재를 밝히고 실질적인 피해 구제가 이루어지도록 해야 한다. 비례적 책임에 있어서는 AI 역량과 자원을 많이 보유하는 등 영향력이 큰 주체는 그에 상응하는 책임을 다해야 한다.

다섯째, 안전성이다. 이는 ① 안전 설계·이용, ② 적극적 보호조치, ③ 사회적·체계적 위험으로 세분할 수 있다. 안전 설계·이용에 있어서는 AI 행위자는 AI로 인해 사람의 생명·신체·정신적 건강에 위해가 발생하거나 재산상 피해가 생기지 않도록 AI를 설계하고 이용해야 한다. 적극적 보호조치에 있어서는 AI 행위자는 AI의 위험 수준에 맞는 안전조치 를 마련하고 오·남용이나 외부 공격 등에 대비한다. 사회적·체계적 위험에 있어서는 AI 행위자는 AI의 활용이 사회의 안전을 해 치거나 여론 형성과 사회적 의사결정을 왜곡하지 않도록 위험을 살피고 대비한다. 

여섯째, 신뢰성이다. 이는 ① 성능 기준, ② 목적 외 작동 방지, ③ 안정적 작동으로 세분할 수 있다. 성능 기준에 있어서는 AI 행위자는 AI의 목적과 활용 맥락을 고려하여 요구 되는 최소 성능 기준을 설정하고, 의도된 사용 조건에서 해당 성능이 안정적이고 일관되게 유지되도록 해야 한다. 목적 외 작동 방지에 있어서는 AI 행위자는 AI가 의도된 목적과 허용된 권한 범위 안에서 작동하도록 노력해야 한다. 안정적 작동에 있어서는 AI 행위자는 AI가 다양한 사용 조건에서 안정적으로 작동하도록 노력하고, 이용되는 동안 그 성능과 작동 상태를 지속적으로 점검한다.

일곱째, 투명성이다. 이는 ① 투명성, ② 설명가능성으로 세분할 수 있다. 투명성에 있어서는 AI 행위자는 AI가 활용되었다는 사실과 활용 수준 및 한 계 등 필요한 정보를 이해관계자에게 알기 쉽게 제공한다. 인공지능기본법 제31조(인공지능 투명성 확보 의무)가 관련 법령이다. 설명가능성에 있어서는 AI 행위자는 AI의 판단 기준과 위험 수준을 충분히 공유하고 이해하기 위해 노력한다.
 
 AI 이용자 및 업계의 대응 전략

인공지능 윤리원칙은 법적 구속력이 없는 자율 규범이나, 현재 인공지능 관련 규제체계가 형성되고 있는 가운데 자신이 개발한 AI의 규제 준수 여부를 명확히 확인하기 어려운 사업자의 입장에서는 인공지능기본법 및 관련 가이드라인과 더불어 준법 판단의 참고자료로서 기능할 수 있을 것이다. 이에 인공지능 서비스를 개발하는 회사로서는 인공지능 윤리원칙의 내용 중 관련 현행 규제가 있는 경우 해당 규제를 바탕으로 하고, 관련 규제가 없는 경우 윤리원칙 상 명시된 내용을 고려할 필요가 있다.

또한, 2026년 9월 8일자 개정으로 개인정보 보호법에 제28조의12 내지 제28조의15(인공지능기술 개발을 위한 개인정보 처리의 특례)가 신설되어 2027년 3월 9일 시행을 앞두고 있다. 이와 같이 인공지능에 관한 법령이 계속 변동되고 있는 현 상황에서 인공지능 서비스를 개발하는 법인으로서는 윤리원칙과 같은 자율 규범뿐만 아니라 인공지능기본법령, 개인정보 보호법령 등 관계 법령의 제·개정 동향을 지속적으로 모니터링하고, 그 결과를 자사 서비스의 기획·개발 과정 및 내부통제 절차에 적절히 반영해야 할 것이다. 

한편, 인공지능기본법 제28조는 인공지능사업자 등이 윤리원칙의 준수 여부를 확인하기 위하여 민간자율인공지능윤리위원회를 둘 수 있도록 하는 근거 규정을 두고 있어, 윤리원칙이 법적 구속력이 없는 자율 규범이라 하더라도 윤리원칙 준수의 확인 여부가 추후 정부의 인공지능 상품 공공조달 시에 배점요소로 기능할 가능성이 있다. 실제로 정부는 「인공지능 민생 10대 사업(프로젝트)」 공고 시 인공지능 관련 법이 적용되는 과제에 대하여 자율적 통제체계인 ‘인공지능 안전성ㆍ신뢰성 검·인증’의 취득을 명시적으로 요구한 적이 있다. 이러한 점들을 고려할 때 공공시장 진입을 계획하는 인공지능사업자로서는 윤리원칙의 준수 및 인공지능 안전성ㆍ신뢰성 검·인증의 취득을 개발 초기 단계에서부터 점검하는 것이 전략적으로 유리하다고 본다. 

또한, 인공지능기본법 제27조 제4항에서 ‘중앙행정기관 또는 지방자치단체의 장이 인공지능윤리기준’(그 명칭 및 형태를 불문)을 제정하거나 개정하는 경우를 규정하고 있어 사업자는 분야별· 지역별로 제정된 인공지능윤리기준을 파악하여 이에 위반되지 않도록 유의해야 한다.

권기원 필진 주요이력 

▲한국가상융합디지털산업협회 상근부회장 ▲ 경남대 극동문제연구소 초빙교수 ▲ 前​ 미국 우드로윌슨센터에서 객원연구원 ▲ 前 국회 국방위원회 전문위원 ▲ 前과학기술정보방송통신위원회 수석전문위원 ▲ 前 외교통일위원회 수석전문위원 ▲아주경제 로앤피 고문(아주경제 객원기자)  ▲법무법인 대륙아주(유한) 입법지원실장 ▲중앙대학교 의회학과 객원교수