[전문가 기고] 'AI 기술' 경외심 넘어 제도화 고민해야

김현철 한국화학융합시험연구원(KTR) 원장. [사진=한국화학융합시험연구원 제공]

"한국화학융합시험연구원(KTR)은 한국의 대표적인 시험·인증·연구 기관 중 하나입니다. 1970년에 설립된 이 연구원은 다양한 산업 분야에서 품질과 안전을 보증하기 위한 시험 및 인증 서비스를 제공합니다."
 
챗GPT에 "한국화학융합시험연구원에 대해 알려줘"라고 물었더니 곧바로 위 문장으로 시작되는 답변을 내놓았다. 새 버전이 나온 이후 대답은 훨씬 더 빠르고 정확해졌다.

바야흐로 인공지능(AI) 시대다. 사례를 찾는 게 무색할 정도로 첨단산업뿐 아니라 산업계 전반에서 AI가 적극 활용되고 있다. 일상생활에서도 전 세계 누구와도 각자의 언어로 실시간 양방향 통화를 할 수 있고 포털 검색도 AI 기반이 됐다. 문서만이 아니라 이미지, 음악, 영상 등 우리의 오감을 AI가 좌우한다. 인터넷이 그랬듯 이제 AI가 우리 삶 자체인 시대가 되고 있다.
 
하지만 인공지능이 우리 삶을 더욱 풍요롭게 할 것이라는 기대만큼이나 이에 대한 우려 또한 만만찮다. 영화 매트릭스처럼 인공지능이 인류의 적이 될 것이라는 우려가 현실로 나타난다는 것이다. 환각을 뜻하는 '할루시네이션'이라는 용어로 설명되는 대화형 AI의 거짓 정보 등 이미 알려진 문제도 많다. 미국 민간업체 글래드스톤 AI는 미국 국무부 의뢰 보고서에서 'AI는 인류 멸종 위협이 될 수 있다'고 경고하기도 했다. 딥러닝 기술 창시자 제프리 힌턴 토론토대 교수도 '10년 내 사람을 죽이는 AI 로봇이 나올 것'이라 말했다고 한다.
 

이에 세계적으로 AI 거버넌스와 표준, 규제 관련 논의도 활발히 진행 중이다. 지난달 22일부터 이틀간 서울에서 열린 '인공지능 서울 정상회의'에서도 안전·혁신·포용이라는 AI 거버넌스 3대 원칙이 제시됐다. 이를 통해 AI의 위험을 관리하며 인류에 기여할 혁신 기회를 확대하고 격차를 해소해 누구나 AI 혜택을 누릴 수 있어야 한다는 것이다.

산업통상자원부가 지난 4월 22일부터 닷새간 서울에서 개최한 'AI 국제표준화 총회'에서도 생성형 AI 윤리 문제를 포함한 AI 성숙도 모델, AI 경영시스템 가이드 등 AI 전반에 걸친 국제표준 개발 논의가 이뤄졌다.

나아가 유럽연합(EU)은 5월 21일 세계 최초로 AI 규제법을 승인하고 2026년부터 전면 시행한다. AI를 활용 위험도에 따라 분류해 각각 규제한다는 내용의 이 법안은 앞으로 AI 규제 국제표준이 될 가능성이 높다.
 
AI의 기술에 놀라워하고 비즈니스나 업무영역에 어떻게 활용할 것인지를 고민하는 시기를 넘어 이미 제도의 영역에서 AI는 핵심 의제가 되고 있다. AI 기술에 안전·혁신·포용이라는 과제를 부여해 책임 있는 AI를 만들어 사용할 수 있도록 전 세계가 힘을 모으고 있다.
 
세계 첫 AI 기반 시험인증기관이라는 목표를 갖고 있는 KTR 역시 AI의 가능성을 더욱 높이고 한계를 극복하는 활동에 적극 나서고 있다. AI 개발 및 활용을 제도적으로 뒷받침하고 AI를 사업과 기관 운영에 직접 접목하는 활동을 활발히 하고 있다.
 
KTR은 앞서 말한 지난 4월 'AI 국제표준화 총회' 후원기관으로서 국제표준화 활동에 활발히 참여했으며 지난해 10월에는 국내 시험기관 최초로 AI 시스템 품질 모델 국제표준을 적용한 AI 시험평가 서비스를 시작했다. 지난해 말에는 국내 1호 AI 인증을 부여하기도 했다.
 
또 국비 100억원을 포함, 148억원을 들여 AI·빅데이터로 바이오헬스케어 소재의 안전성과 유효성을 예측하는 플랫폼을 구축하고 있으며 AI OCR(광학문자판독), AI 카메라 등을 활용하고 머신러닝, 딥러닝이 적용된 시험인증 시스템을 구축 중이다.
 
조직 운영에도 AI를 도입해 수치데이터를 넘어 그래프, 맵 등 시각데이터와 동적 화면 등 다차원 정보를 유기적으로 연결한 데이터 분석 기법을 적용하고 반복 업무에 AI를 활용하는 로봇 프로세스 자동화 시스템을 구축하고 있다.
 
AI 도입은 더 이상 미룰 수 없는 과제다. 아울러 AI로 야기되는 문제 해소 역시 도입 못지않게 중요한 문제다. 이제 산업계는 물론 정부, 학계 등에서도 AI 기술에 경외심을 넘어 적극적으로 어떻게 AI 기술을 쓸 것인가를 고민해야 한다. KTR도 AI 기술 도입과 함께 AI 관련 제도 정립을 위해 적극 나서고 있다.
 
참고로 KTR에 대한 위 챗GPT의 대답은 잘못됐다. 한국화학융합시험연구원은 1969년 설립됐다.