[AI인사이트] "안면 인증에 딥페이크 악용↑"…라온시큐어, AI 보안 고도화

지난해 AI연구센터 별도 조직으로 분리

생성형 AI 기반 코드 분석 등 AI 보안 솔루션 개발

양자내성암호 등 양자컴퓨팅 대비한 신기술 개발도

박현우 라온시큐어 AI연구센터장 [사진=라온시큐어]

최근 비대면 상황에서 안면 인증과 관련한 딥페이크 악용이 늘자 보안 업계에선 인공지능(AI)을 활용한 보안 기술 고도화를 추진 중이다. 대표적으로 국내 인증·보안 분야 선두주자 라온시큐어는 모바일 기반 딥페이크 탐지 솔루션을 개발하고 있다. 

박현우 라온시큐어 AI연구센터장은 "AI를 보안 기술에 접목한 것은 오래 됐지만, 생성형 AI 부작용을 막기 위한 딥페이크 탐지 기술은 2~3년 전부터 시작했다"면서 "동영상뿐만 아니라 화상 통화 중에서도 실시간으로 딥페이크를 탐지할 수 있도록 개발하는 것이 회사의 차별적 강점"이라고 전했다. 

라온시큐어는 딥페이크를 악용한 명예훼손이나 허위정보 확산 피해는 물론, 개인이나 기업 대상의 사기 피해를 막기 위한 기술을 개발 중이다. 딥페이크를 이용해 금융기관에서 비대면 계좌 개설이나 안면 인증을 통한 금전적 피해는 물론, 실시간 화상 회의에 직원을 사칭해 기업의 중요 정보를 탈취하는 피해를 막기 위해서다. 

생성형 AI를 접목한 보안 솔루션도 준비 중이다. 박 센터장은 "초거대언어모델(LLM)을 기반으로 코드 분석을 연구 중"이라면서 "생성형 AI가 보안 도메인을 추가 학습해 어려운 보안 내용과 복잡한 절차를 간소화하는 것이 목적"이라고 밝혔다. LLM에 프로그램 해독 도메인 지식을 추가 학습시키고, 프로그램을 넣으면 이를 개발자가 쉽게 읽을 수 있는 개발 언어나 자연어로 변환하거나 시각적 데이터(flow)로 바꿔주는 방식이다. 

이어 그는 "비전문가도 빠르게 악성코드 분석을 수행할 수 있도록 해, 침해 상황에서 신속하게 대처할 수 있을 것"이라면서 "현재 해당 기술의 특허 출원과 등록을 완료한 상태고, 향후 서비스형소프트웨어(SaaS) 형태나 타 보안 시스템과 연계해서 활용될 수 있도록 할 계획"이라고 전했다.

다음은 박 센터장과의 일문일답.

-최근 보안 업계에서 AI 기술을 접목한 보안솔루션 개발이 늘고 있는데
 
"최근 제로트러스트 접근 방식과 클라우드 기반 업무 환경이 확산되면서 인증에 대한 수요가 늘고 있는데, 인증 위험을 자동적으로 판단하기 위해선 AI 기술이 필수적으로 요구된다. 

기존엔 악성코드나 스미싱 탐지를 위해 정상과 비정상을 분류하기 위해 AI가 활용됐다. 안면 인식에는 카메라 앞에 있는 게 사람인지 사진인지를 구분하는 정도였다. 이제는 생성형AI의 부작용을 막기 위해서 AI 기술을 고도화하는 한편, 생성형 AI를 직접 활용해 악성코드를 분석하는 연구도 진행 중이다." 

-지난해 AI 연구센터가 별도 조직으로 분리됐는데

"작년에 센터가 설립됐지만, 이미 수년 전부터 AI 기술을 연구하고 활용해왔다. 기존에는 AI와 개발 업무를 함께 했다면, 현재는 AI 기술 연구를 전담으로 하고 있다. 특히 생성형 AI 부작용을 막기 위한 딥페이크 탐지 솔루션은 2~3년 전부터 개발하기 시작했다. 지난해 초와 비교해 30% 이상의 인력이 충원됐고, 올해 역시 인력과 비용 투자를 확대해 나갈 것이다."

-라온시큐어가 개발 중인 딥페이크 탐지 기술의 차별적 강점은 무엇인가

"95%에 달하는 기술 정확도와 모바일 기반의 실시간 탐지 기능을 꼽을 수 있다. 실시간 탐지 기능은 1분기 내 출시 예정인데, 상용화되면 전 세계 최초일 것이다.

딥페이크 탐지 기술의 정확도를 높이기 위해 여러 모델을 동시에 이용, 여러가지 학습 유형별로 각각 다른 모델을 사용해 AI를 학습시켰다. 또 모바일 보안과 연계된 딥페이크 탐지 기술에 초점을 맞추고 있다. 동영상 탐지 뿐아니라, 모바일 앱을 통한 딥페이크 탐지, 실시간 화상통화 시 얼굴이나 목소리 진위 여부 탐지 등을 개발 중이다."

-이밖에 어떤 AI 보안 솔루션을 개발 중인가

"현재 △AI 콘텐츠 탐지 △AI활용 악성 앱 탐지 △동형암호 기반 AI 안면인식 등을 개발 중이다.

딥페이크·딥보이스뿐 아니라 논문·시험 등 텍스트 콘텐츠와 관련해 AI가 작성했는지 탐지할 수 있는 기술을 연구하고 있다. 또 라온시큐어 모바일 백신인 '엠백신'에는 AI로 악성 앱 여부를 판별해주는 기능이, 라온 모바일 시큐리티에는 AI로 스미싱인지 정상문자인지 확인해주는 기능이 포함돼 있다. 이 기술들을 더욱 정교화하고 고도화하고 있다.

그간 개인정보와 기업정보를 암호화한 상태에서 인식할 수 있는 동형암호 기술을 연구해왔는데, 자체 개발 중인 '동형암호 기반의 AI 안면인식 기술'이 지난해 과학기술정보통신부 'AI 보안 시제품 개발 지원사업'에 선정되기도 했다."

-양자컴퓨팅 위협에 선제적 대응을 위해 양자내성암호 연구도 활발히 진행 중인데.

"양자내성암호 시장은 오는 2023년 약 12조원 규모로 성장할 것으로 전망된다. 양자컴퓨터가 나왔을 때에도 안전한 암호가 필요한데, 지난해 양자컴퓨터의 전자서명과 구간암호화 기능을 출시했다. 공공기관과 기업들이 내부 업무망은 물론, 외부 망에서도 양자내성암호로 변환된 정보를 주고받을 수 있게 됐다. 올해 양자내성암호 기반 전자서명 알고리즘도 개발해 양자내성암호 기술을 고도화할 방침이다."

-최근 고영향 AI 분류·AI 생성물 워터마크 표시 등을 담은 AI 기본법이 통과했다. 보안 산업계에 미칠 영향은 

"딥페이크 관련된 사회적 이슈는 완화되겠지만, 딥페이크 탐지기술 수요는 증가할 것으로 전망된다. 생성형 AI 사업자, 대형 콘텐츠 유통업체에 AI생성물(딥페이크) 표시의무화가 생기면, 자체적인 딥페이크 탐지 기술 도입이 필요해지기 때문이다. 

또 사업자들이 영상·텍스트 등 고영향 콘텐츠를 분류해야 할 텐데, 이로 인해 다양한 산업에서 딥페이크나 AI 작성 콘텐츠 탐지 기술이 필요해질 것이다. 특히 자체적으로 해당 기술을 개발하기 어려운 기업들은 탐지 서비스를 이용해 AI 기본법을 준수할 수 있다. 이는 라온시큐어와 같은 AI 보안 기술을 보유하고 꾸준히 연구개발하는 기업들에게 새로운 기회가 될 것이다."