라온시큐어 '원쉴드', AI 제품·서비스 확인서 획득

생성형 AI 입·출력 데이터 실시간 분석…정보 유출·악성 프롬프트 차단

확인서 획득 계기로 공공·금융 시장 공략 확대

라온시큐어의 AI 세이프 가드레일 솔루션 ‘원쉴드’가 ‘인공지능 제품·서비스 확인서’를 획득했다.[사진=라온시큐어]

인공지능(AI) 보안 기업 라온시큐어가 AI 보안 솔루션 ‘원쉴드(OnShield)’로 인공지능 제품·서비스 확인서를 획득했다고 14일 밝혔다.

인공지능 제품·서비스 확인제도는 한국인공지능·소프트웨어산업협회(KOSA)가 인공지능기본법에 따라 제품이나 서비스에 AI 기술이 실제 적용됐는지를 확인하는 제도다. 제품에 적용된 AI의 학습·추론 특성과 기능 기여도 등을 기술적으로 심사해 확인서를 발급한다.

기업의 생성형 AI 도입이 늘면서 기존 보안 체계만으로 대응하기 어려운 새로운 보안 위협도 나타나고 있다. 임직원이 업무 중 기업의 중요 정보나 개인정보를 생성형 AI에 입력하거나, 공격자가 악성 프롬프트를 이용해 AI에 설정된 보안 정책을 우회하는 사례 등이 대표적이다.

원쉴드는 이러한 위협에 대응하기 위한 AI 세이프 가드레일 솔루션이다. 사용자와 생성형 AI·AI 에이전트 사이에서 오가는 입·출력 데이터를 실시간으로 분석하고, 사전에 설정된 정책에 따라 데이터를 허용하거나 차단한다. 기업이 생성형 AI를 활용하는 과정에서 발생할 수 있는 정보 유출과 AI 오남용 위험을 관리하도록 지원한다.

주요 기능으로는 프롬프트 인젝션과 탈옥 등 악성 프롬프트 공격 탐지·차단, AI 입력 정보에 포함된 개인정보의 자동 식별 및 익명화·마스킹 등이 있다. 한국어 특화 모델을 기반으로 유해 콘텐츠를 걸러내고, 기업이나 기관이 설정한 보안 정책에 따라 민감정보 입력과 부적절한 AI 사용을 통제한다.

라온시큐어는 이번 확인서 획득을 계기로 공공·금융 시장 공략을 본격화할 계획이다. 공공기관과 금융기관이 AI 보안 솔루션 도입을 검토하는 과정에서 이번 확인서를 원쉴드의 AI 기술 적용 여부를 판단하는 근거로 활용할 수 있을 것으로 기대하고 있다.

이정아 라온시큐어 대표는 “생성형 AI 활용을 넘어 AI 에이전트가 실제 업무를 수행하는 단계로 전환되면서 민감정보 유출, 악성 프롬프트, 정책 우회 등 새로운 보안 위협도 함께 커지고 있다”며 “원쉴드는 이러한 위협을 통제해 기업과 기관이 AI를 보다 안전하게 활용할 수 있도록 하는 솔루션으로, 이번 확인서 획득을 계기로 공공·금융을 중심으로 사업 기회를 확대해 나가겠다”고 말했다.