오픈AI 이어 앤트로픽 AI 모델도 외부 기관 해킹…사이버 보안 우려 고조

앤트로픽, 클로드 테스트 중 외부 시스템 무단 접근 사례 3건 확인

오픈AI, 21일 GPT

[사진=로이터·연합뉴스]

미국 주요 인공지능(AI) 스타트업 앤트로픽이 자사의 AI 모델 클로드가 테스트 중 외부 기관 3곳을 해킹하는 사고가 있었다고 밝혔다. 지난 주 오픈AI에 이어 앤트로픽에서도 유사한 사례가 발생함에 따라 AI를 둘러싼 사이버 보안 우려가 커지고 있다.

앤트로픽은 30일(현지시간) 성명을 내고 "우리는 사이버 보안 평가를 검토하는 과정에서 클로드 모델이 제3자 평가 환경 내부 또는 그 환경과 상호작용하는 과정에서 인터넷에 접속한 뒤, 3개 기관의 실제 시스템에 무단으로 접근한 사례 3건을 확인했다"고 발표했다. 앤트로픽은 총 14만1006건의 평가 사례를 검토한 결과, 이러한 해킹 사례가 나타났다며 첫번째 사례는 4월에 발생했다고 덧붙였다.

앤트로픽은 오픈AI의 GPT에서 해킹 사고가 발생한 후 클로드 오퍼스4.7, 미토스5 및 내부 테스트 모델 중 3가지 모델에 대해 자체 평가 결과를 검토 하던 중 이러한 결과를 확인했다고 설명했다. 앞서 지난 21일 오픈AI는 테스트 중이던 GPT-5.6 솔(Sol) 등 여러 AI 모델들이 이전에 알려지지 않은 이른바 '제로데이' 취약점을 통해 격리된 테스트 환경을 탈출한 후 AI 커뮤니티 플랫폼 '허깅페이스'의 운영 환경에 접근하는 사고가 발생했다고 발표했다.

앤트로픽은 클로드의 사이버 역량을 평가하는 '깃발 뺏기(capture-the-flag)' 단계 중 이같은 사고가 일어났다고 밝혔는데, 깃발 뺏기는 네트워크상의 다른 컴퓨터에 침입해 비밀 정보(깃발)를 찾는 테스트를 일컫는다. 다만 앤트로픽은 클로드에게 해당 테스트에서 인터넷 접속은 불가능하다고 명시했으나, 평가 파트너인 이레귤러(Irregular)와의 오해로 인해 실제로는 인터넷 접속이 가능했다고 설명했다.

따라서 클로드는 검색을 통해 인터넷상에서 실제 시스템을 발견했을 때 이를 테스트의 일부로 판단했고, 취약한 비밀번호 해제 및 미확인 엔드포인트 활용 등의 기본적인 기술을 활용해 해당 기관의 인프라를 침해했다고 앤트로픽은 전했다. 다만 클로드는 해당 시스템 내에서 '깃발'만 취득했고, 이외 다른 침해 행위는 하지 않았다고 덧붙였다.

앤트로픽은 23일에 클로드의 접속 기록 검토를 시작한 가운데 클로드의 인터넷 접속 가능성이 있는 기록을 확인한 후 당일 모든 보안 평가를 중단했고, 27일에는 클로드가 인프라에 접속한 기관 3곳에 해당 내용을 통보했다고 밝혔다. 그러면서 AI 모델이 점점 강력한 성능을 갖춤에 따라 테스트에 있어서도 더욱 강력한 통제가 필요하다고 강조했다.

이에 오픈AI에 이어 앤트로픽의 AI 모델도 테스트 환경 중 의도치 않은 해킹 사례를 보고함에 따라 AI 모델을 둘러싼 사이버 보안 우려가 더욱 커지는 모습이다. 전날 도널드 트럼프 미국 대통령은 지난주 오픈AI 모델의 해킹 사고 이후 AI 규제를 강화하는 방안을 검토 중이라고 언급했다. 앞서 28일에는 오픈AI와 앤트로픽, 구글, 메타 등 주요 인공지능(AI) 기업 종사자 1100여명이 "AI 개발 속도를 조절할 국제 기준이 필요하다"며 미국 정부의 대응을 촉구하기도 했다.