앤트로픽 "AI 안전성 시험 의무화해야…일자리 충격 대비 필요"

아모데이 CEO "구속력 있는 규제 필요"…고용 인센티브·소득 지원도 제기

앤트로픽 [사진=로이터·연합뉴스]

인공지능(AI) 모델 '클로드' 개발사 앤트로픽이 AI 기술 발전에 대응해 강력한 규제와 노동시장 대책이 필요하다고 촉구했다.

10일(현지시간) 로이터통신에 따르면 앤트로픽은 이날 성명을 내 미국 의회가 ‘재앙적 AI 위험’을 다루는 엄격한 연방법을 마련하지 않는 한 주정부의 AI 규제를 차단해서는 안 된다고 밝혔다.

도널드 트럼프 미국 대통령은 앞서 주정부 차원의 AI 규제를 연방법으로 대체하는 방안을 의회에 촉구해왔다. 이에 대해 앤트로픽은 연방 차원의 기준을 마련하려면 가장 강력한 AI 모델에 대해 독립적인 안전성 검사를 의무화해야 한다고 주장했다.

앤트로픽은 AI 확산에 따른 노동시장 충격에도 대비해야 한다고 강조했다. 회사는 의회와 주정부가 AI로 인한 대규모 해고 가능성에 대비해 실업급여 지급 시스템을 현대화해야 한다고 촉구했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)도 이날 개인 블로그에 올린 '기하급수적 AI 발전에 대한 정책'이라는 글에서 AI에 대한 보다 구속력 있는 규제가 필요하다고 강조했다.

아모데이 CEO는 AI 발전 속도가 급격히 빨라지면서 1∼2년 안에 AI가 '데이터센터 속 천재들의 나라' 수준으로 진화할 수 있다며, 기존에 거론돼온 '투명성'만으로는 충분하지 않다고 지적했다.

그는 "투명성을 넘어 AI에 더 엄격하고 구속력 있는 규제를 도입해야 할 때"라며 항공기 안전을 감독하는 미국 연방항공청(FAA)과 유사한 방식으로 AI를 규제하는 체계가 필요하다고 주장했다.

AI가 불러올 대규모 실업 가능성도 경고했다. 그는 "장기적인 일자리 대체 현상은 바람직하지 않을 뿐만 아니라 위험하기도 하다"며 고용 촉진을 위한 인센티브와 보편적 기본소득 같은 소득 지원 방안이 필요할 수 있다고 밝혔다.

아모데이 CEO는 완전 자율무기 체계에 대해서도 신뢰할 수 있는 책임 규정을 마련해야 하며, 미국 내 사용은 금지해야 한다고 주장했다.

그는 이날 공개된 블룸버그 인터뷰 프로그램 ‘더 서킷 위드 에밀리 창’에서도 AI의 군사적 활용에는 인간의 개입이 필요하다고 강조했다.

아모데이 CEO는 미 국방부의 군사 작전에 클로드가 사용되는 것 자체는 문제가 없다는 입장을 밝혔다. 다만 그는 기술기업이 특정 군사 작전을 허용하거나 금지할 권한을 가져서는 안 된다며 "군사 정책은 결국 군 의사결정권자의 손에 맡겨야 한다"고 말했다.

그는 AI 모델이 보안 취약점을 찾아내는 능력이 빠르게 향상되고 있다며, 일부 최상위 모델의 공개를 늦춘 배경도 설명했다. 아모데이 CEO는 "모델들이 취약점을 찾아내는 능력은 꾸준히 향상됐지만 이번에는 특히 도약 폭이 컸다"며 일부 기업들이 공개 연기를 요청할 정도로 강력한 성능을 보였다고 말했다.

AI 위험성을 경고하면서도 AI 개발을 주도하는 자신의 행보가 원자폭탄 개발을 이끈 물리학자 J. 로버트 오펜하이머와 닮았다고 보느냐는 질문에는 "오펜하이머는 실패 사례, 있어서는 안 될 사례로 본다"며 "좋은 결말을 맺으려면 모든 곳에 견제와 균형이 있어야 한다"고 답했다.