AI 오용·사고 현실화에… 오픈AI, 준비책임자 채용 공고

샘 올트먼 "모델 성능 높아질수록 현실적 도전 커져"

캘리포니아 AI법 시행 대응하기 위한 채용이라는 분석도

[사진=게티이미지뱅크]

미국 오픈AI가 자사 인공지능(AI) 모델의 잠재적 위험과 오남용 가능성을 전담 관리할 조직 정비에 나섰다. 미국 캘리포니아주, 유럽연합(EU) 한국 등 주요 국가에서 AI 법 시행이 본격화하면서 AI 안전 대응을 전담할 콘트롤타워 필요성이 커졌다는 분석이 나온다. 

28일 업계에 따르면 최근 오픈AI는 AI 모델로 인한 위험과 오남용 문제를 관리할 '리스크 대비 총괄(Head of Preparedness)' 채용에 나섰다. 

오픈AI가 제시한 '리스크 대비 총괄' 연봉은 55만5000달러(약 8억원)이다. '리스크 대비 프레임워크' 기술 전략 수립과 실행을 총괄한다. 

샘 올트먼 오픈AI 최고경영자(CEO)는 "올해 이미 AI 모델이 정신겅강에 미칠 잠재적 영향을 목격했다"며 "모델 성능이 높아질수록 현실적 도전도 커지고 있으며 이번 채용이 매우 중요한 시기의 핵심인 역할을 하게 될 것"이라고 짚었다. 

미국에서는 AI 챗봇에 지나치게 의존하던 10대 청소년이 자살해 유가족이 오픈AI를 상대로 소송을 제기한 바 있다. 오픈AI가 이번 채용 공고에서 잠재적 위험과 오용 가능성을 명시한 점도 이 같은 사고가 영향을 미쳤을 것이라는 분석이다. 

이번 채용은 미국 캘리포니아주의 AI 법에 대응하는 조치로도 풀이된다. AI 기업을 대상으로 서비스 설계 대상에서부터 법적 의무를 부과하는 규제가 적용을 앞두고 있기 때문이다. 

오픈AI 본사가 위치한 캘리포니아주에서는 오는 2026년 1월 1일부터 '인공지능 투명성법(SB942)을 시행한다. 이 법은 오픈AI와 같은 AI 기업에 AI가 만든 콘텐츠임을 식별할 수 있는 기술적 조치와 무료 탐지 도구 제공을 의무화하고 있다. 

이 법은 규정 위반 시 건당 5000달러(약 700만원)의 과태료를 부과하도록 명시하고 있다. 제삼자가 워터마크 기능 등 기술적 조치를 무력화할 경우 이를 인지한 지 96시간 내 라이선스를 취소해야 하는 등 엄격한 관리 책임도 요구한다. 

AI 안전 관련 법안은 미국을 넘어 주요 각국에서도 시행을 준비 중이다. 유럽연합(EU)은 이미 세계 최초 포괄적 규제인 'AI 법'을 확정했다. 한국 역시 AI 산업 진흥과 안정성 확보를 골자로 한 'AI 기본법'이 오는 2026년 1월 22일부터 발효된다. 

이같은 움직임에 대해 최민석 한국전자통신연구원(ETRI) AI안전연구소 실장은 "AI 안전 거버넌스는 윤리적 선언 단계를 넘어 제도화와 집행 단계로 진입한 상황"이라며 "선택이 아닌 필수가 됐다"고 분석했다.