AI 기본법 내년 본격 시행…누가 준비하고 어떻게 바뀌나

금융·채용·의료 '고영향 AI' 적용…기업들 약관·내부체계 정비 본격화
형벌 없이 계도 운영…고영향 AI에만 신뢰성·안전 관리 집중 적용

인공지능(AI) 기본법이 22일부터 본격 시행되면서 금융·채용·의료 분야를 중심으로 기업들의 규제 대응 준비가 속도를 내고 있다. 정부가 시행 첫해를 계도 기간으로 운영하며 제재는 유예했지만, 사람의 삶에 직접적인 영향을 미치는 ‘고영향 AI’에는 강화된 신뢰성·투명성·안전 관리 의무가 즉시 적용되기 때문이다.

22일 AI 업계에 따르면 주요 AI 서비스 관련 기업들은 자사 서비스가 고영향 AI에 해당하는지 여부와 함께 사전 고지 의무 이행 방식을 중심으로 이용자 약관과 내부 운영 체계 변경 필요성에 대한 법률 검토를 상당 부분 마무리했다. 업계는 개별 통지나 약관 변경까지 요구되지는 않는다는 해석에 따라 로그인 화면 문구 수정이나 팝업 고지 등 UI 고지 방식으로 대응 방향을 정비하고 있으며, 일부 기업은 규제 시행 이후를 대비한 내부 컨센서스와 대응 전략 마련을 마친 상태다.

고영향 AI 규제의 직접 대상은 이미 일상 서비스에 AI 의사결정을 도입한 금융·채용·의료 플랫폼들이다. 금융권에서는 카카오뱅크와 토스가 AI 기반 대출 심사와 신용 평가에 AI를 활용하고 있으며, 채용 분야에서는 원티드랩과 제네시스랩 등이 AI 면접·역량 분석 서비스를 운영 중이다. 이들 서비스는 개인의 대출 가능 여부, 취업 기회, 소득과 직결되는 판단을 자동화한다는 점에서 대표적인 고영향 AI 사례로 분류된다.

AI 기본법은 사람의 권리·기회·경제적 지위에 중대한 영향을 미치는 영역을 고영향 AI로 규정하고, 알고리즘의 신뢰성 검증과 위험 관리 체계 구축, 이용자 고지 의무를 집중 적용한다. 금융·채용·의료 분야는 AI 판단 결과가 개인의 삶의 경로를 직접 바꿀 수 있는 만큼, 오류나 편향 발생 시 권리 침해와 차별로 이어질 수 있어서다.

관련기사

AI기본법 시행 직후 대형 사업자들은 전사 차원의 AI 거버넌스 체계를 발표하고 있다. SK텔레콤은 AI 거버넌스 포털을 고도화하고 ‘Good AI’ 사내 캠페인을 시작했으며, KT는 전담 조직인 ‘책임감 있는 AI 센터(RAIC)’와 CRAIO 체계를 중심으로 AI 윤리·안전 관리 체계를 운영 중이다. 양사는 AI 윤리 원칙과 위험 관리 기준을 기반으로 신뢰성과 안전성을 핵심 가치로 내세우며, 성능 중심에서 ‘신뢰 중심 AI’로 전략 전환을 가속화하고 있다.

고영향 AI 기업뿐 아니라, 투명성 의무를 중심으로 생성형 AI와 콘텐츠 플랫폼 기업도 별도 규제 대상에 포함된다. 과기정통부 추산에 따르면 투명성 의무 적용 대상은 약 1800~2000개 기업에 이를 것으로 전망된다. 네이버, 카카오, SKT 등 LLM 개발사와 웹툰·가상인간·콘텐츠 플랫폼 기업들은 텍스트, 이미지, 영상 등에 AI 생성물 표기를 도입, 강화해야 한다.

의료 AI 분야는 상대적으로 준비가 앞선 영역으로 꼽힌다. 의료 데이터의 특수성과 의료법·개인정보보호법 등 기존 규제가 엄격한 만큼, AI 기본법 시행 이전부터 강화된 관리 체계를 적용해왔기 때문이다.

의료 영상 진단 기업 루닛은 “AI 기본법 이전부터 의료법과 개인정보 보호 기준에 따라 이미 강화된 시행령과 절차를 적용하고 있다”며 “환자 동의 절차와 관련 문서도 현장에서 이미 사용 중”이라고 밝혔다. 이어 “기존 시스템이 엄격한 기준을 따르고 있어 별도의 약관 변경이나 절차 수정은 필요하지 않은 상황”이라고 설명했다. 루닛은 EU AI 법(EU AI Act)에 맞춘 글로벌 기준 대응도 병행하고 있다.

AI 반도체·최적화 솔루션 기업 노타AI도 계약 단계에서부터 대응에 나섰다. 노타AI는 공급계약서와 최종사용자 라이선스 계약에 ‘고영향 AI 용도 제한 조항’을 신설해 활용 범위를 관리하고 있다. 내부 검토 결과 고영향 AI에는 해당하지 않지만, 오용 가능성을 사전에 차단하기 위한 조치다.

해외 빅테크 기업도 예외는 아니다. 오픈AI, 구글, 마이크로소프트, 메타, 앤스로픽 등은 국내 이용자 수와 매출 기준을 충족할 경우 한국 내 대리인을 지정하고, 이용자 보호와 고지 의무를 이행해야 한다.

과기정통부 관계자는 “글로벌 기업들이 각국 기준 차이를 가장 우려하는 만큼, 우리 제도는 유럽연합(EU)보다 규제 수준을 완화하는 방향으로 설계했다”며 “EU가 사업자와 게시자 모두를 규제하는 반면, 우리는 AI 사업자 중심으로 규제를 집중해 적용 범위는 좁히고 제도 공백은 최소화하는 데 초점을 맞췄다”고 설명했다.

AI 기본법은 특히 금융·채용·의료·교통 등 고영향 AI 분야를 핵심 규제 대상으로 삼는다. 이들 분야에는 신뢰성 검증, 위험 관리 체계 구축, 이용자 고지 의무가 집중 적용된다.

업계 관계자는 “시행 첫해는 제재가 유예되지만, 이후 본격적인 집행이 시작되면 고영향 AI 기업의 책임 부담과 규제 비용이 크게 늘어날 수 있다”며 “이번 1년 유예 기간이 사실상 기업들의 마지막 준비 기간이 될 것”이라고 말했다.