'인공지능이 식품수입 결정'...행정 파고든 AI에 법조계 '책임 공백' 우려

[사진=게티이미지뱅크]

인공지능(AI) 기술 발달로 국내에서도 AI가 ‘행정 처분’을 내린 사례가 지난달 처음 등장했다. 신속한 행정 처리를 위한 시스템 도입이지만, 법조계에는 AI의 ‘자동적 처분’을 바라보는 우려 섞인 시선도 적잖다. AI의 행정처분에 대한 불복이 필요한 경우, 기존 행정 처분과 달리 법적 구제 절차에 공백이 발생할 수 있다는 이유에서다. 행정절차법상 이의권 행사 등이 어려워질 수 있는 만큼, 추가적인 입법 보완이 필요하다는 지적이 설득력을 얻고 있다.
 

식약처, 국내 첫 AI 행정처분 시행...제정 행정기본법 근거

식약처는 지난달 14일부터 알고리즘 기반의 ‘전자심사24(SAFE-24)’를 통해 수입 식품첨가물에 대한 신고 접수와 수리에 이르는 과정을 자동화했다. 식품에 대한 수입 여부를 AI가 직접 결정하고 확인증까지 발급하는 시스템이다. 국내에서는 AI·알고리즘을 활용해 행정 처분을 완전 자동화한 첫 사례다. 기존의 수입식품 신고 수리를 24시간 처리할 수 있고, 수리까지 걸리는 소요시간도 기존 1~2일에서 10분 안으로 단축할 수 있다.
 
AI를 통한 행정 처분이 가능해진 것은 2021년 행정기본법이 새로 제정되면서다. 행정기본법 20조는 ‘법률로 정하는 바에 따라 완전히 자동화된 시스템(인공지능 기술을 적용한 시스템을 포함한다)으로 처분을 할 수 있다. 다만 처분에 재량이 있는 경우는 그렇지 않다’고 규정한다.
 
이에 따라 사람의 의사결정을 필요로 하지 않는 경우, 구체적인 법률만 있다면 AI를 행정 처분에 활용할 수 있는 길이 열리게 됐다. AI의 수입식품 허가 역시 올해 ‘수입식품안전관리 특별법’ 개정을 통해 구체적인 규정이 마련되면서 가능해졌다.
 

AI 처분은 행정절차법 적용 어려워..."확대 시행 대비해 입법 보완해야"

행정기본법을 근거로 AI의 행정 처분 대상과 종류가 확대될 가능성이 열렸지만 불복 절차가 미비하다는 점을 지적하는 목소리도 나오고 있다. 앞서 행정기본법 제정을 앞둔 지난 2020년 사단법인 정보인권연구소와 민주사회를 위한 변호사모임 등이 행정기본법 20조에 대한 제정안 반대 의견서를 제출하기도 했다. 

 
오정미 변호사(법무법인 이공)는 “안전성 판단에 대한 자동화된 행정처분이 점차 확대되면서 이에 대한 이의 신청도 늘어날 가능성이 높다”며 “행정처분에 대한 이의나 불복은 행정절차법에 기본하고 있는데, 현행 행정절차법은 ‘자동적 처분’에 대한 구제 절차 등 절차적 권리에 대한 규범이 미흡하다”고 지적했다.
 
정남철 숙명여대 법학과 교수도 “행정기본법의 ‘자동화된 시스템’ 처분은 독일의 완전자동화 행정행위를 토대로 했다. 다만 독일과 달리 우리 법제의 경우 ‘인공지능 기술을 적용한 시스템’을 포함하고 있다. 이런 자동적 처분에 현행 행정절차법의 규정을 적용하기 까다로운 부분이 있다”고 지적했다.

현재 식약처는 식품첨가물 중 재수입되는 제품에만 해당 시스템을 적용 중이지만, 이르면 연내 농·축·수산물 수입 심사까지 확대할 예정이다. 내년부터는 수입 가공식품에 대해서도 전자심사를 통한 ‘자동적 처분’이 이뤄진다. 인공지능 분석을 고위험 품목 등 선별에 활용하는 ‘인공지능(AI) 기반 위험예측 시스템’도 도입한다. 향후 교통 법규 심사 등 다른 행정 분야에서도 알고리즘에 기반한 행정 처분이 이뤄질 수 있다는 예측도 나오고 있다.

오병일 진보네트워크센터 대표는 “책무성과 투명성 등에 기반해 행정청 결정에 충분한 이의 제기가 가능해야 하는 것이 원칙이다. 알고리즘으로 인한 의사결정은 결정에 이르는 과정과 결정 이유를 알 수 없는 경우가 상당하므로 구제 절차에 대한 입법적 보완이 필요하다”고 지적했다. 오 변호사도 "자동화된 행정 처분의 확대에 발맞춰 행정절차법 등에 추가적인 절차적 권리 보장이 가능한 조항을 추가로 개정할 필요가 있다"고 강조했다.