[아주사설 | 6·3 지방선거, AI 선수를 뽑자] ⑮ AI를 이해하지 못하면 혁신도 통제도 불가능하다

― 무지는 중립이 아니라 위험이다

AI 행정을 둘러싼 가장 흔한 오해는 이것이다. “전문가는 따로 있고, 단체장은 방향만 잡으면 된다”는 생각이다. 그러나 AI가 행정의 판단 구조 깊숙이 들어온 지금, 이 인식은 더 이상 성립하지 않는다. 이해하지 못하는 기술은 혁신의 도구가 아니라 통제 불가능한 위험이 된다.

AI를 이해한다는 것은 코드를 짤 줄 안다는 뜻이 아니다. 모델의 수식을 외운다는 의미도 아니다. 무엇을 할 수 있고 무엇을 할 수 없는지, 어떤 전제 위에서 작동하며 어디서 오류가 발생할 수 있는지를 아는 수준이면 충분하다. 이 최소한의 이해가 없으면 단체장은 두 가지 선택지 중 하나로 밀려난다. 맹신하거나, 회피하거나. 둘 다 위험하다.

이해하지 못한 채 도입된 AI는 혁신을 가장한 외주화로 이어지기 쉽다. “시스템이 그렇게 나왔다”는 말 뒤에 판단이 숨고, “전문가 검토를 거쳤다”는 표현 뒤에 책임이 사라진다. 이때 행정은 빨라질 수는 있어도 스스로 결정하지 못하는 조직이 된다. 혁신처럼 보이지만, 실제로는 판단 능력이 줄어든 상태다.

반대로 이해 없는 상태에서의 통제 역시 허상에 가깝다. 통제란 멈출 수 있는 능력이다. 결과가 납득되지 않을 때 재검토를 요구하고, 위험 신호를 감지했을 때 개입할 수 있어야 한다. 그러나 작동 원리를 모르면 질문도 멈춘다. 질문이 멈추면 통제도 멈춘다. 그 순간 AI는 도구가 아니라 주인 없는 권한이 된다.

지방행정에서는 이 문제가 더 날카롭게 드러난다. 데이터는 제한적이고, 지역 편차는 크며, 행정의 결과는 주민의 삶에 즉각 반영된다. 이런 조건에서 AI를 이해하지 못한 리더가 결재만 하는 구조는 위험하다. 실무자는 분석하지만 결정권자는 판단하지 못한다. 이 간극이 커질수록 행정은 보수화되고, 실패는 반복된다.

이번 6·3 지방선거에서 AI 리터러시를 묻는다는 것은, 후보에게 추가 능력을 요구하는 일이 아니다. 기본 책임을 확인하는 절차다. 예산을 집행하고, 정책을 선택하며, 실패의 책임을 지는 위치에 있다면 그 판단의 언어를 이해해야 한다. 선출직이라는 이유로 이 최소 조건에서 예외가 될 수는 없다.

유권자가 던져야 할 질문은 분명하다. AI가 개입한 결정에서, 무엇을 질문하겠는가. 분석 결과를 그대로 따르지 않을 기준은 무엇인가. 오류가 발생했을 때, 어디까지 책임질 준비가 돼 있는가. 이 질문에 답하지 못한다면, 그 후보는 아직 준비되지 않았다. AI를 모르는 것이 문제가 아니라, 모르면서도 통제하려는 태도가 문제다. 무지는 중립이 아니다. 위험이다.

아주경제가 말하는 ‘AI 선수’는 기술을 숭배하는 사람이 아니다. 이해를 회피하지 않는 사람이다. 배우는 것을 미루지 않는 사람이다. 그리고 그 이해를 책임의 언어로 바꿀 수 있는 리더다.

AI 시대의 지방정부는 더 많은 혁신을 약속해야 한다. 동시에 더 강한 통제를 준비해야 한다. 그 두 가지를 동시에 가능하게 하는 조건은 하나다. 이해다.
6·3 지방선거, 이제는 이렇게 물어야 한다.
“이 후보는 AI를 쓰겠다는 사람이 아니라, AI를 이해하고 책임질 준비가 된 사람인가.”
AI 선수를 뽑는다는 것은, 바로 그 이해의 기준을 선택하는 일이다.

 

[그래픽=지피티]