평택시 민선9기 AI 행정 도입, 알고리즘 편향과 개인정보보호 점검 필수

핵심 요약

- 평택시 민선9기가 AI 기반 행정서비스 도입을 추진하면서 개인정보 보호와 알고리즘 편향 점검 필요성 대두 - AI 자동 결정이 시민 권리·지원 여부에 영향을 미치는 만큼 담당 공무원의 최종 판단 과정 필수 - 공공부문 AI 도입 시 투명성·설명가능성·책임성 확보를 위한 거버넌스 체계 구축 시급

주요 내용

평택시가 2026년 민선9기 공약 이행 과정에서 AI 기반 행정서비스 도입을 검토하면서, 개인정보 보호와 알고리즘 신뢰성 확보 문제가 중요한 과제로 부각되고 있다. 최원용 평택시장의 195개 공약 추진 과정에서 행정 효율화를 위한 AI 활용이 논의되고 있으나, 기술 도입 전 필수 안전장치 마련이 선행되어야 한다는 지적이 제기되고 있다.

특히 AI가 생성한 결과를 행정판단에 그대로 적용하는 것에 대한 우려가 커지고 있다. 복지 지원 대상자 선정, 민원 처리, 인허가 심사 등 시민의 권리에 직접적 영향을 미치는 영역에서 AI 자동 결정이 활용될 경우, 알고리즘의 오류나 편향이 특정 계층에 불리하게 작용할 가능성이 있기 때문이다.

공공기관의 AI 시스템은 민간 기업보다 더 엄격한 투명성과 설명가능성이 요구된다. 시민들은 자신에게 불리한 행정 결정이 내려졌을 때 그 근거를 알 권리가 있으며, AI가 어떤 데이터를 기반으로 어떤 논리로 판단했는지 설명받을 수 있어야 한다. 또한 AI 시스템이 처리하는 시민 개인정보의 수집·이용·보관 전 과정에서 개인정보보호법 준수가 필수적이다.

현재 행정안전부는 「공공부문 AI 윤리기준」을 마련했으나 법적 구속력이 없어 실효성에 한계가 있다. 2024년 AI기본법이 제정되었지만 구체적인 공공 AI 거버넌스 가이드라인은 여전히 미흡한 상황이다. 지방자치단체 차원에서 AI 도입 시 사전영향평가, 지속적 모니터링, 이의제기 절차 등을 제도화할 필요가 있다.

전문가 시각

공공부문 AI 도입에서 가장 중요한 원칙은 'Human-in-the-Loop'이다. AI가 아무리 정교한 분석 결과를 제시하더라도, 최종 행정 결정은 반드시 권한과 책임을 가진 공무원이 내려야 한다. 특히 복지 급여 삭감, 인허가 거부 등 시민에게 불이익을 주는 결정은 더욱 신중해야 한다. AI는 의사결정 '보조' 도구로만 활용하고, 담당자가 AI 추천 결과를 비판적으로 검토한 후 최종 판단을 내리는 프로세스를 명문화해야 한다.

개인정보보호 관점에서는 AI 학습 데이터의 익명화·가명처리, 접근권한 통제, 처리 로그 기록이 핵심이다. 평택시가 AI 행정서비스를 도입한다면 ISMS-P 인증 기준에 준하는 보안 체계를 구축해야 한다. 특히 AI 시스템 개발·운영 단계에서 개인정보 영향평가(PIA)를 실시하고, 시민이 자신의 개인정보가 AI에 어떻게 활용되는지 확인하고 처리 정지를 요구할 수 있는 통제권을 보장해야 한다. 알고리즘 편향 모니터링을 위해 성별·연령·지역별 AI 결정 결과를 정기적으로 분석하고 차별적 패턴이 발견되면 즉시 시스템을 조정하는 절차도 필요하다.

CPPG·ISMS-P 연계 포인트

개인정보 영향평가(PIA): 공공기관이 개인정보를 활용하는 새로운 정보시스템을 구축·운영하는 경우, 개인정보 침해 위험을 사전에 분석·평가하는 제도이다. AI 행정시스템 도입 시 개인정보보호법 제33조에 따라 PIA 수행이 의무화되며, 특히 대규모 시민 데이터를 자동 처리하는 경우 반드시 사전 평가를 거쳐야 한다.

자동화된 결정에 대한 정보주체 권리: 개인정보보호법 제37조의2는 정보주체가 자동화된 결정만으로 이루어진 처리에 대해 설명을 요구하고 이의를 제기할 수 있는 권리를 보장한다. 공공기관이 AI로 복지 지원, 인허가 등을 자동 결정할 경우, 시민은 결정 근거를 설명받고 담당 공무원의 재검토를 요청할 수 있는 절차가 마련되어야 한다.