고양시의회 AI 민원창구 도입, 개인정보보호와 AI 오류 책임 과제 남아

핵심 요약

- 고양시의회가 생활민원 처리를 위한 AI 기반 통합창구 시스템 도입을 검토 중 - 기존 민원 시스템과의 연계, 우선 적용 업무 선정이 실무적 과제로 제기됨 - 개인정보 보호 체계 수립 및 AI 오류 발생 시 책임 소재 명확화가 핵심 과제로 남음

주요 내용

고양시의회가 2026년 AI 기반 민원 통합창구 시스템 도입을 추진하고 있다. 이 시스템은 민원인이 "어느 부서에 민원을 넣어야 하는지" 모를 때 AI가 자동으로 적절한 담당 부서를 찾아주는 방식으로 설계되고 있다. 생활민원의 복잡성과 부서 간 업무 분장의 불명확함으로 인해 시민들이 겪는 불편을 AI 기술로 해소하겠다는 취지다.

그러나 실제 사업 추진을 위해서는 몇 가지 핵심 과제가 남아 있다. 우선 생활민원 중 어떤 유형의 업무를 우선 대상으로 삼을지 선정해야 하며, 기존에 운영 중인 민원 관리 시스템과의 기술적·절차적 연계 방안을 마련해야 한다. 특히 기존 시스템에 축적된 민원 데이터를 AI 학습에 활용할 경우 개인정보 처리 법적 근거와 보호 방안이 필수적으로 수반되어야 한다.

가장 중요한 과제는 개인정보 보호 체계 구축과 AI 오류 발생 시 책임 소재 명확화다. 민원 내용에는 성명, 주소, 연락처 등 개인식별정보뿐 아니라 민원 사유에 따라 민감정보가 포함될 수 있어, AI 시스템이 이를 처리·분석하는 과정에서 개인정보보호법상 안전조치 의무를 준수해야 한다. 또한 AI가 잘못된 부서를 안내하거나 민원 내용을 오분류할 경우 발생하는 민원 처리 지연, 개인정보 오전송 등의 책임을 누가 어떻게 질 것인지에 대한 명확한 거버넌스 체계가 필요하다.

이번 고양시의회 사례는 공공부문에서 AI 도입 시 기술적 구현뿐 아니라 법적·제도적 기반 마련이 선행되어야 함을 보여주는 전형적 사례다. AI기본법 제정 논의가 진행 중인 2026년 현재, 공공기관의 AI 활용은 투명성, 책임성, 안전성 확보가 더욱 강조되고 있는 상황이다.

전문가 시각

공공 민원 시스템에 AI를 도입할 때는 반드시 '개인정보 영향평가(PIA)'를 선행해야 한다. 민원 데이터를 AI 학습에 활용하려면 개인정보보호법 제28조의2(가명정보 처리 특례) 적용 가능성을 검토하거나, 제15조(개인정보의 수집·이용)에 따른 법적 근거를 명확히 해야 한다. 특히 AI 모델이 민원 내용을 분석하는 과정에서 개인정보가 외부 클라우드나 API로 전송될 경우, 제3자 제공 및 국외 이전에 관한 법적 요건도 충족해야 한다. ISMS-P 인증을 받은 기관이라면 2.8.2(개인정보 처리 단계별 보호조치)와 2.9.1(개인정보 영향평가) 요구사항을 AI 시스템 도입 시에도 동일하게 적용해야 한다.

AI 오류 책임 문제는 알고리즘 거버넌스 관점에서 접근해야 한다. AI가 민원을 잘못 분류하여 개인정보가 무관한 부서로 전달되거나, 민원 처리가 지연되는 경우 이는 단순한 기술 오류가 아니라 개인정보 목적 외 이용(제18조 위반) 또는 안전조치 의무 위반(제29조)으로 해석될 수 있다. 따라서 AI 시스템 도입 전 ① AI 판단 결과에 대한 인간 검토(human-in-the-loop) 절차 ② AI 오분류 발생 시 즉각 수정 및 통지 체계 ③ 책임 소재를 명시한 AI 운영 규정을 마련해야 한다. 특히 공공기관은 행정절차법상 처분 사전통지, 이유 제시 의무가 있으므로 AI 자동화 결정에 대한 설명 가능성(explainability) 확보가 필수적이다.

CPPG·ISMS-P 연계 포인트

개인정보 영향평가(PIA) 의무
개인정보보호법 제33조에 따라 공공기관이 민원정보를 활용한 AI 시스템을 구축할 경우, 개인정보 침해 위험성이 높은 처리로 판단되어 개인정보 영향평가를 수행해야 한다. ISMS-P 인증기준 2.9.1항은 개인정보 영향평가 절차 수립 및 이행을 요구하며, 특히 신기술 도입 시 사전 평가가 필수다.

자동화 결정의 설명 요구권
개인정보보호법 제37조의2(자동화 결정에 대한 정보주체 권리)는 개인정보처리자가 자동화된 결정만으로 개인에게 법률적 효과를 미치거나 중요한 영향을 미치는 경우, 정보주체가 그 거부·설명 요구·이의제기 등을 할 수 있도록 규정한다. AI 민원창구의 부서 배정이 민원 처리 결과에 영향을 미치므로 이 조항 적용을 검토해야 한다.