용인시의회, 생성형 AI 행정 도입 추진…개인정보보호·보안 점검 필수

핵심 요약

- 용인특례시의회, 8개 정책연구단체 승인하며 생성형 AI 행정 활용 모델 발굴 착수 - 행정자료 분석, 민원 분류, 조례·예산 검토 등 업무 효율화 기대 - 개인정보 보호, AI 생성 자료의 정확성, 법적 책임 소재 등 해결 과제 산적

주요 내용

용인특례시의회가 2026년 8월 생성형 AI를 행정 및 의정활동에 본격 도입하기 위한 정책 연구에 착수했다. 8개 정책연구단체 승인을 통해 방대한 행정자료 분석, 민원 자동 분류, 조례 및 예산안 검토 등에 AI를 활용하는 모델을 개발할 계획이다.

생성형 AI는 대량의 문서를 신속하게 분석하고 패턴을 파악하는 능력이 뛰어나 행정 효율성을 크게 높일 수 있다. 특히 반복적인 민원 분류 작업이나 과거 조례 사례 검토 등에서 공무원의 업무 부담을 경감시킬 것으로 기대된다. 일부 지자체에서는 이미 챗봇 형태의 AI 민원 상담 서비스를 시범 운영 중이다.

그러나 용인시의회는 개인정보 보호, 자료의 정확성, 책임 소재 등 세 가지 핵심 과제를 명확히 인식하고 있다. 행정자료에는 주민등록정보, 민원인 개인정보 등 민감정보가 다수 포함되어 있어 AI 학습 및 처리 과정에서 개인정보 유출 위험이 존재한다. 또한 AI가 생성한 조례안이나 예산 분석 결과에 오류(할루시네이션)가 포함될 경우 잘못된 정책 결정으로 이어질 수 있으며, 이에 대한 법적 책임 소재가 불분명하다는 문제도 있다.

2026년 현재 AI기본법 시행과 함께 공공기관의 AI 활용에 대한 투명성과 책임성 요구가 높아지고 있는 상황에서, 용인시의회의 이번 정책연구는 지방자치단체 AI 거버넌스 모델로서 중요한 선례가 될 전망이다.

전문가 시각

ISMS-P 선임심사원 관점에서 용인시의회의 생성형 AI 도입은 반드시 사전 개인정보 영향평가(PIA)를 수반해야 한다. 특히 민원 분류 과정에서 AI가 주민등록번호, 연락처 등 개인식별정보에 접근하게 되므로, 데이터 최소화 원칙에 따라 비식별화·가명처리 후 활용하는 기술적 조치가 필수적이다. 또한 AI 학습에 사용되는 데이터셋의 저장·전송·폐기 전 과정에서 암호화 및 접근통제가 이루어져야 하며, 클라우드 기반 AI 서비스 이용 시 데이터의 국외 이전 여부를 반드시 확인해야 한다.

AI가 생성한 조례안이나 예산 분석 결과는 '사람에 의한 최종 검토(Human-in-the-Loop)' 원칙을 적용해야 한다. 생성형 AI는 할루시네이션(사실과 다른 정보 생성) 문제가 있으므로, AI 출력물을 그대로 사용하지 않고 전문가가 반드시 검증하는 프로세스를 마련해야 한다. 또한 AI 의사결정 과정의 투명성 확보를 위해 어떤 데이터를 기반으로 어떤 논리로 결과를 도출했는지 설명 가능성(Explainability)을 갖춘 AI 모델을 선택하고, AI 활용 기록을 최소 3년 이상 보관하여 사후 감사 시 책임 추적성을 확보해야 한다.

CPPG·ISMS-P 연계 포인트

개인정보 영향평가(PIA): 공공기관이 개인정보를 활용하는 새로운 정보시스템을 도입할 때 수행하는 사전 평가 제도로, 개인정보 수집·이용·제공 등 처리 단계별 위험요인을 분석하고 개선 방안을 마련하는 절차. 생성형 AI 시스템은 대량의 개인정보를 학습 데이터로 활용할 가능성이 높아 PIA 대상이 될 수 있다.

AI 의사결정의 설명 가능성(Explainability): AI 시스템이 특정 결과를 도출한 논리와 근거를 사람이 이해할 수 있도록 설명하는 능력. ISMS-P 인증 기준에서는 자동화된 의사결정 시스템의 투명성과 검증 가능성을 요구하며, 특히 개인정보 처리에 AI를 활용할 경우 정보주체에게 처리 논리를 설명할 의무가 있다.