공공기관 AI 행정 법제화…개인정보 보호·투명성 확보는 과제로

핵심 요약

- 국회입법조사처, AI·데이터 기반 행정서비스 법제화 과정에서 개인정보 보호·편향성·투명성 고려 조항 필요성 강조 - 공공기관 AI 의사결정 도입 시 책임 소재와 알고리즘 투명성 확보가 핵심 과제로 부상 - 법적 기반 마련만으로는 실질적 AI 거버넌스 구현 한계, 사후 관리·감독 체계 구축 시급

주요 내용

국회입법조사처가 2026년 8월 발간한 '이슈와 논점' 보고서에서 AI·데이터 기반 행정서비스 실현을 위한 법적 기반 마련과 함께 개인정보 보호, AI·데이터의 편향성, 의사결정의 투명성 등을 반드시 고려해야 한다고 지적했다. 공공기관의 AI 활용이 급증하는 상황에서 기술 도입의 효율성만큼이나 국민의 기본권 보호와 책임성 확보가 중요하다는 것이다.

현재 정부는 복지 급여 결정, 민원 처리, 정책 분석 등 다양한 행정 영역에서 AI 시스템을 도입하고 있다. 그러나 AI가 내린 결정에 오류나 편향이 발생할 경우 책임 소재가 불분명하고, 의사결정 과정이 블랙박스화되어 국민의 알 권리와 이의제기 권리가 침해될 우려가 크다. 특히 민감한 개인정보를 기반으로 한 AI 분석은 정보주체의 동의 없이 프로파일링이 이루어질 위험이 있어 개인정보보호법상 쟁점이 될 수 있다.

입법조사처는 법적 기반 마련만으로는 실질적인 AI 거버넌스를 구현하기 어렵다고 진단했다. AI 시스템의 개발·운영·평가 전 과정에서 개인정보 영향평가(PIA)를 의무화하고, 알고리즘의 편향성을 정기적으로 점검하며, 의사결정 과정을 설명할 수 있는 XAI(eXplainable AI) 기술 도입이 필요하다는 것이다.

AI 기본법 제정 논의가 본격화되고 있는 2026년 현재, 공공 부문의 AI 활용은 민간보다 더 높은 수준의 투명성과 책임성을 요구받는다. 행정 결정이 국민의 권리·의무에 직접적 영향을 미치기 때문이다. 이에 따라 AI 행정 결정에 대한 설명 요구권, 이의제기 절차, 인간 개입 보장 등 구체적인 권리 보호 장치를 법제화하는 것이 시급한 과제로 떠올랐다.

전문가 시각

ISMS-P 심사 현장에서 공공기관의 AI 시스템을 평가할 때 가장 큰 난제는 '알고리즘 의사결정의 추적 가능성'이다. 많은 기관이 AI 도입 효과는 강조하지만, 정작 해당 AI가 어떤 데이터로 학습했는지, 개인정보를 어떻게 처리하는지, 오류 발생 시 누가 책임지는지에 대한 문서화가 미흡하다. 특히 외부 솔루션을 도입한 경우 공급사와의 책임 분계가 불명확해 개인정보 침해사고 발생 시 대응 체계가 부재한 경우가 많다.

공공기관은 AI 시스템 도입 전 반드시 개인정보 영향평가를 수행하고, AI 모델의 학습 데이터에 포함된 개인정보의 수집·이용·제공 근거를 명확히 해야 한다. 또한 AI 의사결정 로그를 3년 이상 보관하고, 정보주체가 자동화된 결정에 대해 이의를 제기할 수 있는 창구를 마련해야 한다. AI 거버넌스는 기술 도입이 아닌 '책임 있는 AI 운영 체계 구축'부터 시작되어야 한다.

CPPG·ISMS-P 연계 포인트

자동화된 결정 및 프로파일링 (개인정보보호법 제37조의2)
정보통신서비스 제공자등은 개인정보처리자가 완전히 자동화된 시스템으로 개인정보를 처리하여 정보주체의 권리·의무에 영향을 미치는 결정을 할 경우, 정보주체는 해당 결정을 거부하거나 설명을 요구할 권리가 있다. 공공 AI 시스템은 이 조항의 핵심 적용 대상이다.

AI 시스템 위험 관리 (ISMS-P 인증기준 2.9.5 신기술 보안)
AI·빅데이터 등 신기술 도입 시 개인정보 침해 위험을 사전에 식별·평가하고, 기술적·관리적 보호대책을 수립해야 한다. AI 모델 학습 데이터의 비식별 조치, 알고리즘 편향성 점검, 의사결정 로그 관리가 심사 핵심 항목이다.