공공 AI 영향평가 의무화…행정결정 이의제기 절차와 투명성 확보 과제

핵심 요약

- 공공분야 AI 서비스 도입 전 '공공분야 AI 영향평가' 실시 의무화, 국민 기본권 침해 여부 사전 점검 - AI 행정결정에 대한 투명성 확보, 데이터 편향성 점검, 개인정보 보호 고려 등 윤리기준 마련 필수 - AI가 내린 행정결정에 대한 국민의 이의제기 절차 및 구제 메커니즘 구축이 시급한 과제로 대두

주요 내용

2026년 8월 현재, 공공분야에서 AI 기술을 활용한 행정서비스가 확대되면서 국민의 기본권 보호를 위한 제도적 안전장치 마련이 본격화되고 있다. 정부는 AI 서비스를 도입하기 전 '공공분야 AI 영향평가'를 실시하도록 의무화하며, 개인정보 보호와 AI·데이터의 편향성, 의사결정의 투명성 등을 종합적으로 검토하도록 했다.

특히 복지급여 결정, 인허가 심사, 민원 처리 등 국민의 권리와 직결된 행정 영역에서 AI가 활용될 경우, 알고리즘의 판단 근거가 불투명하거나 학습 데이터의 편향으로 인한 차별적 결정이 발생할 우려가 크다. 이에 따라 AI 활용 윤리기준 마련과 함께 AI 의사결정 과정의 설명가능성(Explainability) 확보가 핵심 요구사항으로 제시되고 있다.

그러나 실무적으로 가장 큰 과제는 AI가 내린 행정결정에 대해 국민이 이의를 제기할 수 있는 구체적 절차와 권리 구제 방안이다. 전통적인 행정심판·소송 체계만으로는 블랙박스화된 AI 알고리즘의 판단을 효과적으로 다투기 어렵기 때문에, AI 결정에 대한 설명 요구권, 인간 개입 요청권, 대안적 심사 절차 등 새로운 권리 보장 체계가 필요하다는 지적이다.

공공기관들은 AI 영향평가를 통해 ▲개인정보 처리의 적법성 ▲데이터셋의 대표성과 편향성 ▲알고리즘 의사결정의 공정성 ▲자동화된 결정에 대한 이의제기 채널 구축 ▲AI 시스템 운영 과정의 모니터링 체계 등을 사전에 점검해야 한다. 또한 AI 기반 행정결정에는 반드시 담당 공무원의 검토 단계를 포함시켜 최종 책임 소재를 명확히 하는 것이 권장된다.

전문가 시각

ISMS-P 선임심사원 관점에서 공공 AI 영향평가는 기존 개인정보 영향평가(PIA)의 확장된 개념으로 이해해야 한다. AI 시스템은 단순히 개인정보를 처리하는 것을 넘어 자동화된 의사결정(Automated Decision Making)을 수행하므로, GDPR 제22조에서 규정하는 '프로파일링을 포함한 자동화된 개별 의사결정'에 대한 정보주체의 거부권, 인간 개입 요구권과 같은 보호장치가 필요하다. 특히 공공분야에서는 AI 결정이 법적 효력을 갖는 행정처분으로 작용할 수 있으므로, 알고리즘 투명성과 설명가능성 확보가 적법절차(Due Process) 보장의 핵심이다.

실무적으로 공공기관은 AI 시스템 도입 시 ▲학습데이터 출처 및 편향성 검증 문서화 ▲알고리즘 로직 및 가중치 설정 근거 기록 ▲AI 결정에 대한 이의제기 접수·처리 절차 수립 ▲정기적 모델 성능 및 공정성 모니터링 체계 구축 등을 ISMS-P 관리체계에 통합해야 한다. 또한 AI 영향평가 결과를 개인정보 처리방침과 연계하여 국민에게 공개함으로써 신뢰성을 확보하는 것이 중요하다. 바이브 코딩 방식으로 급하게 개발된 AI 행정 시스템의 경우, 자동 생성된 코드에서 접근제어 미비, 입력값 검증 누락, 로깅 불충분 등의 보안 취약점이 발견될 수 있으므로 전문가의 코드 리뷰와 보안성 검토가 반드시 선행되어야 한다.

CPPG·ISMS-P 연계 포인트

1. 개인정보 영향평가(PIA)와 AI 영향평가의 통합적 이해
CPPG에서 다루는 개인정보 영향평가는 개인정보를 대량 처리하거나 민감정보를 처리하는 시스템 구축 시 의무화되며, AI 영향평가는 여기에 알고리즘 공정성, 자동화 의사결정의 투명성, 편향성 검증 등의 요소가 추가된 확장 개념이다. 두 평가 모두 사전예방적 프라이버시 보호 원칙(Privacy by Design)을 구현하는 핵심 수단이다.

2. 자동화된 개별 의사결정에 대한 정보주체 권리
ISMS-P 인증기준 중 '개인정보 처리 단계별 보호조치'에서는 정보주체의 권리 보장을 요구하는데, AI 기반 자동화 의사결정 환경에서는 ▲결정 논리에 대한 설명 요구권 ▲인간 개입 요청권 ▲이의제기 및 재심사 요구권이 추가로 보장되어야 한다. 이는 EU GDPR 및 국내 AI 거버넌스 논의에서 강조되는 핵심 권리이다.