공공기관 AI 개인정보보호, 기술보다 거버넌스가 먼저다 - ISMS-P 관점

핵심 요약

- AI는 개인정보 보호 수준 향상에 기여하지만, 기술 도입 전 거버넌스 체계 구축이 선행되어야 함 - 공공기관의 AI 활용 시 책임성·투명성·공정성 확보를 위한 조직적·관리적 통제 체계가 핵심 - 2024년 제정된 AI기본법 시행 상황에서 ISMS-P 인증 기준과 연계한 실무 대응 방안 필요

주요 내용

AI 기술은 개인정보 보호 수준을 높이는 데 중요한 역할을 할 수 있다. AI는 방대한 로그와 개인정보 처리 이력을 실시간으로 분석해 이상행위를 탐지하고 잠재적 위험을 예측하는 데 효과적이며, 기존의 수작업 중심 모니터링보다 훨씬 정교한 보호 체계를 구축할 수 있다. 그러나 2026년 현재 공공기관의 AI 도입 현장을 살펴보면, 기술 우선주의에 따른 부작용이 적지 않게 관찰되고 있다.

특히 공공기관은 민간 기업과 달리 공공성·투명성·책임성이라는 특수한 요구사항을 충족해야 한다. AI 시스템이 개인정보를 처리하는 과정에서 발생할 수 있는 편향, 오류, 불투명한 의사결정은 국민의 기본권을 침해할 수 있는 중대한 위험 요소다. 이러한 위험을 통제하기 위해서는 기술 도입 이전에 명확한 거버넌스 체계가 수립되어야 한다.

2024년 제정된 AI기본법은 고위험 AI 시스템에 대한 위험 관리 체계, 사전 영향평가, 사후 모니터링 등을 요구하고 있다. 공공기관이 개인정보를 처리하는 AI 시스템을 도입할 때는 개인정보보호법과 AI기본법의 교차 지점을 정확히 이해하고, 두 법령의 요구사항을 모두 충족하는 통합 거버넌스를 구축해야 한다. 이는 단순히 기술 솔루션을 도입하는 것이 아니라, 조직 내 역할과 책임을 명확히 하고, 의사결정 프로세스를 투명하게 설계하며, 지속적인 점검과 개선 체계를 마련하는 것을 의미한다.

최근 주목받는 'AI 보조 개발' 환경에서도 거버넌스의 중요성은 더욱 커지고 있다. ChatGPT 등 생성형 AI를 활용한 '바이브 코딩(Vibe Coding)' 방식이 확산되면서, 개발자들이 AI가 자동 생성한 코드를 충분한 검증 없이 사용하는 사례가 증가하고 있다. 이는 SQL 인젝션, 인증 우회, 경쟁조건(Race Condition) 등 보안 취약점을 내포한 코드가 공공 시스템에 포함될 위험을 높인다.

전문가 시각

ISMS-P 선임심사원으로서 현장 심사를 수행하면서 가장 우려되는 점은, 많은 공공기관이 AI 기술 도입을 '혁신'으로만 인식하고 이에 수반되는 개인정보보호 리스크를 과소평가한다는 것이다. 기술은 도구일 뿐이며, 그 도구를 누가, 어떤 목적으로, 어떤 통제 하에 사용하는지가 개인정보 보호의 핵심이다. 특히 AI 시스템은 '블랙박스' 특성으로 인해 사후 책임 소재를 밝히기 어렵다. 따라서 사전에 명확한 승인 절차, 영향평가, 모니터링 체계를 수립하는 거버넌스가 반드시 선행되어야 한다.

바이브 코딩 환경에서는 더욱 엄격한 코드 검증 체계가 필요하다. AI가 생성한 코드에는 개인정보를 평문으로 저장하거나, 접근 통제를 누락하거나, 입력값 검증을 생략하는 등의 취약점이 포함될 수 있다. 공공기관은 ① AI 생성 코드에 대한 보안 코드 리뷰 의무화 ② SAST/DAST 등 자동화된 취약점 점검 도구 활용 ③ 개발자 대상 AI 보조 개발 보안 교육 강화 ④ 코드 생성 시 프롬프트에 보안 요구사항 명시 등의 실무 대응 방안을 마련해야 한다. 이러한 기술적 통제 역시 '누가 책임지고 점검할 것인가'라는 거버넌스 관점에서 설계되어야 효과적이다.

CPPG·ISMS-P 연계 포인트

1. AI 시스템 개인정보 영향평가(PIA) ISMS-P 인증기준 3.3.2(개인정보 영향평가)는 개인정보를 처리하는 정보시스템 도입 시 사전 영향평가를 요구한다. AI 시스템은 자동화된 의사결정, 프로파일링, 대량 개인정보 처리 특성상 고위험으로 분류되므로, 도입 전 개인정보 처리 범위·목적·보호조치의 적정성을 평가하고 경영진 승인을 받아야 한다. AI기본법상 사전 영향평가와 통합 수행이 효율적이다.

2. 접근통제 및 로그 관리 체계 ISMS-P 인증기준 2.8.2(접근권한 관리)와 2.9.3(로그 및 접속기록 관리)는 개인정보 처리 시스템에 대한 접근통제와 이력 관리를 요구한다. AI 시스템이 개인정보에 접근할 때도 최소권한 원칙을 적용하고, AI 모델 학습·추론 과정에서 발생하는 개인정보 접근 로그를 6개월 이상 보관하며, 이상 징후를 탐지할 수 있는 모니터링 체계를 구축해야 한다.