AI 보안, 공공·민간 분절된 규제…ISMS-P 기반 통합 보안 기준 필요

핵심 요약

- 2026년 9월 17일 CSK 2026 컨퍼런스에서 공공·민간 AI 보안 체계 분절 문제 제기 - 공공은 정보보호산업법, 민간은 ISMS-P 준수로 이원화돼 통합 대응 한계 노출 - 전문가들은 AI 시대 대응을 위한 공통 보안 기준과 ISMS-P 고도화 필요성 강조

주요 내용

2026년 9월 17일 개최된 'CSK 2026' 컨퍼런스의 'AX 시대, 필요한 국가 AI 보안 전략' 세션에서 김창훈 대구대 교수, 최영철 전문가 등이 참석해 현재 AI 보안 체계의 구조적 문제점을 지적했다. 세션에서는 AI 기반 사이버 공격이 빠르게 진화하는 반면, 국내 보안 방어 체계는 공공과 민간으로 분절돼 효과적 대응이 어렵다는 점이 집중 논의됐다.

현재 공공부문은 정보보호산업법 및 관련 지침을 따르고 있으며, 민간 기업은 정보보호 및 개인정보보호 관리체계(ISMS-P) 인증을 기준으로 보안 체계를 구축하고 있다. 각 체계는 적용 대상과 세부 요구사항이 상이해 AI 서비스가 공공·민간 영역을 넘나들 때 일관된 보안 수준 보장이 어려운 상황이다.

전문가들은 AI 모델 학습 데이터의 개인정보 포함 여부, AI 의사결정 과정의 투명성, AI 시스템 접근통제 등 새로운 보안 이슈에 대해 공통된 기준이 부재하다고 지적했다. 특히 생성형 AI 서비스가 급증하면서 프롬프트 인젝션, 모델 중독 공격 등 신종 위협에 대한 체계적 대응 방안이 시급하다는 의견이 제시됐다.

세션 참가자들은 ISMS-P를 기반으로 AI 특화 보안 항목을 추가하고, 공공부문 보안 기준과의 정합성을 높이는 방향으로 국가 차원의 통합 AI 보안 프레임워크를 마련해야 한다고 제안했다. 이를 통해 AI 공급망 전반의 보안 수준을 상향 평준화할 필요가 있다는 점을 강조했다.

전문가 시각

ISMS-P 선임심사원으로서 현장에서 목격하는 가장 큰 문제는 AI 서비스를 제공하는 기업들이 기존 인증 기준만으로는 AI 특유의 보안 위험을 충분히 관리하지 못한다는 점이다. 현행 ISMS-P 인증기준은 2018년 통합 고시 이후 일부 개정이 있었으나, AI 모델 거버넌스, 학습 데이터 생애주기 보호, 알고리즘 편향성 관리 등 AI 특화 항목이 명시적으로 규정되어 있지 않아 심사 시 해석의 여지가 크다. 기업들은 개인정보 영향평가(PIA) 수행 시 AI 의사결정 프로세스를 어디까지 포함해야 하는지, AI 학습용 데이터셋의 익명화 수준은 어느 정도여야 하는지 등에서 혼란을 겪고 있다.

따라서 기업은 당장 ISMS-P 인증 유지를 위해 기존 통제 항목(접근통제, 암호화, 로그 관리 등)을 AI 시스템에도 동일하게 적용하되, AI 특화 위험은 별도의 보안 정책으로 보완해야 한다. 특히 EU AI Act, NIST AI Risk Management Framework 등 국제 기준을 선제적으로 검토해 ISMS-P 요구사항과 매핑하는 작업이 필요하다. 향후 ISMS-P 고시 개정 시 AI 관련 통제 항목이 추가될 가능성이 높으므로, 지금부터 AI 거버넌스 체계를 문서화하고 증적을 확보해두는 것이 재인증 대응에 유리하다.

ISMS-P 심사원 체크포인트

1. 2.8.2 개인정보 영향평가 (개인정보보호법 제33조)
AI 서비스가 100만 명 이상의 정보주체에게 영향을 미치거나 민감정보·고유식별정보를 처리하는 경우 개인정보 영향평가 대상이 된다. 심사 시에는 AI 학습 데이터 수집·처리 과정이 영향평가에 포함되어 있는지, AI 의사결정이 정보주체 권리에 미치는 영향이 분석되었는지, 자동화된 프로파일링에 대한 정보주체 고지 및 거부권 보장 방안이 수립되었는지를 중점 점검한다. AI 모델 재학습 주기와 영향평가 갱신 주기의 정합성도 확인 대상이다.

2. 2.5.2 접근권한 관리 및 2.6.1 암호화 적용
AI 학습 데이터셋과 모델 파라미터는 핵심 지적재산이자 개인정보 집합체다. 심사 시 AI 개발·운영 인력에 대한 최소권한 원칙 적용 여부, 학습 데이터 저장소 접근 로그 기록 및 모니터링 체계, 민감 학습 데이터의 암호화(저장·전송 시) 적용 수준을 점검한다. 특히 클라우드 기반 AI 플랫폼 사용 시 키 관리 체계(KMS), 데이터 주권 확보 방안, 제3자 제공 시 안전성 확보조치(개인정보보호법 제29조) 이행 여부가 핵심 심사 포인트다.

3. 2.9.3 개인정보 처리방침 수립·공개 (개인정보보호법 제30조)
생성형 AI 서비스의 경우 이용자 입력 프롬프트가 개인정보에 해당할 수 있으며, AI 출력 결과에 제3자 개인정보가 포함될 위험이 있다. 심사 시 개인정보 처리방침에 AI 활용 목적, 학습 데이터 출처 및 범위, 자동화 의사결정 존재 여부, AI 서비스 관련 개인정보 보유·이용 기간, 정보주체 권리 행사 방법이 명확히 공개되었는지 확인한다. ISMS-P 인증 심사에서는 실제 서비스와 처리방침 간 불일치 사례가 자주 발견되므로, AI 기능 업데이트 시 처리방침 동기화 프로세스 수립 여부도 점검 대상이다.

CPPG·ISMS-P 연계 포인트

1. 가명정보와 익명정보 구분 (개인정보보호법 제2조, 제28조의2)
AI 학습용 데이터셋 구축 시 가명처리와 익명처리 개념을 정확히 구분해야 한다. 가명정보는 추가 정보 없이는 특정 개인을 알아볼 수 없으나 결합을 통한 재식별 가능성이 남아있어 통계작성·연구 등 법정 목적 내에서만 활용 가능하며, 안전성 확보조치 의무가 적용된다. 반면 익명정보는 개인정보보호법 적용 대상에서 제외되나, 법원 판례(2023년 대법원 판결 등)는 완전한 익명화 입증 책임을 데이터 처리자에게 부여하고 있어 AI 학습 데이터를 익명정보로 주장하려면 k-익명성, l-다양성 등 기술적 기준 충족과 재식별 위험 평가 문서화가 필수다.

2. 제3자 제공과 위탁의 구분 (개인정보보호법 제17조, 제26조)
AI 서비스 제공 시 외부 클라우드 AI 플랫폼(AWS SageMaker, Azure OpenAI 등)을 활용하는 경우, 이것이 '위탁'인지 '제3자 제공'인지 법적 성격을 명확히 해야 한다. 위탁은 처리 업무의 일부를 외부에 맡기는 것으로 정보주체 동의 없이 가능하나 위탁 고지 및 수탁자 관리·감독 의무(개인정보보호법 제26조)가 발생한다. 제3자 제공은 원칙적으로 정보주체 동의가 필요하다(제17조). ISMS-P 심사에서는 AI 플랫폼 이용 약관, 데이터 처리 범위, 재위탁 여부 등을 종합 검토해 법적 성격을 판단하며, 잘못 분류 시 법 위반으로 지적된다.