속보
●개보위, 개인정보 보호 우수기업 신청 접수 시작●NVD, CVSS 4.0 전환 완료 — 기존 CVSS 3.x 병행 표기 종료●EU AI Act 고위험 AI 분류기준 변경 예고 — 국내 영향 분석●BCP·DR 인증 의무화 논의 가속 — 금융·의료 분야 선적용 전망●개보위, 개인정보 보호 우수기업 신청 접수 시작●NVD, CVSS 4.0 전환 완료 — 기존 CVSS 3.x 병행 표기 종료●EU AI Act 고위험 AI 분류기준 변경 예고 — 국내 영향 분석●BCP·DR 인증 의무화 논의 가속 — 금융·의료 분야 선적용 전망
인공지능AI 초안

예측치안 AI·프로파일링 금지 규제 부재…EU AI법 대비 한국 AI기본법 격차 분석

EU AI Act는 예측치안·생체인식 등 고위험 AI를 금지하지만, 한국 AI기본법은 구체적 금지 규정 없어. 청소년 딥페이크·챗봇 의존 피해 증가 속 AI 거버넌스 공백 우려.

백남정 기자
입력 2026년 11월 8일·원문 보기 ↗
단축URLhttps://privacynews.kr/s/39448024
예측치안 AI·프로파일링 금지 규제 부재…EU AI법 대비 한국 AI기본법 격차 분석

핵심 요약

- EU AI Act는 예측치안·실시간 생체인식 등 '용납불가 위험 AI' 금지 규정 시행 중이나, 한국 AI기본법(2024년 제정)은 구체적 금지 조항 미비 - 프로파일링 기반 예측치안 AI는 물적 증거 없이 개인정보만으로 범죄 예측, 무죄추정 원칙 및 개인정보자기결정권 침해 우려 - 청소년 딥페이크 성범죄·AI 챗봇 의존 피해 급증 속 AI 윤리 교육 및 법적 안전장치 강화 필요

주요 내용

2026년 현재, 유럽연합(EU)의 AI Act가 본격 시행되며 '용납불가 위험 AI(Unacceptable Risk AI)' 금지 조항이 전 세계 AI 거버넌스의 기준점으로 작동하고 있다. 특히 예측치안(Predictive Policing) AI는 구체적 범죄 행위나 물적 증거 없이 개인의 거주지역, 교우관계, 소비패턴 등 프로파일링 정보만으로 미래 범죄 가능성을 예측한다. EU는 이를 무죄추정 원칙 위배 및 차별적 처우 유발 기술로 규정, 공공장소 실시간 생체인식과 함께 원천적으로 금지했다.

반면 한국의 AI기본법(2024년 12월 제정)은 AI 신뢰성 확보, 영향평가 제도 등 원칙적 규정은 마련했으나, 특정 AI 활용을 명시적으로 금지하는 조항은 부재하다. 개인정보보호법 제15조(수집·이용 제한), 제17조(개인정보 제공 제한)가 간접 규율 수단이나, 공공안전 목적의 예외 조항(제58조)으로 인해 예측치안 AI 도입 시 법적 공백이 발생할 수 있다. 실제로 일부 지방자치단체가 2025년부터 범죄 예측 플랫폼 도입을 검토하면서 시민단체의 반발을 받은 바 있다.

대구하이텍고 권태형 전문상담교사는 청소년 대상 AI 피해 사례로 딥페이크 성범죄와 AI 챗봇 의존 문제를 지적했다. 생성형 AI가 10대 사이에서 일상화되면서 비동의 얼굴 합성물 제작, 감정적 의존에 따른 현실 관계 단절 등 새로운 유형의 피해가 급증하고 있다. 2026년 상반기 교육부 통계에 따르면 AI 관련 학교폭력 신고는 전년 대비 340% 증가했으나, 기존 학교폭력예방법과 청소년보호법으로는 AI 특수성을 반영한 대응이 어려운 실정이다.

AI 거버넌스 공백은 단순히 규제 부재의 문제가 아니라, 기본권 보호 체계의 구조적 한계를 드러낸다. 프로파일링 기반 의사결정은 개인정보보호법 제37조(자동화 결정 거부권)로 일부 보호되나, 공공안전·범죄 예방 목적일 경우 실효성이 떨어진다. EU GDPR 제22조와 AI Act 제13조는 고위험 AI 시스템에 인간 개입 의무(human oversight)를 부과하지만, 한국법은 이에 상응하는 명확한 기준이 없다.

전문가 시각

ISMS-P 선임심사원 관점에서 예측치안 AI는 개인정보 처리 전 단계에서 통제점(Control Point) 설계가 필수적이다. 개인정보보호법 제3조(개인정보 보호 원칙)의 목적 명확성, 최소수집, 정확성 원칙을 AI 학습 데이터 단계부터 적용해야 하며, 특히 민감정보(인종·사상·범죄경력 등)가 프록시 변수(proxy variable)로 우회 활용되는지 데이터 계보(lineage) 추적이 필요하다. AI기본법 제33조 AI영향평가 수행 시 ① 편향성 검증 ② 설명가능성 확보 ③ 이의제기 절차 마련을 핵심 항목으로 포함해야 한다.

청소년 AI 교육 현장에서는 기술 활용 능력뿐 아니라 '디지털 윤리 리터러시' 강화가 시급하다. 디지털새싹·사이버가디언즈 등 정부 교육 프로그램에 ① 생성형 AI의 편향성 이해 ② 딥페이크 판별 실습 ③ AI 챗봇과의 건강한 관계 설정 등을 필수 모듈로 편성해야 한다. ChatGPT 등 LLM 도구를 코딩 교육에 활용할 때는 AI가 생성한 코드의 보안 취약점(SQL Injection, XSS 등) 검증 과정을 반드시 포함시켜, '바이브 코딩' 의존도를 낮추고 비판적 사고를 함양해야 한다.

CPPG·ISMS-P 연계 포인트

자동화된 개인정보 처리 거부권 (개인정보보호법 제37조의2)
프로파일링, 자동화 평가 등을 통한 처리에 대해 정보주체가 거부할 권리. 예측치안 AI는 전형적인 자동화 처리 사례로, 처리자는 사전 고지 및 거부권 행사 수단 제공 의무가 있음. ISMS-P 인증 시 2.8.3(개인정보 처리 제한) 통제 항목으로 점검.

AI 시스템 위험 관리 체계 (AI기본법 제33조)
고위험 AI는 개발·운영 전 영향평가 의무 부과. 평가 항목은 ① 기본권 침해 가능성 ② 알고리즘 편향성 ③ 설명가능성 ④ 안전성·견고성 등. ISMS-P 2.10(개인정보 영향평가) 프로세스와 통합 운영 시 중복 평가 부담 경감 및 실효성 제고 가능.

#AI기본법#예측치안#EU AI Act#금지AI#AI거버넌스
백
백남정 기자

공학박사 ·ISMS-P 선임심사원(30회) · CBPR 심사원· 숭실대 기업재난관리학과 석사 · 재해경감 인증심사원 · 개인정보보호 및 재해복구 전문 컨설턴트. LH공사 재해경감우수기업 인증심사 수행. 마이데이터 심사원(개인정보 지정기관 심사원)

개인정보보호뉴스 구독하기구글에서 팔로우

관련 기사

📌 함께 읽으면 좋은 기사