UNIST, AI 삭제 데이터 복원 차단 '스포터' 기술 개발...머신러닝 언러닝 보안 강화

핵심 요약

- UNIST 연구팀이 AI에서 삭제된 정보의 재생성을 차단하는 '스포터(Spotter)' 기술을 개발해 ICML 2026에서 발표 - 머신러닝 언러닝(Machine Unlearning) 과정의 보안 취약점을 검증하는 새로운 방어 메커니즘 제시 - 개인정보 삭제권(Right to be Forgotten) 실효성 확보를 위한 기술적 돌파구로 평가

주요 내용

울산과학기술원(UNIST) 연구팀이 인공지능 모델에서 삭제한 개인정보가 다시 복원되는 것을 원천 차단하는 '스포터(Spotter)' 기술을 개발했다. 이 연구는 2026년 7월 개최된 국제머신러닝학회(ICML 2026)에서 발표되어 AI 개인정보보호 분야의 주목을 받고 있다.

머신러닝 언러닝은 이미 학습된 AI 모델에서 특정 데이터의 영향을 제거하는 기술로, GDPR과 개인정보보호법상 개인정보 삭제권 구현의 핵심 메커니즘이다. 그러나 기존 언러닝 기법은 표면적으로만 데이터를 제거할 뿐, 교묘한 프롬프트 조작이나 모델 파라미터 분석을 통해 삭제된 정보를 재생성할 수 있는 취약점이 존재했다. 특히 대규모 언어모델(LLM)의 경우 학습 데이터가 모델 가중치에 암묵적으로 인코딩되어 완전한 삭제가 기술적으로 어려운 상황이었다.

스포터 기술은 언러닝 프로세스의 완전성을 검증하는 일종의 '보안 감사 도구'로 작동한다. 삭제 요청된 데이터가 AI 모델 내부에서 실제로 복원 불가능한 상태인지를 다각도로 검증하며, 잔존 정보 패턴을 탐지해 추가 제거를 유도한다. 이는 단순히 모델 성능 변화만을 측정하던 기존 방식을 넘어, 정보이론적 관점에서 데이터 삭제의 실효성을 보장하는 혁신적 접근이다.

연구팀은 "의료·금융 등 개인정보 보호가 중요한 AI 서비스에 두루 활용될 수 있을 것"이라며 실용화 가능성을 강조했다. 특히 AI기본법 시행(2024년 제정, 2026년 본격 시행)과 맞물려 AI 사업자의 개인정보 처리 투명성 확보 의무 이행에 핵심 기술로 자리매김할 전망이다.

전문가 시각

ISMS-P 선임심사원 관점에서 스포터 기술은 '개인정보 파기(제21조)' 요구사항의 AI 환경 적용에 중대한 의미를 갖는다. 기존 ISMS-P 인증심사에서는 데이터베이스나 파일 시스템의 물리적 삭제를 주로 검증했으나, AI 모델의 경우 학습된 파라미터에 정보가 분산 저장되어 전통적 파기 방법론이 무력화된다. 스포터는 이러한 AI 특수성을 반영한 '파기 검증 메커니즘'을 제공함으로써, AI 서비스 사업자가 정보주체의 삭제 요구에 기술적으로 충실히 대응했음을 입증할 수 있는 근거를 마련한다.

기업 실무 관점에서는 AI 거버넌스 체계에 '언러닝 검증 프로세스'를 필수 통제항목으로 포함해야 한다. 특히 바이브 코딩으로 생성된 AI 기반 애플리케이션의 경우, 개발자가 언러닝 메커니즘을 간과하기 쉬우므로 코드 리뷰 단계에서 개인정보 학습·삭제 로직의 검증 가능성을 의무화해야 한다. LLM이 자동 생성한 코드는 대부분 단순 CRUD 구현에 집중하며, 'AI 모델 재학습 시 특정 데이터 제외' 같은 고도의 개인정보보호 요구사항을 반영하지 못한다. 개발 초기부터 스포터 같은 검증 도구를 CI/CD 파이프라인에 통합하는 'Privacy by Design' 접근이 필수적이다.

CPPG·ISMS-P 연계 포인트

1. 개인정보 파기(ISMS-P 2.8.5 / 개인정보보호법 제21조) AI 모델의 개인정보 파기는 단순 데이터 삭제를 넘어 '학습된 패턴의 제거'까지 포함한다. 스포터 같은 언러닝 검증 기술은 복구 불가능성 입증 수단으로, 파기 증적 관리 시 모델 재학습 로그와 검증 리포트를 함께 보관해야 한다.

2. 개인정보의 기술적·관리적 보호조치(ISMS-P 2.7 / 개인정보보호법 제29조) AI 시스템의 기술적 보호조치는 접근통제·암호화뿐 아니라 '학습 데이터 격리' '언러닝 메커니즘 구현'을 포함해야 한다. 특히 생성형 AI 서비스는 프롬프트 인젝션을 통한 삭제 정보 복원 시도를 차단하는 입력 검증 로직이 필수다.