AI 언러닝 재학습 공격 방어 기술 개발…삭제된 개인정보 복원 차단

핵심 요약

- 연구팀이 AI 모델의 언러닝(삭제) 후 재학습 공격으로 정보가 복원되는 취약점을 방어하는 플러그인 기술 개발 - 기존 언러닝 기술에 쉽게 결합 가능한 형태로 설계되어 얼굴 인식, 유해 콘텐츠 삭제 등 개인정보 보호 분야에 적용 가능 - AI 모델의 '잊혀질 권리' 구현과 개인정보 완전 삭제 요구사항 충족을 위한 실무적 해법 제시

주요 내용

2026년 현재 AI 모델의 학습 데이터에서 개인정보를 삭제하는 '언러닝(Machine Unlearning)' 기술이 주목받고 있다. GDPR의 잊혀질 권리와 국내 개인정보보호법상 삭제 요구권 행사에 따라 AI 모델에서 특정 개인의 정보를 제거해야 하는 경우가 증가하면서, 언러닝 기술은 AI 서비스 사업자의 필수 기술로 자리잡고 있다.

그러나 최근 보안 연구에서 언러닝으로 삭제된 데이터가 재학습 공격(Relearning Attack)을 통해 다시 복원될 수 있다는 취약점이 드러났다. 공격자가 의도적으로 특정 패턴의 데이터를 반복 학습시키거나, 모델의 가중치 변화를 분석하면 삭제되었어야 할 개인정보의 흔적을 추출할 수 있는 것이다. 이는 단순히 데이터셋에서 정보를 제거하는 것만으로는 AI 모델의 완전한 정보 삭제를 보장할 수 없음을 의미한다.

이번에 개발된 기술은 기존 언러닝 알고리즘에 플러그인 형태로 결합되어 재학습 공격을 탐지하고 차단하는 방어층을 추가한다. 연구팀은 얼굴 인식 시스템에서 특정인의 생체정보를 삭제하거나, 생성형 AI에서 유해 콘텐츠 학습 데이터를 제거하는 등 개인정보 보호가 중요한 영역에서 활용될 것으로 전망했다.

특히 이 기술은 모델 전체를 재학습시키지 않고도 특정 데이터의 영향을 제거할 수 있어, AI 서비스 운영 효율성과 개인정보 보호 의무 이행을 동시에 달성할 수 있는 실용적 해법으로 평가받고 있다. 금융, 의료, 교육 등 민감정보를 다루는 AI 서비스에서 개인정보 삭제 요청 처리 시 기술적 대응 수단으로 주목받을 전망이다.

전문가 시각

ISMS-P 인증 실무 관점에서 AI 언러닝 기술은 '개인정보 파기' 통제항목의 기술적 구현 수단으로 중요성이 커지고 있다. 2026년 현재 AI 서비스를 운영하는 기업들은 이용자의 삭제 요구권 행사 시 학습 데이터뿐 아니라 모델 파라미터에 잔존하는 정보까지 완전히 제거했는지 입증해야 한다. 특히 바이브 코딩으로 빠르게 개발된 AI 애플리케이션일수록 데이터 생명주기 관리가 미흡한 경우가 많아, 언러닝 메커니즘을 초기 설계 단계부터 고려해야 한다.

재학습 공격 방어 기술은 단순한 보안 솔루션을 넘어 AI 거버넌스의 핵심 요소다. AI기본법 시행 이후 AI 사업자는 학습 데이터의 출처와 삭제 이력을 투명하게 관리해야 하며, 개인정보 삭제 요청에 대한 기술적 조치 내역을 문서화해야 한다. 기업들은 언러닝 기술 도입과 함께 ① 삭제 요청 접수-처리-검증 프로세스 수립 ② 모델 버전별 학습 데이터 추적 시스템 구축 ③ 삭제 효과성 검증을 위한 기술적 테스트 절차 마련이 필요하다.

CPPG·ISMS-P 연계 포인트

개인정보 파기의 기술적 조치: AI 모델의 학습 데이터 삭제 시 단순 데이터셋 제거뿐 아니라 모델 파라미터에 잔존하는 정보까지 완전히 제거해야 한다. 언러닝 기술 적용과 삭제 효과성 검증이 기술적 파기 조치의 핵심이다.

AI 서비스의 개인정보 생명주기 관리: AI 모델 개발-배포-운영-폐기 전 과정에서 학습 데이터의 수집 근거, 보유 기간, 삭제 요청 처리 절차를 명확히 정의하고, 재학습 공격 등 기술적 위협에 대응하는 보안 통제가 필요하다.