구글·메타, AI 이미지 편집 기능 개인정보 논란에 잇따라 중단... 'AI 생성물 진위성' 쟁점 부각

핵심 요약

- 구글이 항공·위성사진 AI 편집 기능을 허위 정보 우려로 출시 하루 만에 철회 - 메타도 인스타그램 공개 계정 대상 'AI 이미지 생성' 기능을 개인정보 보호 논란으로 중단 - AI 생성 이미지가 실제 사건 증거로 오인될 수 있는 진위성 문제와 개인정보 무단 학습 우려 동시 제기

주요 내용

2026년 8월, 글로벌 빅테크 기업들이 야심차게 출시한 AI 이미지 생성·편집 기능들이 잇따라 중단되며 AI 거버넌스의 한계가 드러나고 있다. 구글은 항공 및 위성사진을 AI로 편집할 수 있는 기능을 공개했으나, 허위 정보 생성 가능성에 대한 우려가 제기되자 출시 하루 만에 서비스를 철회했다.

로이터통신에 따르면 메타 역시 이달 초 인스타그램 공개 계정을 활용해 이미지를 생성하는 AI 기능 '뮤즈 이미지(Muse Image)'를 도입했다가 개인정보 보호 논란으로 서비스를 중단했다. 특히 AI가 생성한 이미지가 실제 사건의 증거 사진처럼 활용될 수 있다는 점이 가장 큰 우려 사항으로 지적됐다.

이번 사태는 생성형 AI 서비스의 두 가지 근본적인 문제를 동시에 노출시켰다. 첫째는 AI가 생성한 콘텐츠의 진위성(authenticity) 문제다. 항공·위성사진이나 실제 사진처럼 보이는 이미지가 AI로 조작될 경우, 재난·사고·범죄 현장 등 중요한 상황에서 잘못된 정보가 유포될 위험이 크다. 둘째는 AI 학습 과정에서 개인정보가 무단으로 수집·활용되는 문제다. 인스타그램 공개 계정의 이미지를 학습 데이터로 사용할 경우, 사용자 동의 없이 개인의 얼굴, 위치정보, 생활 패턴 등이 AI 모델에 반영될 수 있다.

EU AI법(AI Act)과 미국의 AI 행정명령 등 글로벌 AI 규제가 강화되는 상황에서, 빅테크 기업들은 혁신과 책임 사이의 균형점을 찾지 못하고 있다. 특히 한국에서도 2024년 제정된 AI기본법이 2026년 현재 본격 시행 단계에 접어들면서, AI 서비스 제공자의 투명성·설명가능성·안전성 확보 의무가 강화되고 있는 시점이다.

전문가 시각

ISMS-P 관점에서 이번 사례는 AI 서비스의 '사전 영향평가' 필요성을 명확히 보여준다. 구글과 메타 모두 서비스 출시 전 개인정보보호 영향평가(PIA) 및 AI 윤리 리스크 평가를 충분히 수행하지 않은 것으로 보인다. 특히 인스타그램 공개 계정 이미지를 학습 데이터로 활용하는 경우, 개인정보보호법상 '정보주체 동의'와 '목적 외 이용 제한' 원칙을 위배할 가능성이 높다. 공개된 정보라도 AI 학습이라는 새로운 목적으로 활용하려면 별도 동의가 필요하다는 것이 최근 개인정보보호위원회의 일관된 해석이다.

기업 실무 관점에서는 AI 서비스 출시 전 ①학습 데이터의 개인정보 포함 여부 검토 ②AI 생성물의 오남용 가능성 분석 ③허위정보 생성 방지 기술적 조치(워터마크, 메타데이터 삽입 등) ④서비스 철회 시나리오 사전 수립 등이 필수적이다. 특히 위성사진, 의료영상, 법적 증거자료 등 고신뢰성이 요구되는 분야에서는 AI 편집 기능 도입 시 더욱 신중한 접근이 필요하다. 'AI 거버넌스 체계 구축 → 사전 리스크 평가 → 단계적 출시 → 모니터링 및 개선'이라는 프로세스 없이는 글로벌 시장에서 규제 리스크와 평판 손실을 피할 수 없다.

CPPG·ISMS-P 연계 포인트

개인정보 영향평가(PIA) 의무 대상: 개인정보보호법 제33조에 따라 ①대규모 개인정보를 처리하거나 ②민감정보·고유식별정보를 처리하는 경우 영향평가를 수행해야 한다. AI 학습 데이터로 대량의 이미지(얼굴정보 포함 시 생체정보)를 활용하는 경우 PIA 대상에 해당하며, 평가 미실시 시 과태료 부과 대상이 된다.

목적 외 이용·제공 제한 원칙: 개인정보보호법 제15조, 제17조는 개인정보를 수집 목적 범위 내에서만 이용·제공하도록 제한한다. 인스타그램 공개 게시 목적으로 수집된 이미지를 AI 학습이라는 별도 목적으로 활용하려면 정보주체의 별도 동의가 필요하며, 이는 ISMS-P 인증 심사 시 핵심 점검 항목이다.