딥페이크 광고 시대, AI기본법으로 본 생성형 AI 콘텐츠 표시 의무와 개인정보 보호

핵심 요약

- 2026년 1월 시행된 인공지능기본법은 생성형 AI 콘텐츠에 대한 별도 표시 의무를 도입하여 딥페이크 광고 규제 체계 마련 - AI 생성 광고 콘텐츠의 투명성 확보가 소비자 기본권 보호와 개인정보 자기결정권 보장의 핵심 과제로 부상 - AI 광고 콘텐츠 제작 시 개인 초상권·음성권 침해 방지 및 데이터 처리 투명성 확보가 기업의 필수 준수 사항

주요 내용

딥페이크 기술이 광고 산업에 본격 활용되면서 생성형 AI로 제작된 콘텐츠에 대한 규제 필요성이 대두됐다. 2026년 1월 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)」은 AI 생성 콘텐츠에 대한 표시 의무를 명시하여 소비자의 알 권리를 보장하고 있다. 이는 AI 기술의 발전과 함께 가짜 콘텐츠와 실제를 구분할 수 없는 시대에 투명성을 확보하기 위한 법적 장치다.

특히 광고 분야에서 딥페이크 기술은 유명인의 얼굴과 음성을 합성하거나, 존재하지 않는 모델을 생성하는 등 다양하게 활용되고 있다. 그러나 이 과정에서 본인 동의 없는 초상권·음성권 침해, 개인정보 무단 학습, 허위·과장 광고 등의 문제가 발생할 수 있다. AI기본법은 이러한 위험을 예방하기 위해 AI 생성 콘텐츠임을 명확히 표시하도록 규정하고 있으며, 이는 「개인정보 보호법」상 정보주체 권리 보장과도 긴밀히 연계된다.

개인정보보호 관점에서 딥페이크 광고는 크게 두 가지 위험을 내포한다. 첫째, AI 모델 학습 과정에서 개인의 생체정보(얼굴, 음성 등)가 동의 없이 수집·처리될 수 있다. 둘째, 생성된 콘텐츠가 실제 인물로 오인되어 명예훼손이나 사생활 침해로 이어질 수 있다. AI기본법의 표시 의무는 이러한 위험을 최소화하고 소비자가 AI 생성 콘텐츠임을 인지할 수 있도록 하는 최소한의 안전장치로 작동한다.

현재 글로벌 차원에서도 EU AI Act, 미국 각 주의 딥페이크 규제법 등 유사한 규제가 확산되고 있다. 우리나라 AI기본법은 이러한 국제적 흐름에 부합하면서도 개인정보보호법, 정보통신망법 등 기존 법체계와의 조화를 고려한 규제 체계를 구축했다는 평가를 받고 있다.

전문가 시각

ISMS-P 심사 현장에서 AI 기술을 활용하는 기업들의 공통적인 고민은 "어디까지 표시해야 하는가"와 "개인정보 처리 근거를 어떻게 확보할 것인가"다. AI기본법 시행 이후 광고·마케팅 분야에서 생성형 AI를 활용하는 기업은 ① AI 생성 콘텐츠 표시 체계 구축 ② 학습 데이터의 적법한 수집·처리 근거 확보 ③ 생체정보 처리 시 별도 동의 절차 마련 ④ AI 생성 결과물에 대한 사전 검토 프로세스 구축이 필수적이다. 특히 유명인 딥페이크를 활용할 경우 초상권 계약과 별도로 AI 학습·생성 목적의 명시적 동의를 받아야 법적 리스크를 예방할 수 있다.

실무적으로는 AI 생성 콘텐츠에 대한 메타데이터 관리 체계 구축이 중요하다. 생성 일시, 사용 모델, 원본 데이터 출처, 처리 목적 등을 기록하고 보존함으로써 사후 분쟁 시 입증 자료로 활용할 수 있다. 또한 AI 생성 광고 콘텐츠 검토 시 개인정보보호책임자(CPO)와 법무팀의 사전 검토를 필수 절차로 포함시켜 규제 준수와 리스크 관리를 동시에 달성해야 한다. AI 거버넌스 체계 내에 '생성형 AI 콘텐츠 관리 정책'을 별도 수립하고, 정기적인 모니터링과 개선 절차를 마련하는 것이 바람직하다.

CPPG·ISMS-P 연계 포인트

AI 생성 콘텐츠 투명성 원칙: AI기본법상 생성형 AI 콘텐츠 표시 의무는 개인정보 보호법의 '처리 투명성' 원칙과 연계된다. 정보주체가 AI 생성 여부를 인지할 수 있도록 함으로써 자기결정권을 실질적으로 보장하며, ISMS-P 인증 심사 시 'AI 활용 서비스의 투명성 확보 방안'으로 평가된다.

생체정보의 특별 보호: 딥페이크 생성 시 활용되는 얼굴·음성 정보는 개인정보 보호법상 민감정보에 준하는 생체정보로서 별도 동의가 필요하다. ISMS-P 통제항목 중 '개인정보 수집 시 동의' 항목에서 생체정보 처리 목적, 보유기간, 제3자 제공 여부 등을 명확히 고지하고 동의받는 절차가 필수적으로 요구된다.