오픈AI '청소년용 챗GPT' 출시…자해 감지 시 부모 통보, 개인정보보호 쟁점은?

핵심 요약

- 오픈AI가 2026년 청소년 전용 챗GPT를 출시하며, 자해·자살 관련 대화 감지 시 부모에게 알림을 전송하는 안전장치를 도입 - 알림은 인간 당직자가 검토하며 대화 세부 내용은 개인정보 보호를 위해 제거된 후 전달 - 불법 사망 소송 등 법적·규제 압박 속에서 나온 조치로, AI 서비스의 미성년자 보호와 프라이버시 보호 간 균형이 핵심 쟁점으로 부상

주요 내용

오픈AI는 2026년 8월 청소년 대상 챗GPT 서비스를 출시하면서 자해 및 자살 관련 대화를 감지할 경우 보호자에게 통보하는 시스템을 구축했다. 이는 AI 서비스가 미성년자에게 미칠 수 있는 잠재적 위험에 대한 사회적 우려와, 오픈AI가 현재 직면한 여러 건의 불법 사망 소송에 대응하기 위한 조치로 해석된다.

시스템 운영 방식을 보면, AI가 1차적으로 위험 신호를 감지한 후 인간 당직자가 2차 검토를 수행한다. 중요한 점은 부모에게 전달되는 알림에서 대화의 구체적 내용은 삭제되고, 위험 징후가 있다는 사실만 통보된다는 것이다. 이는 청소년의 프라이버시권과 안전 보호 의무 사이의 절충안으로 볼 수 있다.

그러나 이러한 접근은 여러 개인정보보호 쟁점을 야기한다. 첫째, AI 시스템이 미성년자의 민감한 대화 내용을 실시간으로 모니터링한다는 점에서 '감시'와 '보호'의 경계가 모호해진다. 둘째, 인간 검토자가 청소년의 사적 대화에 접근하는 과정에서 개인정보 처리의 적법성과 최소 수집 원칙 준수 여부가 문제될 수 있다.

특히 한국의 개인정보보호법 및 AI기본법(2024년 제정 추정) 관점에서 보면, 만 14세 미만 아동의 경우 법정대리인 동의가 필수이며, 14세 이상 청소년의 경우에도 민감정보 처리에 해당할 수 있는 정신건강 관련 대화 내용의 모니터링은 별도의 법적 근거가 필요하다. 오픈AI의 조치는 국제적으로 청소년 AI 서비스의 새로운 기준점이 될 가능성이 있다.

전문가 시각

ISMS-P 선임심사원 관점에서 볼 때, 이번 조치는 '안전조치 의무'와 '개인정보 최소 수집 원칙' 간 긴장관계를 보여준다. 청소년 보호라는 공익적 목적은 정당하나, 실시간 AI 모니터링과 인간 검토자의 개입은 정보주체(청소년)의 동의권과 자기결정권을 제약할 수 있다. 특히 대화 내용을 인간이 검토하는 과정에서 기술적·관리적 안전조치가 충분히 마련되지 않으면 2차 유출 위험도 존재한다. 기업은 검토자의 접근 권한 관리, 로그 기록, 열람 이력 추적 등 ISMS-P 인증 기준에 부합하는 통제 체계를 구축해야 한다.

국내 교육 현장에서 챗GPT 등 생성형 AI를 활용하는 디지털새싹, 사이버가디언즈 프로그램 운영 시에도 유사한 이슈가 발생할 수 있다. 청소년 대상 AI 교육 플랫폼을 운영하는 기관은 사전에 명확한 개인정보 처리방침을 수립하고, 학부모·학생에게 모니터링 범위와 방법을 투명하게 고지해야 한다. 또한 위험 감지 알고리즘의 오탐(false positive)으로 인한 과잉 개입을 방지하기 위해 인간 검토 단계의 전문성 확보와 판단 기준 문서화가 필수적이다.

CPPG·ISMS-P 연계 포인트

1. 민감정보 및 고유식별정보 처리 (개인정보보호법 제23조)
자해·자살 관련 대화는 정신건강 정보로서 민감정보에 해당할 수 있다. 이 경우 정보주체의 별도 동의가 필요하며, 생명·신체 보호를 위한 긴급 상황 예외 조항(법 제15조 제1항 제2호) 적용 여부를 신중히 검토해야 한다. ISMS-P 인증 시 민감정보 처리 절차의 적법성 입증이 핵심 심사 항목이다.

2. 개인정보 처리의 위탁 관리 (개인정보보호법 제26조, ISMS-P 2.8.2)
인간 당직자가 대화 내용을 검토하는 과정은 개인정보 처리 위탁에 해당할 수 있다. 위탁계약서 작성, 위탁업무 수행 목적 외 개인정보 처리 금지, 수탁자에 대한 관리·감독, 재위탁 제한 등의 통제가 필요하며, ISMS-P 인증 시 위탁 관리 체계의 적정성이 평가된다.