틱톡 TAC 현장 공개: AI 1차 필터링+인간 맥락 판단 2단계 콘텐츠 심사 체계

핵심 요약

- 틱톡이 AI 기반 1차 자동 심사 후 현지 전문 인력이 문화적 맥락을 판단하는 2단계 콘텐츠 심사 체계 운영 - 청소년 계정에 연령별로 50개 이상의 안전·개인정보 보호 설정 자동 적용 - AI 자동화 의사결정의 한계를 인정하고 인간 검토자의 최종 판단 권한 보장

주요 내용

틱톡이 2026년 8월 Trust and Safety(신뢰와 안전) 센터(TAC)를 통해 AI와 인간 심사자를 결합한 하이브리드 콘텐츠 모더레이션 체계를 공개했다. 이 체계는 AI가 1차적으로 유해 콘텐츠를 자동 차단하고, 문화적·언어적 맥락이 필요한 사안은 현지 전문 인력이 최종 판단하는 2단계 구조로 설계되어 있다.

특히 청소년 보호를 위해 연령에 따라 차별화된 안전 설정을 자동으로 적용하고 있다. 만 13세 미만, 13~15세, 16~17세 등 연령대별로 50개 이상의 안전·개인정보 보호 설정이 기본값으로 활성화되며, 한국 법령에 맞춰 특화된 보호 조치가 추가 적용된다. 이는 EU의 디지털서비스법(DSA) 및 각국의 아동 온라인 안전 규제에 대응하는 조치로 해석된다.

AI 자동 심사 시스템은 머신러닝 기반으로 폭력, 성적 콘텐츠, 혐오 표현 등을 실시간 탐지하지만, 풍자·패러디·예술적 표현 등 맥락 의존적 판단이 필요한 경우에는 반드시 인간 심사자가 개입한다. 이는 AI의 오탐(false positive) 문제를 최소화하고, 표현의 자유와 안전 사이의 균형을 맞추기 위한 전략이다.

한국 시장에서는 현지 법률 전문가와 심사 인력을 배치해 「정보통신망법」, 「청소년보호법」, 「개인정보보호법」에 따른 규제 준수를 강화하고 있다. 특히 2025년부터 시행된 AI기본법에 따라 자동화된 의사결정 과정의 투명성 확보와 이용자의 설명 요구권 보장을 위한 체계를 구축 중이다.

전문가 시각

ISMS-P 선임심사원 관점에서 틱톡의 하이브리드 심사 체계는 AI 자동화 의사결정의 한계를 인정하고 인간 개입(human-in-the-loop)을 제도화했다는 점에서 의미가 있다. 그러나 실무적으로는 ① AI 모델의 학습 데이터 편향성 ② 인간 심사자의 일관성 확보 ③ 심사 기준의 투명성 ④ 이의제기 프로세스의 실효성 등이 핵심 과제로 남는다. 특히 청소년 데이터 처리 시 「개인정보보호법」 제22조의4(민감정보 처리 제한)와 제28조의2(아동의 개인정보 보호)를 엄격히 준수해야 하며, 연령 인증 과정에서 수집된 생체정보 등의 안전한 처리가 필수적이다.

AI기본법 제15조(자동화 결정에 대한 설명 요구권)에 따라 콘텐츠 삭제·계정 정지 등 자동화된 결정에 대해 이용자가 설명을 요구할 경우, AI 모델의 판단 근거를 이해 가능한 수준으로 제공해야 한다. 이를 위해서는 설명 가능한 AI(XAI) 기술 도입과 함께, 비전문가도 이해할 수 있는 평이한 언어로 작성된 설명서 제공이 병행되어야 한다. 또한 ISMS-P 인증 심사 시 자동화 의사결정 프로세스의 문서화, 정기적 알고리즘 편향성 검토, 인간 심사자 교육 체계 등이 세부 점검 항목으로 추가될 것으로 예상된다.

CPPG·ISMS-P 연계 포인트

1. 자동화된 의사결정과 인간 개입 (AI기본법 제15조)
AI 시스템에 의한 자동화된 결정이 개인에게 중요한 영향을 미치는 경우, 이용자는 설명을 요구할 권리가 있으며, AI 사업자는 인간 개입 기회를 제공해야 한다. 틱톡 사례는 1차 AI 필터링 후 2차 인간 검토를 통해 이 요건을 충족하는 모델이다.

2. 아동·청소년 개인정보 보호 강화 (개인정보보호법 제28조의2)
14세 미만 아동의 개인정보 처리 시 법정대리인 동의가 필수이며, 연령에 적합한 개인정보 처리 방침을 수립해야 한다. 연령별로 차등화된 50개 이상의 보호 설정 자동 적용은 Privacy by Design 원칙의 실무 구현 사례로, ISMS-P 인증 심사 시 '개인정보 최소 수집' 및 '아동 보호 조치'의 우수 사례로 평가될 수 있다.