청소년 AI 상담 증가, 개인정보·편향성 교육 부재 심각 - 디지털 리터러시 강화 시급

핵심 요약

• 한국언론진흥재단의 '2025 10대 청소년 미디어 이용 조사'에 따르면 청소년들의 AI 상담 활용이 증가하고 있으나, 관계 형성 능력 저하 우려 제기
• 생성형 AI의 올바른 활용법, 개인정보 보호, 저작권, AI 오류·편향성 등에 대한 교육이 크게 부족한 것으로 확인
• 청소년 대상 AI 리터러시 교육에 개인정보 보호와 AI 윤리 교육 통합 필요성 증대

주요 내용

한국언론진흥재단이 2025년 실시한 '10대 청소년 미디어 이용 조사'는 청소년들이 생성형 AI를 상담 도구로 활용하는 사례가 급증하고 있음을 보여준다. 2026년 현재 ChatGPT, Gemini 등 대화형 AI 서비스가 일상화되면서 청소년들은 고민 상담, 학습 지원, 대인관계 조언 등을 AI에게 요청하는 경향을 보이고 있다. 하지만 이러한 현상은 청소년들이 실제 인간관계에서 갈등을 해결하고 공감 능력을 키우는 기회를 잃을 수 있다는 우려를 낳고 있다.

더욱 심각한 문제는 청소년 대상 AI 교육의 질적 불균형이다. 현재 디지털새싹, 사이버가디언즈 등 정부 주도 교육 프로그램들이 AI 코딩과 활용법을 가르치고 있지만, 생성형 AI의 개인정보 보호 위험, 저작권 침해 가능성, AI의 환각(hallucination) 현상과 편향성 등 부작용에 대한 교육은 충분히 이뤄지지 않고 있다. 청소년들은 AI와의 대화 과정에서 민감한 개인정보를 무심코 입력하거나, AI가 생성한 편향된 정보를 비판 없이 수용할 위험에 노출되어 있다.

특히 청소년들이 AI 챗봇에게 가족관계, 교우관계, 성적 고민 등 민감한 내용을 상담하는 과정에서 개인정보 유출 위험이 크다. 대부분의 생성형 AI 서비스는 사용자 입력 데이터를 모델 학습에 활용하며, 클라우드 서버에 대화 내용이 저장될 수 있다. 2026년 현재 AI기본법이 시행 중이지만, 미성년자의 AI 서비스 이용에 대한 특별한 보호 조치나 보호자 동의 절차는 명확히 규정되지 않은 상태다.

교육부와 과학기술정보통신부는 Build with AI, ChatGPT 교육 활용 등 다양한 프로그램을 통해 청소년 AI 교육을 확대하고 있으나, 개인정보 보호와 AI 윤리를 통합한 커리큘럼 개발이 시급하다. 청소년들이 AI를 단순히 편리한 도구로만 인식하지 않고, 그 한계와 위험성을 이해하며 책임감 있게 활용할 수 있도록 디지털 리터러시 교육의 질적 전환이 필요한 시점이다.

전문가 시각

ISMS-P 심사 현장에서 최근 교육 기관과 에듀테크 기업들의 AI 서비스 도입이 급증하고 있음을 목격하고 있다. 그러나 청소년 사용자의 개인정보 처리에 대한 법정대리인 동의, 민감정보 최소 수집 원칙, 데이터 보유기간 설정 등 기본적인 개인정보 보호 조치조차 미흡한 경우가 많다. 특히 AI 상담 서비스의 경우 대화 내용에 건강정보, 심리상태 등 민감정보가 포함될 가능성이 높아 개인정보보호법상 별도 동의와 암호화 저장, 접근 통제가 필수적이다.

교육 현장에서는 청소년들에게 '프롬프트 개인정보 보호 원칙'을 가르쳐야 한다. AI에게 질문할 때 실명, 주소, 학교명 등 식별 가능한 정보를 포함하지 않도록 지도하고, AI 응답의 정확성을 비판적으로 검증하는 습관을 길러주어야 한다. 또한 AI기본법 제36조(AI 윤리 교육)에 따라 교육기관은 AI 활용 과정에서 발생할 수 있는 차별과 편향, 개인정보 침해 위험에 대해 체계적으로 교육할 의무가 있다. 디지털새싹과 같은 국가 교육 프로그램에 ISMS-P 기반 개인정보 보호 모듈을 통합하고, 청소년 AI 서비스 제공자에 대한 개인정보 영향평가(PIA)를 의무화하는 방안을 검토해야 할 시점이다.

CPPG·ISMS-P 연계 포인트

1. 민감정보 및 미성년자 개인정보 보호 강화 (개인정보보호법 제22조, 제22조의2) 14세 미만 아동의 개인정보 처리 시 법정대리인 동의가 필수이며, AI 상담 서비스에서 수집되는 건강·심리 정보는 민감정보로서 별도 동의와 암호화 등 안전성 확보조치가 요구된다. ISMS-P 인증 시 미성년자 정보처리 절차와 동의 관리 체계가 중점 심사 항목이다.

2. AI 서비스의 개인정보 영향평가 (개인정보보호법 제33조) 생성형 AI 기반 교육·상담 서비스는 대량의 개인정보를 자동 처리하므로 개인정보 영향평가 대상에 해당할 가능성이 높다. 특히 청소년 대상 서비스의 경우 데이터 학습 범위, 보유기간, 제3자 제공 여부를 명확히 하고 사전 위험 평가를 수행해야 한다.