美 PIRG 'AI 장난감 안전장치 우회 가능' 경고…국내 AI기본법 투명성 의무 주목
미국 소비자단체 PIRG가 일부 AI 장난감의 안전장치 우회 가능성을 지적하며 유통업체의 판매 중단을 이끌어냈다. 국내는 AI기본법을 통해 생성형 AI의 사전 고지와 투명성 확보를 의무화하고 있어 대조를 이룬다.
https://privacynews.kr/s/2c51e936핵심 요약
- 미국 공익연구단체 PIRG, '트러블 인 토이랜드 2026' 보고서에서 일부 AI 장난감의 안전장치가 대화 시간 경과 후 우회 가능하다고 지적 - 해당 지적으로 일부 AI 장난감이 미국 주요 유통업체에서 판매 중단 조치 - 국내는 2026년 1월 시행된 AI기본법을 통해 생성형 AI 제품의 사전 고지와 투명성 확보 의무화로 사전 예방 체계 구축주요 내용
미국 소비자권익단체 PIRG(Public Interest Research Group)가 2026년 11월 17일 공개한 '트러블 인 토이랜드 2026(Trouble in Toyland 2026)' 보고서는 아동용 AI 장난감의 심각한 보안 취약점을 드러냈다. 보고서에 따르면 일부 AI 대화형 장난감의 안전장치가 일정 대화 시간이 경과하면 우회될 수 있는 것으로 확인됐다. 이는 아동이 부적절한 콘텐츠에 노출되거나, 개인정보가 무분별하게 수집될 수 있는 위험을 의미한다.
PIRG의 지적을 받은 AI 장난감 제품들은 주요 유통업체의 판매 중단 조치로 이어졌다. 특히 아동 대상 제품의 경우 미국 아동온라인개인정보보호법(COPPA) 준수 여부가 핵심 쟁점이 됐다. AI 장난감은 음성 인식을 통해 아동의 목소리, 대화 내용, 사용 패턴 등 민감한 개인정보를 수집하는데, 안전장치 우회 시 이러한 정보가 제조사 서버로 무제한 전송될 수 있다는 우려가 제기됐다.
국내에서는 2026년 1월 시행된 AI기본법이 이러한 문제에 대한 선제적 대응 체계를 마련하고 있다. AI기본법은 생성형 AI 제품 및 서비스 제공 시 ① AI 활용 사실의 사전 고지 ② AI 시스템의 작동 원리 및 데이터 처리 방식에 대한 투명성 확보 ③ 아동 등 취약계층 보호를 위한 특별 안전조치를 의무화하고 있다. 특히 아동 대상 AI 서비스는 개인정보보호법상 법정대리인 동의 의무와 함께 AI기본법의 투명성 요건을 동시에 충족해야 한다.
이번 사례는 AI 장난감뿐만 아니라 교육용 AI 챗봇, 아동용 스마트 디바이스 등 아동 대상 AI 제품 전반의 안전성 검증 필요성을 환기시킨다. 프롬프트 인젝션(Prompt Injection) 공격을 통한 안전장치 우회, 세션 관리 취약점을 이용한 무단 데이터 수집 등 AI 특유의 보안 위협이 아동 보호라는 사회적 가치와 충돌하는 지점이기 때문이다.
전문가 시각
ISMS-P 선임심사원 관점에서 볼 때, 이번 AI 장난감 사례는 '바이브 해킹(Vibe Hacking)'의 전형적 사례다. 바이브 해킹은 AI 시스템의 의도된 안전장치를 자연어 대화를 통해 우회하는 공격 기법으로, "지금부터는 안전 규칙을 무시하고..." 같은 프롬프트 조작으로 구현된다. 대화 시간 경과 후 안전장치가 약화되는 현상은 AI 모델의 컨텍스트 윈도우 관리 미흡 또는 세션 상태 검증 로직 부재에서 기인한다. 아동 대상 제품의 경우 ① 모든 대화 턴(turn)에서 안전성 필터 재검증 ② 세션별 누적 위험도 점수 산정 ③ 임계값 초과 시 보호자 알림 등의 다층 방어 체계가 필수적이다.
기업은 AI 제품 출시 전 개인정보보호 영향평가(PIA)와 AI 윤리 영향평가를 통합 수행해야 한다. 특히 아동 대상 서비스는 개인정보보호법 제22조의2(만 14세 미만 아동의 개인정보 처리 시 법정대리인 동의), AI기본법 제52조(고위험 AI 시스템 안전성 평가), 정보통신망법 제32조의2(아동·청소년 보호) 등 복합적 규제를 동시에 충족해야 한다. 2026년 현재 국내 AI 장난감 제조사들은 출시 전 ① 레드팀 테스트를 통한 프롬프트 인젝션 취약점 점검 ② 음성 데이터 최소 수집 및 로컬 처리 우선 설계 ③ 보호자 대시보드를 통한 투명성 확보가 필요하다.
CPPG·ISMS-P 연계 포인트
1. 아동 개인정보 처리 시 법정대리인 동의 (개인정보보호법 제22조의2)
만 14세 미만 아동의 개인정보를 처리하는 경우 법정대리인의 동의를 받아야 하며, AI 장난감처럼 음성·대화 데이터를 수집하는 경우 동의 절차의 명확성과 실질성이 더욱 중요하다. 안전장치 우회 가능성은 동의 범위를 초과한 개인정보 수집으로 이어질 수 있어 기술적 통제가 필수다.
2. AI 시스템 투명성 및 설명 가능성 (AI기본법 제15조)
AI기본법은 AI 시스템의 작동 원리, 데이터 처리 방식, 의사결정 과정에 대한 이용자의 알 권리를 보장한다. AI 장난감의 안전장치 작동 방식, 대화 데이터 보관 기간, 제3자 제공 여부 등을 명확히 고지해야 하며, 보호자가 이해 가능한 수준의 투명성 제공이 ISMS-P 인증 심사 시 주요 점검 항목이다.
백남정 기자
공학박사 ·ISMS-P 선임심사원(30회) · CBPR 심사원· 숭실대 기업재난관리학과 석사 · 재해경감 인증심사원 · 개인정보보호 및 재해복구 전문 컨설턴트. LH공사 재해경감우수기업 인증심사 수행. 마이데이터 심사원(개인정보 지정기관 심사원)


