AI 복지서비스 확대 시대, 디지털 격차와 개인정보보호 균형 과제

핵심 요약

- AI 복지서비스는 단순 개인정보보호를 넘어 능력·환경 불문 모든 국민의 안전한 이용을 보장하는 사회적 안전체계 필요 - 2026년 현재 AI 기반 복지 행정이 확대되면서 디지털 취약계층의 접근성과 보안 균형이 핵심 과제로 부상 - AI 자동화 시스템의 편의성 이면에 알고리즘 편향, 정보 격차, 개인정보 오남용 위험 상존

주요 내용

2026년 7월 현재 정부와 지자체는 AI 기술을 활용한 복지서비스를 빠르게 확대하고 있다. 맞춤형 복지 추천, 자동 자격 심사, AI 챗봇 상담 등 행정 효율화와 국민 편의 향상을 목표로 한 시스템이 속속 도입되고 있다. 그러나 이러한 '빠르고 똑똑한' AI 복지가 과연 모든 국민에게 안전한지에 대한 질문이 제기되고 있다.

AI 복지서비스의 안전성은 단순히 개인정보를 암호화하고 접근 권한을 관리하는 기술적 보안을 넘어선다. 고령층, 장애인, 저소득층 등 디지털 취약계층이 AI 시스템을 이해하고 활용할 수 있는 능력, AI 판단 결과에 대한 설명 가능성, 잘못된 자동화 결정에 대한 이의 제기 절차 등이 모두 포함된 포괄적 개념이다. 특히 복지 대상자 선정과 같은 민감한 의사결정에 AI가 활용될 경우, 알고리즘의 편향성이 특정 집단을 체계적으로 배제하는 결과를 초래할 수 있다.

최근 일부 지자체에서 도입한 AI 복지 상담 시스템의 경우, 방언이나 비표준어 사용자의 질의를 제대로 이해하지 못하거나, 복잡한 가구 상황을 단순화하여 부적절한 복지 정보를 제공하는 사례가 보고되고 있다. 또한 AI가 수집·분석하는 복지 수급자의 생활 패턴, 소비 데이터, 건강 정보 등은 고도로 민감한 개인정보로, 이에 대한 통합 관리와 보호 체계가 미흡할 경우 대규모 개인정보 유출 사고로 이어질 위험이 크다.

사회적 안전체계로서의 AI 복지는 기술 접근성(디지털 리터러시 교육), 알고리즘 투명성(설명 가능한 AI), 개인정보 최소 수집 원칙, 인간 개입 보장(AI 결정에 대한 재심사 요청권) 등을 종합적으로 고려해야 한다. 2024년 제정된 AI기본법 체계 내에서도 공공 AI 서비스의 신뢰성 확보와 취약계층 보호를 명시하고 있어, 복지 분야 AI 도입 시 이러한 법적 요구사항을 충족하는 거버넌스 체계 구축이 필수적이다.

전문가 시각

ISMS-P 심사 관점에서 볼 때, AI 복지서비스는 개인정보 생명주기 전반에 걸친 위험 관리가 요구되는 고위험 서비스다. 특히 ① AI 학습 데이터 단계에서의 비식별 처리 적정성, ② 자동화 결정 과정의 로그 기록 및 추적 가능성, ③ 복지 민감정보의 접근 통제 및 암호화, ④ AI 시스템 오작동 시 즉각 대응 체계가 핵심 통제 항목이다. 많은 공공기관이 AI 도입의 효율성에만 집중하고 개인정보보호 영향평가를 형식적으로 진행하는 경향이 있는데, 복지 분야는 정보 주체의 취약성을 고려할 때 더욱 엄격한 사전 검토가 필요하다.

실무적으로는 AI 복지서비스 설계 단계부터 '디지털 포용(Digital Inclusion)' 원칙을 내재화해야 한다. 단순히 AI 시스템을 구축하는 것이 아니라, 비대면 채널 이용이 어려운 계층을 위한 대면 지원 병행, 자동화 결정에 대한 명확한 설명 제공, 정보 주체의 자기결정권 보장(AI 분석 거부 옵션) 등을 제도화해야 한다. 또한 AI 시스템 공급업체 선정 시 보안 요구사항을 계약서에 명시하고, 정기적인 알고리즘 편향성 검사와 개인정보 처리 실태 점검을 수행하는 것이 중요하다.

CPPG·ISMS-P 연계 포인트

자동화 의사결정과 정보 주체 권리: 개인정보보호법 제37조의2에 따른 자동화 결정에 대한 설명 요구권은 AI 복지서비스에 직접 적용된다. 복지 대상자 선정, 급여 산정 등 중요한 결정을 AI가 수행할 경우, 정보 주체는 그 기준과 과정에 대한 설명을 요구할 수 있으며, 기관은 이를 이해 가능한 형태로 제공해야 한다.

민감정보 처리의 특례와 안전조치: 복지 서비스는 건강, 경제적 상황 등 민감정보를 필수적으로 처리한다. ISMS-P 인증 기준 2.8.2(민감정보 보호)에 따라 암호화, 접근 통제, 별도 저장 등 강화된 안전조치가 필요하며, AI 학습 데이터로 활용 시에도 가명·익명 처리의 적정성을 법률 전문가와 함께 검토해야 한다.