[단독] 의료기관 AI 활용 환자 안내문 작성, 비하 표현 논란...개인정보위 가이드라인 준수 필요

핵심 요약

- 의료기관이 환자 안내문 작성에 생성형 AI를 활용했으나, 환자 비하 표현이 포함되어 의료윤리 논란 발생 - 개인정보보호위원회가 발표한 '생성형 AI 개인정보 처리 안내서'의 이용 방식별 안전조치 및 내부 거버넌스 구축 필요성 강조 - "쉽게 설명"이라는 명분 하에 환자 존중 원칙이 흔들리며, AI 출력물에 대한 인간 검증 프로세스 미흡 문제 부각

주요 내용

의료 현장에서 생성형 AI를 활용한 환자 안내문 작성 과정에서 부적절한 표현이 포함되어 논란이 되고 있다. 해당 의료기관은 복잡한 의료 정보를 환자가 이해하기 쉽게 전달한다는 취지로 AI를 활용했으나, 결과물에 환자를 비하하는 듯한 표현이 포함되면서 의료윤리 측면에서 문제가 제기됐다.

개인정보보호위원회는 이미 '생성형 AI 개인정보 처리 안내서'를 통해 조직이 생성형 AI를 활용할 때 준수해야 할 원칙을 제시한 바 있다. 특히 △이용 방식별 안전조치 △내부 거버넌스 구축의 필요성을 핵심 요소로 강조하며, AI 활용 시 개인정보 보호와 윤리적 측면을 동시에 고려해야 한다고 명시했다.

이번 사건은 의료 분야에서 AI 활용이 확대되는 상황에서 발생한 전형적인 AI 거버넌스 실패 사례로 평가된다. 환자 눈높이에 맞춘 설명이라는 본래 목적과 달리, AI가 생성한 콘텐츠에 대한 의료진의 사전 검증이 제대로 이뤄지지 않아 환자 존중 원칙이 훼손된 것이다.

의료기관의 AI 활용은 진료 효율성 향상과 환자 커뮤니케이션 개선에 기여할 수 있으나, 생성형 AI의 한계와 편향성(bias) 문제를 간과해서는 안 된다. 특히 의료 분야는 환자의 민감정보를 다루는 영역인 만큼, AI 출력물에 대한 인간 중심의 최종 검증 절차가 필수적이다.

전문가 시각

ISMS-P 선임심사원 관점에서 본 사건은 조직의 AI 활용 프로세스에 명확한 통제 절차가 부재했음을 보여준다. 개인정보 처리 단계에서 생성형 AI를 도입할 경우, 단순히 기술 도입에 그치는 것이 아니라 '입력 데이터 검증 → AI 처리 → 출력물 검토 → 승인 및 게시'의 전 과정에 대한 책임 있는 거버넌스 체계를 수립해야 한다. 특히 의료·금융 등 고위험 분야에서는 AI 출력물을 그대로 사용하기 전 반드시 전문가의 사전 검수를 의무화하는 내부 규정이 필요하다.

기업과 공공기관은 이번 사례를 타산지석으로 삼아, 생성형 AI 활용 정책에 ①AI 사용 목적 및 범위 명확화 ②출력물 품질 검증 프로세스 ③윤리 가이드라인 준수 여부 점검 ④담당자 교육 및 책임 소재 명시 등을 포함해야 한다. 특히 대민 서비스에 AI를 활용할 경우, 서비스 대상자의 인격권과 개인정보자기결정권 보호를 최우선으로 고려하는 AI 윤리 프레임워크 구축이 시급하다.

CPPG·ISMS-P 연계 포인트

1. 생성형 AI 활용 시 개인정보 처리 안전조치 (ISMS-P 2.8.3 개인정보 처리 단계별 안전조치)
조직이 생성형 AI를 활용하여 개인정보를 처리하거나 대민 서비스를 제공할 때는 수집·이용·제공·파기 등 각 단계별로 적절한 안전조치를 수립해야 한다. 특히 AI 학습 데이터 입력 시 개인정보 포함 여부 검토, 출력물의 개인정보 노출 가능성 점검, 편향성 및 차별 요소 제거 등이 필수적이다.

2. AI 거버넌스와 내부 관리체계 (ISMS-P 1.2.2 최고경영자의 참여 및 조직 구성)
AI 시스템 도입 및 운영에 대한 최고경영진의 명확한 책임과 역할 정의가 필요하다. AI 윤리위원회 구성, AI 사용 정책 수립, 정기적인 모니터링 및 감사 체계 마련 등 조직 차원의 거버넌스 프레임워크를 통해 AI 오남용을 예방하고, 사고 발생 시 신속한 대응 체계를 갖춰야 한다.